解:A、(a-b)2=a2-2ab+b2为乘法运算,所以A选项不正确;B、a2-2a+3=a(a-2)+3,只是部分分解了,所以B选项不正确;C、a2-1=a(a-1a),因式中出现了分式,所以C选项不正确;D、a2-3a-4=(a+1)(a-4),所以D选项正确.故选D.