(1)当m=-1时,f(x)=-x2-x+lnx,
所以f′(x)=-2x-1+=-,
所以当0<x<,f′(x)>0,当x>,f′(x)<0,
因此当x=时,f(x)max=f()=--ln2.(3分)
(2)f′(x)=2mx-1+=,
即2mx2-x+1<0在(0,+∞)上有解.
①m≤0显然成立;
②m>0时,由于对称轴x=>0,故△=1-8m>0,所以m<,
综上,m<.(8分)
(3)因为f(1)=m-1,f′(1)=2m,所以切线方程为y-m+1=2m(x-1),即y=2mx-m-1,
从而方程mx2-x+lnx=2mx-m-1在(0,+∞)上只有一解.
令g(x)=mx2-x+lnx-2mx+m+1,则g′(x)=2mx-1-2m+==(10分)
所以1°m=,g′(x)≥0,所以y=g(x)在x∈(0,+∞)单调递增,且g(1)=0,所以mx2-x+lnx=2mx-m-1只有一解.(12分)
2°0<m<,x∈(0,1),g′(x)>0;x∈(1,),g′(x)<0;x∈(,+∞)),g′(x)>0,
由g(1)=0及函数单调性可知g()<0,
因为g(x)=mx[x-(2+)]+m+lnx+1,取x=2+,则g(2+)>0.
因此在(,+∞)),方程mx2-x+lnx=2mx-m-1必有一解,从而不符题意(14分)
3°m>,x∈(0,),g′(x)>0;x∈(,1)),g′(x)<0;x∈(1,+∞),g′(x)>0,
同理在(0,),方程mx2-x+lnx=2mx-m-1必有一解,从而不符题意.(16分)