(1)
f(x)=1/3x^3-(m+1)/2*x^2
f'(x)=x^2-(m+1)x=x[x-(m+1)]
若f(x)在x=1处取得极小值,那么f'(1)=0
∴m=0
此时,f'(x)=x(x-1),符合题意
∴m=0
(2)
f(x)在(2,+∞)上为增函数
那么x>2时,f'(x)≥0恒成立
即x[x-(m+1)]≥0
x-(m+1)≥0恒成立
∴m+1≤x
只需 m+1≤2,
∴m≤1
(3)
h(x)= 1/3x^3-(m+1)/2*x^2-(1/3-mx)
h'(x)=x^2-(m+1)x+m
=(x-1)(x-m)
∵m<1
∴x
m
∴h(x)极大值=h(m)=1/3m^3-(m+1)m^2/2+m^2-1/3
h(x)极小值=h(1)=(m-1)/2
h(x)有3个零点,需
h(x)极小值<0,m<1均符合
h(x)极大值>0
即1/3m^3-(m+1)m^2/2+m^2-1/3>0
m^3-3m^2+2<0
(m-1)(m^2-2m-2)<0
∵m<1
∴m^2-2m-2>0
解得m<1-√3 或m>1+√3(舍去)
∴m的取值范围是m<1-√3