不论有没有单调性, 都有反例.
例如取f(x)为Dirichlet函数: 当x为有理数时, f(x) = 1, 当x为无理数时, f(x) = 0.
可知极限lim{x → 0} f(x)不存在.
再取g(x), 当1/2 ≤ x < 1时, g(x) = 1/2, 当1/3 ≤ x < 1/2时, g(x) = 1/3,...
当1/n ≤ x < 1/(n-1)时, g(x) = 1/n,...
此外g(0) = 0, g(-x) = -g(x).
可知g(x)单调递增, lim{x → 0} g(x) = 0.
然而, g(x)取值总为有理数, 因此f(g(x)) = 1, lim{x → 0} f(g(x)) = 1.
但是不成立lim{x → 0} f(x) = 1.
究其原因, 即便g(x)是单调的, 也不保证在x → c的过程中能取遍a附近的所有值.
所以lim{x → c} f(g(x)) = b只给出了f(x)在a的邻域中部分点处的信息.
不能得到完全的收敛性.
证明中的问题出在令x = g(h)这一步.
lim{x → a} f(x) = b按定义是指:
任给ε > 0, 存在δ > 0使0 < |x-a| < δ时恒有|f(x)-b| < ε.
但是并不是对任意满足0 < |x-a| < δ的x都能找到h使g(h) = x.
建议在用ε-δ证明极限时把逻辑写清楚.
比如要证lim{x → a} f(x) = b, 就写如何对ε > 0找到δ > 0,
如何对0 < |x-a| < δ证明不等式|f(x)-b| < ε.
按逻辑顺序写, 比较容易发现问题.
是有反例。只要g(h)恒等于a, f(a)=b, 则命题假设都成立。然后,随便找一个结论不成立的函数f即可。
个人觉得是错误的 不能确定f极限的存在性 证明过程的(1)有问题