chapter11.md 991 B
11.10
$$ \hat{f}(x) \simeq f(x{k})+\langle \nabla f(x{k}),x-x{k} \rangle + \frac{L}{2}\left | x-x{k} \right|^{2} $$
[推导]： $$ \begin{aligned} \hat{f}(x) &\simeq f(x{k})+\langle \nabla f(x{k}),x-x{k} \rangle + \frac{L}{2}\left | x-x{k} \right|^{2} \ &= f(x{k})+\langle \nabla f(x{k}),x-x{k} \rangle + \langle\frac{L}{2}(x-x{k}),x-x{k}\rangle \ &= f(x{k})+\langle \nabla f(x{k})+\frac{L}{2}(x-x{k}),x-x{k} \rangle \ &= f(x{k})+\frac{L}{2}\langle\frac{2}{L}\nabla f(x{k})+(x-x{k}),x-x{k} \rangle \ &= f(x{k})+\frac{L}{2}\langle x-x{k}+\frac{1}{L}\nabla f(x{k})+\frac{1}{L}\nabla f(x{k}),x-x{k}+\frac{1}{L}\nabla f(x{k})-\frac{1}{L}\nabla f(x{k}) \rangle \ &= f(x{k})+\frac{L}{2}\left| x-x{k}+\frac{1}{L}\nabla f(x{k}) \right|{2}^{2} -\frac{1}{2L}\left|\nabla f(x{k})\right|{2}^{2} \ &= \frac{L}{2}\left| x-(x{k}-\frac{1}{L}\nabla f(x{k})) \right|{2}^{2} + const \qquad (因为f(x{k})和\nabla f(x_{k})是常数) \end{aligned} $$