建议先花点时间实现一个简单能用的算法，比如线性回归预测房价，不需要一开始就花很多时间设计复杂的算法（在软件开发中叫避免过早优化），你可以先实现能用的算法，然后利用上篇文章从 0 开始机器学习 - 机器学习算法诊断中的学习曲线等诊断法来分析算法的优化方向，这样一个简单的算法就成为了优化问题的好工具！

当我们设计了一个机器学习算法，比如线性回归或逻辑回归，并且算法已经能够正常工作，只是效果还不是太好，那用什么方法来提高算法的性能或者准确度呢？或者说在想办法提升性能之前，有没有一种方法来告诉我们下一步对我们设计的机器学习算法该采取什么步骤，比如：

神经网络可以看做是复杂逻辑回归的组合，因此与其类似，我们训练神经网络也要定义代价函数，之后再使用梯度下降法来最小化代价函数，以此来训练最优的权重矩阵。

一、问题描述 今天登龙跟大家分享下使用前馈神经网络识别 10 种类型手写字符的方法，不太了解神经网络基础的同学，可以查看我上一篇文章：从 0 开始机器学习- 深入浅出神经网络基础 我们的目标就是用一个已经训练好的神经网络来预测下面这 10 类手写字符 [0 - 9]： 每个字符是一个 20 X 20 = 400 像素的图片： OK！我们...