如果y=1，那么$ h_\theta(x) \approx 1 $，进而$ Θ^Tx \gg 0 $如果y=0，那么$ h_\theta(x) \approx 0 $，进而$ Θ^Tx \ll 0 $

代价函数 现在来讨论神经网络模型的代价函数。首先有如下定义： L：网络中的层数 $ s_l $：第l层中的单元数（不包括偏差单元） K：输出单元个数 我们记$ h_Θ(x)_k $表示第k个输出单元。回顾在逻辑回归中，我们使用如下代价函数： $$ J(θ) = - \frac{1}{m} \displaystyle \sum_{i=1}^m [y^{(i)}\log (h_θ (x^{(i)})) + (1...

神经网络(Neural Network)是一种十分强大的机器学习算法。神经网络的模型类似脑细胞传递神经信号的方式。下面是单个脑细胞的示意图：

图1采用$ y = θ_0 + θ_1x $的直线作为假设函数，然而训练数据集看起来并不适合直线，所以假设函数看起来不太合适。图2采用$ y = θ_0 + θ_1x + θ_2x^2 $，我们得到了一个拟合度更好的曲线。观察图3，貌似的，通过添加高阶特征，我们获得了更好的拟合。然而，如果加入过多的特征，尽管可以获得“完美”的拟合度，但是却不是...

分类(classification)问题的一种实现方式是，使用线性回归(linear regression)，对于所有的预测结果，以某个值作为分界。比如小于0.5意味着0，大于0.5意味着1。然而，这种方法不够好，因为分类问题并不能用线性方程表示。

多元线性回归 多特征 多个特征变量也称为多元线性回归(multivariate linear regression)。先解释一些符号含义： $ x^{(i)} $ 表示训练集中的第i组用例 $ x^{(i)}_j $ 表示第i组用例中的第j个特征变量 m表示训练用例的总数 n表示每组用例的特征数 多个特征变量有如下假设函数： $$ h_θ(x) = θ_0 + θ_1x_1+ θ_2x_2+ θ_3x_3...

介绍 什么是机器学习？ 有两种定义。Arthur Samuel如此描述机器学习：一个领域的研究，旨在研究，在不进行编程的情况下，让计算机具有学习能力。 Tom Mitchell给出了一个更为现代的定义：一个计算机程序从经验E以及评判标准P中学习如何完成任务T，随着E的累积，P得到提升。 例如，下棋游戏中： E：在很多盘棋局中的经验 ...