动手学pytorch-多层感知机

 约 7 分钟

image.png
首先我们要知道多层感知机的原理是什么?

多层感知机(multilayer perceptron,MLP)介绍多层神经网络的概念:

对于填空题正确的权重矩阵W的数量应该为:
256乘以256乘以1000+1000+10=65546000
(inputs_numbers*hidden_numbers)+hidden_numbers乘以output_numbers

隐藏层:


下图展示了一个多层感知机的神经网络图,它含有一个隐藏层,该层中有5个隐藏单元。
Image Name
image.png

激活函数


上述问题的根源在于全连接层只是对数据做仿射变换(affine transformation),而多个仿射变换的叠加仍然是一个仿射变换。解决问题的一个方法是引入非线性变换,例如对隐藏变量使用按元素运算的非线性函数进行变换,然后再作为下一个全连接层的输入。这个非线性函数被称为激活函数(activation function)。

下面我们介绍几个常用的激活函数:

ReLU函数
ReLU(rectified linear unit)函数提供了一个很简单的非线性变换。给定元素x,该函数定义为

ReLU(x)=max(x,0).

可以看出,ReLU函数只保留正数元素,并将负数元素清零。为了直观地观察这一非线性变换,我们先定义一个绘图函数xyplot。

%matplotlib inline
import torch
import numpy as np
import matplotlib.pyplot as plt
import sys
sys.path.append("/home/kesci/input")
import d2lzh1981 as d2l
print(torch.__version__)

def xyplot(x_vals, y_vals, name):
    # d2l.set_figsize(figsize=(5, 2.5))
    plt.plot(x_vals.detach().numpy(), y_vals.detach().numpy())
    plt.xlabel('x')
    plt.ylabel(name)
    
x = torch.arange(-8.,8.,0.1, requires_grad=True)
y = x.relu()
xyplot(x, y, 'relu')
y.sum().backward()#激活函数求导时,须记住要用y.sum(),因为利用backward()函数时,必须要为标量,故用sum函数相加,然后输出x.grad 为张量。如果不加sum函数,编译器就会显示梯度只能为标量(即一个数)输出隐式地创建
xyplot(x, x.grad, 'grad of relu')

得到处理后的直方图。

image.png

Sigmoid函数
sigmoid函数可以将元素的值变换到0和1之间:

sigmoid(x)=1/1+exp⁡(−x).


依据链式法则,sigmoid函数的导数

sigmoid′(x)=sigmoid(x)(1−sigmoid(x)).

下面绘制了sigmoid函数的导数。当输入为0时,sigmoid函数的导数达到最大值0.25;当输入越偏离0时,sigmoid函数的导数越接近0。
tanh函数
tanh(双曲正切)函数可以将元素的值变换到-1和1之间:

tanh(x)=1−exp⁡(−2x)/(1+exp⁡(−2x)).

我们接着绘制tanh函数。当输入接近0时,tanh函数接近线性变换。虽然该函数的形状和sigmoid函数的形状很像,但tanh函数在坐标系的原点上对称。

依据链式法则,tanh函数的导数

tanh′(x)=1−tanh(x)**2.

下面绘制了tanh函数的导数。当输入为0时,tanh函数的导数达到最大值1;当输入越偏离0时,tanh函数的导数越接近0。

关于激活函数的选择


ReLu函数是一个通用的激活函数,目前在大多数情况下使用。但是,ReLU函数只能在隐藏层中使用。

用于分类器时,sigmoid函数及其组合通常效果更好。由于梯度消失问题,有时要避免使用sigmoid和tanh函数。

在神经网络层数较多的时候,最好使用ReLu函数,ReLu函数比较简单计算量少,而sigmoid和tanh函数计算量大很多。

在选择激活函数的时候可以先选用ReLu函数如果效果不理想可以尝试其他激活函数。

最后贴上pytorch的多层感知机实现的代码:

import torch
from torch import nn
from torch.nn import init
import numpy as np
import sys
sys.path.append("/home/kesci/input")
import d2lzh1981 as d2l

print(torch.__version__)
num_inputs, num_outputs, num_hiddens = 784, 10, 256

net = nn.Sequential(
    d2l.FlattenLayer(),
    nn.Linear(num_inputs, num_hiddens),
    nn.ReLU(),
    nn.Linear(num_hiddens, num_outputs),
)

for params in net.parameters():
    init.normal_(params, mean=0, std=0.01)
batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(
    batch_size, root='/home/kesci/input/FashionMNIST2065')
loss = torch.nn.CrossEntropyLoss()

optimizer = torch.optim.SGD(net.parameters(), lr=0.5)

num_epochs = 5
d2l.train_ch3(
    net,
    train_iter,
    test_iter,
    loss,
    num_epochs,
    batch_size,
    None,
    None,
    optimizer)
阅读 287

推荐阅读
目录