如何用Python编写多层感知器神经网络进行深度学习笔记？

本文共计2629个文字，预计阅读时间需要11分钟。

神神经网络感知器+0x00+概述+强大的库已存在，如TensorFlow，PyTorch，Keras等。本文将介绍在Python中创建多层感知器（MLP）神经网络的基础知识。感知器是神经网络的基本组成部分。‘感’

神经网络感知器

0x00 概述

强大的库已经存在了，如：TensorFlow，PyTorch，Keras等等。

本文将介绍在Python中创建多层感知器(MLP)神经网络的基本知识。

感知器是神经网络的基本组成部分。感知器的输入函数是权重，偏差和输入数据的线性组合。具体来说：

in_j = weight input + bias.(in_j =权重输入+偏差)

在每个感知器上，我们都可以指定一个激活函数g。

激活函数是一种确保感知器“发射”或仅在达到一定输入水平后才激活的数学方法。常见的非线性激活函数为S型，softmax，整流线性单位(ReLU)或简单的tanH。

激活函数有很多选项，但是在本文中我们仅涉及Sigmoid和softmax。

图1：感知器

对于有监督的学习，我们稍后将输入的数据通过一系列隐藏层转发到输出层。这称为前向传播。

在输出层，我们能够输出预测y。通过我们的预测y，我们可以计算误差| y*-y | 并使误差通过神经网络向后传播。这称为反向传播。

通过随机梯度下降(SGD)过程，将更新隐藏层中每个感知器的权重和偏差。

图2：神经网络的基本结构

现在我们已经介绍了基础知识，让我们实现一个神经网络。我们的神经网络的目标是对MNIST数据库中的手写数字进行分类。