五年前，AI领域的知名研究者Andrej Karpathy发文称，传统人工编程属于“软件1.0”，“软件2.0”时代将以神经网络来编程，在这个过渡过程中，将涌现像GitHub这样的重量级平台。

迄今，人们对神经网络的一大疑虑是，它是难以解释的黑盒。本文则主要从理论上理解为什么神经网络对模式识别、分类效果这么好，其本质是通过一层层仿射变换和非线性变换把原始输入做扭曲和变形，直至可以非常容易被区分不同的类别。实际上，反向传播算法（BP) 其实就是根据训练数据不断地微调这个扭曲的效果。本文用多张...

作者｜Lilian Weng、Greg Brockman翻译｜董文文AI领域的许多最新进展都围绕大规模神经网络展开，但训练大规模神经网络是一项艰巨的工程和研究挑战，需要协调GPU集群来执行单个同步计算。随着集群数和模型规模的增长，机器学习从业者开发了多项技术，在多个GPU上进行并行模型训练。乍一看，这些并行技术令人生畏，但只需...

作者｜Jean de Dieu Nyandwi来源｜机器之心11958 年：感知机的兴起1958 年，弗兰克 · 罗森布拉特发明了感知机，这是一种非常简单的机器模型，后来成为当今智能机器的核心和起源。感知机是一个非常简单的二元分类器，可以确定给定的输入图像是否属于给定的类。为了实现这一点，它使用了单位阶跃激活函数。使用单位阶跃激...

一次技术蓬勃的背后，必然需要长时间的酝酿，更离不开决定这一爆发瞬间的少数关键人物。正因有了那些特立独行的天才，他们的出现必将影响这一领域的发展方向，甚至决定未来科技发展的历史进程。

撰文｜月踏BP（Back Propagation）是深度学习神经网络的理论核心，本文通过两个例子展示手动推导BP的过程。1链式法则链式法则是BP的核心，分两种情况：（1）一元方程在一元方程的情况下，链式法则比较简单，假设存在下面两个函数：那么x的变化最终会影响到z的值，用数学符号表示如下：z对x的微分可以表示如下：（2）多元...

随着新药研发难度越来越大，机器学习成为了该领域的重要破局工具。2020年年底，在国际蛋白质结构预测赛中，DeepMind公司研发的AlphaFold 2摘得桂冠，并破解了蛋白质折叠这个困扰人类50年的难题，轰动一时，新药研发也成为热点话题。不过，这个领域早有不少开拓者。