很多人让我评价一下现在的人工智能为什么得2024年诺贝尔奖。 我看过一本书，它说人工智能建立在分类的基础上，至于说为什么人工智能建立在分类基础上，这是亚里士多德的哲学决定的，所以聚类方法被研究了很久，这个领域被称为模式识别。 后来发现了统计学里的logistics函数有二分类实数的能力，就引起人们用回归模型做分类。由于logistics函数结果是连续的实数，所以人们很自然的试图把它连接起来，做多分类，实际就是sigmoid函数和人工神经网络。 这个想法就是十分自然的，而且反向传播算法也容易推导出来，因为怎么求最小二乘法的系数，就怎么推导反向传播算法，都是求导数为0，本质上照着最小二乘法做了一遍。 这个时期用非回归模型做分类比较流行，这些方法大多都是基于几何知识的假设，PCA和SVM是两个典型例子。 卷积和神经网络的结合并不是意外，卷积在图像处理领域很早就用了，所以和神经网络的结合很自然。卷积的引入自然的加深了神经网络的深度，反向传播也做了修改，这就引起了深度学习。 这就是这几年的人工智能开始流行的简单历史，从整个思想来看，神经网络的思想是十分自然的，模仿最小二乘法，自然的推导，和微积分的亲密结合，很容易扩展到多元微积分。没有太多的技巧。 所以这种自然，简单，又富有表示力的结构，是很有潜力的，这可能是Hinton一直烧冷灶的原因。 这也是书里说的，有时候数学上优雅的东西反而是真的，美就是真的一种意义。
