关于《深度学习是否靠蛮力取胜？》一文的思考

（作者：胡占义，中国科学院自动化研究所模式识别国家重点实验室，2015年10月19日）

近日读了网上一篇题为“深度学习是否靠蛮力取胜？”的文章（原文连接），文中介绍了Vladimir Vapnik对Big Data、Deep Learning等一些近期的热点研究的哲学性思考和质疑。实际上，这一问题涉及到人类智能（Human Intelligence）和人工智能（Artificial Intelligence）的一系列本质问题，对此我也谈谈我的一些个人观点：

1、“观察现象，提炼规律，数学建模，模拟解析，实验检验，修正模型”本质上是十七世纪笛卡尔所建立的“科学方法论”（Scientific methodology）的体现。这种科学方法论是在“小数据、计算能力低”情况下的一种三百多年来被证明行之有效的认识世界的方法。是不是“大数据、计算能力强”情况下，认识世界的科学方法论需要改变呢？我觉得是。也就是说，我觉的当前“大数据正在改变我们认识世界的科学方法论”。这种科学方法论的改变不仅仅局限于“人工智能领域”。

2、“Brute-forced”不太明确，应该是给定目标下的“brute-forced”. 如图像视觉分类下的“Brute-forced”. 我觉的研究人工智能不能抛开“智能的产生过程”。智能是“进化”的结果，“进化过程”难道不是一种“Brute-forced” 过程？我自己不敢肯定。根据J J Gibbson 的认知心理学理论，人类智能的首要功能在于“适应外界环境和控制自身运动”。所以，人类的进化过程，也是在“适应外界环境和控制自身运动”下（或适者生存下）的一种进化。这种进化不可能是按照上帝定下的“准则”进行的。我觉的这种进化过程很大程度上也可能是一种“Brute-forced”的过程。不适应的灭绝，适应的生存。所以，把“智能”与“Brute-forced”对立起来似乎有点绝对。

3、人是从低等动物进化来的。大脑结构和功能在“外界环境迫使下”改变。如人类大脑有约 860亿神经元， 老鼠有7.5 千万，大象有230 亿，黑猩猩 有10亿。进化改变结构（ 在DNN中，训练改变权重）。另外，刚生下来的小孩神经元之间连接很多。随着成长，一些连接加强了，一些连接减弱了，最终随着成长，神经元的连接个数总体是减少了。这种大脑生物结构改变，从进化的观点看，也是可能是一种“Brute-forced” 过程。当然小孩成长，不需要“从原始状态进化”，人类遗传“继承了”大量进化的结果。目前机器学习中的“transfer learning”是否也可以看作是一种“原始的继承形式”呢？