信仰深植于人们的心灵深处,是推动人类不断前行的力量。从AI缓慢的起步到如今的迅猛发展,究竟是何种信仰在背后推动这一切呢?


提及信仰,摩尔定律便浮现在我的脑海。这一定律由英特尔联合创始人戈登·摩尔于1965年提出,它是一个观察性的预测,指出在大规模集成电路中,可容纳的晶体管数量大约每两年翻一番,计算能力亦随之显著提升。摩尔定律贯穿了芯片发展的整个历史。

虽然摩尔定律是基于观察和经验的预测,但其为何能获得全球范围内的普遍信任?为何英特尔、AMD、高通等科技巨头愿意投入巨额资金和人才,致力于芯片技术的发展?这或许正是信仰的力量所在。这些芯片行业的领导者,因为信仰而预见未来,因此愿意全力以赴,不断推动着芯片行业的发展。一旦这种信仰促成了持续的进步,它就会转化为一种普遍的确定性,吸引更多的资金和人才,引发持续的变革。

当我们回顾AI的发展历程,可以看到其迅猛增长的根源在于神经网络的进步,这些网络借鉴了人脑中神经元的工作机制。人脑由数万亿神经元构成的庞大网络,每个神经元接收输入,进行简单计算后,再传递给下一个神经元。当这种简单的神经元结构被扩展到数万亿级别时,智能便得以显著提升。这一点,从生物进化的历程中也能得到印证。早期地球上只有单细胞生物,随后逐渐演化出多细胞生物、低等生物、高等生物,直至人类。在这个过程中,生物的神经系统变得越来越复杂,智能水平也随之提高。这就是规模效应的体现。

AI时代,信仰体现在对规模效应的追求上。目前流行的大语言模型,正是基于神经网络的训练成果。早期的神经网络由于规模有限,尚未产生智能。但随着神经网络参数的增加,模型实现了质的飞跃,变得聪明且具有智能,这正是量变引发质变的例证。

这一切的发现,我们应当归功于OpenAI。随后,OpenAI提出了类似摩尔定律的信仰级理念,即规模越大越好。其核心要点有三:

1. 神经网络模型参数越多越好

2. 训练数据集越大越好

3. 算力越强越好

OpenAICEO山姆·奥特曼正在积极寻求巨额投资,以建立更多的AI基础设施和超大算力平台。这正是AI时代的信仰,它推动着AI巨头们持续在算力和大型模型领域进行大规模投资。这种信仰未来也将像摩尔定律一样,持续推动科技的快速发展。

总结而言,每个时代和行业都需要有信仰的领袖,正是这种信仰推动着一个又一个高科技领域的进步。在AI时代,这种信仰就是对规模效应的无限追求,即不断追求更大的模型参数、更庞大的训练数据集和更强大的算力。

点赞(123)

评论列表 共有 0 条评论

暂无评论
立即
投稿
发表
评论
返回
顶部