AI 与天才的偏执风险

有一个问题，就是我们人类中间，常常有一句话叫做天才与疯子其实只有一线之隔。什么意思呢？就是经常会有看到一些新闻里爆出来，就说，比如说什么奥林匹克物理竞赛的冠军啊，天才。这个结果这个是个新闻了，大概的事情就是说两个都是奥数奥奥林匹克物理竞赛的这个冠军、亚军。结果呢，他们后来的命运差别很大，就是这个冠军来到美国求学，但他的性格比较偏激，就是等于是说在社交上遇到很大困难，跟别人处不来，最后就离开退学了。然后亚军呢，本来不如这个冠军吧，结果在美国去进到这个顶尖的 MIT， 就是成为著名科学家。而这个冠军就只好去什么电信公司打零工啊什么的，就是生活就是一个天上一个地下，结果他最后过了 25 年，他还能够郁闷的去，千里迢迢的去，就开枪杀了这个冠军，这个，然后自杀了。就说这个事情，在，他肯定是非常聪明的人。什么意思呢？那如果 AI 呢？ AI 是不是也非常聪明呢？肯定也是。那么聪明的人是不是往往都是有一些极端的呢？就比如说他，这个不知道对不对，像过拟合其实就是很多事情就是说聪明他注地关注的是细节常人没有注意到的细节或者常人没有往这方面去想的。所以呢，就是训练过程中的那些被视作是噪音的，往往是这个好像也不对。就说你怎么培养一个天才吧？一个大模型，它为什么是天才？但我们现在承认大模型确实很聪明。那么很聪明会不会就也会有这种人类的这种天才的这种，会偏执，会成为这个。反社会的这个模型呢？有没有这可能性呢？

那你有没有想过，这个普通人之所以是普通人，或者说是天才之所以是天才，就是他们看问题的角度有时候是不一样的，为什么这么说呢？当今世界应该说大多数容易解决的问题都已经被解决了，就说普通人那么多人都大多数人是普通人，那么这个难以解决的问题，就是容易解决的问题，就是低垂的果实其实都被摘得差不多了，而真正困难的问题，往往是需要说不从不同的视角就超乎于普通人的想法，才能够有这种解决的方案或者思路吧。就是说你现在训练出来模型，很有可能就是按普通人去训练的话，它也许就是解决不了这些世界级的难题，那么而且大模型有一天它会雷同，或者说是就是叫做什么呢？就是比方说这么多的模型公司，他们训练方法是相似的，训练数据也是相似的，然后都是一个互相模仿或者互相学习，然后导致他们能力其实也都差不多，他们也一开始可以解决很多问题，但是到了一定程度的时候，容易解决的问题也都解决了。那些模型公司会去追求什么呢？追求一些其他公司解决不了的，那么他们有可能就会采取极端化的训练，因为只有这样的话，只有偏执狂才能够成功啊，意思就是说普通的这种训练出来的模型，很有可能也只能做一些普通的工作，当然对于人类里说已经是很很高级的，很聪明的，但是你要知道说模型之间来竞争啊，那很有可能是说这个普通的这个不走极端的话，这个训练出来的模型就没有办法去去解决世界级的问题，那这个时候就很有可能出现偏执型的模型。当然它有些问题是适合于用这种脑洞大开的方式，跳出盒子，跳出寻常的这个思维框架才能够解决，是不是？

我不知道具体的训练方法，我只能从逻辑上讲说，也许在未来，就像你说的，大模型会有很多的同质化。就是这个模型公司现在发展这么突飞猛进，它总有一天会就是从这种快速发展期进入到一种停滞状态，就说什么样的方法都穷尽了，很可能，而且这个模型训练有可能会，门槛会降得很低，也许小公司都能做啊。那么在这个时候就会有很多的小公司、个人会尝试极端的训练，因为这种东西就像如果说造核武器的门槛降低了人人都有可能去尝试造一枚核导弹试试看是不是？那么在这种情况下就会出现很多的偏执型的模型。你一一直强调说约束约束，但是对于这种创造型的，这个天才型的这个模型，恰恰是要去除那么多的约束。就像在实验室里面的这种实验原型一样，它尽可能少的这种传统的约束，希望说测试它的边界，希望说探索，希望说发现新的能力，新的这个领域，是不是？

其实我并不知道未来是怎么样子的，未来的模型是像互联网这样的一个一个 IP 地址对应一个服务器这样的模型发布呢？还是说在物理世界里面对应着一个一个机械机器人个体，它到底是一种什么样的形式存在呢？未来的模型肯定是要跟具身智能结合起来，那么如果机器人或者说是它的制造成本肯定是越来越低的，而接入这个人工智能模型也是越来越普遍，甚至于说可以专门为一个模型去开发一款机器人，其实也不需要专门去，意思就是说也许每一个独立的机器人就是一个独立的模型，也有可能就个性化的训练，而不是说一个工厂一批的，像这种 Windows 软件就是一批一批的，也有可能专门的就是按照私人定制式的，按照他每个人的需求去训练出来，每个人的私有数据训练出来。就是等于是每个机器人都是有独立的模型、独立的性，这个能力、这认知都是独立的。