AI 时代随想

菲利普·迪克与乔治·奥威尔都曾构想过一种能自动产生文字的机器，在他们幻想的时代，将不再有严肃的作家，而只剩摆弄机器的工人。

chatgpt 尽管还带有明显的非人特征，但它所能爆发的潜力已不会有任何人低估；已经有许多悲观的人认为赛博世纪，也就是高科技、低生活的新型社会就在眼前。届时广大的底层阶级都将被排除在劳动之外，统治者为了维护稳定将推广低保与麻醉品，以及提供无意义也不产生任何价值的工作让底层们有正在参与社会的幻觉。在悲观者看来，这次技术革命将不能用铁路取代马车简单对比，人类劳动者将失去尊严，沦为AI的“调参师”。

著名的赛博朋克作品《攻壳机动队》，其原名是 Ghost in the Shell 。在这部作品中，大脑功能可以通过植入电子设备进行增强，残疾人可以通过精密构造的义肢获得更强大的能力，而女主草薙素子甚至全身只剩下大脑还是原装的。在这样的社会中，人类与机械的界限不再清晰，那么问题是，我们如何区分机器人和高度义体化的人类？正如英文标题所暗示的那样，作者认为人类有 ghost ，或者说灵魂。

在前理性时代，灵魂的存在是一个不言自明的真理；而即便是笛卡尔，也曾坚信松果体就是灵魂的所在。“人是万物之灵”，灵魂正是人的高贵之处。但也有人认为意识不过是脑内神经元排列组合产生的奇迹，从如今的 chatgpt 看，似乎后者更接近正确。

人通过语言互相理解，确知对方是一个能如自己一样能思维的存在。但若语言不再是人类的特权，如果我们无法区分紧闭的门后是人类还是机器，那么灵魂不过是一个多余的假设。千亿只猴子终于能打出莎士比亚全集，不仅如此它们还拥有了自我学习的能力，已经能模仿不同作家的风格进行写作。

在 2021 年的动画《哥斯拉：奇点》中，圆城塔虚构了这样一个 AI：外观像是电子宠物狗的它，自动地整理了女主笔记本电脑上的所有笔记，然后在此基础上自动生成了一篇高质量论文并进行了投稿。当时有许多人还非常羡慕，估计谁也不会想到仅两年后 chatgpt 就横空出世了。

chatgpt 最令我忧虑的一点是它对互联网的深刻改造。因为对于极权来说，它也是一个极为好用的统治工具。在它面前，以往的规避手段将统统失效，拼音、谐音、拆字等方法再也逃不过审查。此外它可以帮助精简数量庞大的网评员群体，进一步降低统治成本，并生成更具有误导性的评论。这一点在应对开放网络世界尤为有效，此前他们干扰舆论的主要做法不过是投放海量色情广告以冲淡关键词。现在有了生成式 AI 的帮助，我们更无法分清账号后面躲着的究竟是不是真人，也无法区分言语是对事实的阐述还是编织出的谎言，再配合上图片生成，建构出一套仅存在于谎言中的幸福乌托邦也不再是难事。将来互联网的信噪比必定会进一步下降，或许“无真相”时代就要来临。

而这对 AI 本身又会造成怎样的影响？目前它还不具备推理判断功能，无法演绎出新的知识，如果将来网络上充斥着由它自己生成的信息，它又该如何鉴别？网络会成为一个巨大的茧房吗？AI 对信息的利用是吸血式的，将来如果没有足够的人生成原创的信息，那么或许有一天，网络上大部分的流量都源自 AI 的反刍，而大部分人类用户只能如同食腐生物那样满足于前者产生的海量内容，而仍在坚持手工创作的人只能眼睁睁看着自己费尽心思组合出的那丁点字节化为这头巨兽微不足道的参数之一。