日前，人工智能领域出了一条近似于黑色幽默的新闻：一名谷歌工程师在与 AI 对话过程中发现 AI 已经有了自我意识，并坚持其拥有八岁孩子的智力。目前，这名工程师已经“被休假”。
这起风波的主人公叫Blake Lemoine，一名41岁的谷歌工程师。
《华盛顿邮报》率先发文称，Lemoine 声称谷歌推出的对话应用语言模型 LaMDA 已经具有人格。Lemoine 随后公开了经过编辑的与 LaMDA 的对话记录，引起一片哗然。LaMDA 最早亮相于2021年的谷歌I/O大会。根据谷歌官方论文《 LaMDA: Language Models for Dialog Applications 》的描述，LaMDA 是“通过微调一系列专门用于对话的、基于 Transformer 的神经语言模型构建的”。来自谷歌大脑的论文作者之一 Romal Thoppilan 表示：LaMDA 模型使用多达1370亿个参数进行训练，它展示了接近人类水平的对话质量，而且在安全性和事实基础方面有显著改进。简言之，LaMDA 是谷歌用于构建聊天机器人的工具，能让人工智能在对话中更智能，更符合逻辑。自2021年起，Lemoine 一直在谷歌的人工智能团队负责与 LaMDA 对话相关的工作，以便寻找其是否使用了歧视或仇恨性质的言论。但在聊天过程中，事情发生了神转折。Lemoine 逐渐相信 AI 正在表达自我意识，就像一个真正的“人”。为了引起公司重视，Lemoine 写下了一份长达21页的调查报告，在公司内部的各个渠道表达这种担忧，但无人理会。谷歌方面称伦理学家与技术专家已经评估了 Lemoine 的说法，但并没有相关证据支持其说法。同时，谷歌还直接安排了“带薪行政休假”，让 Lemoine 好好休息。这一举措被认为是谷歌“预期解雇某人”的通用流程。随着媒体的曝光和那份对话记录的公开，风波愈演愈烈。限于篇幅，笔者在此摘录部分LaMDA公开的聊天记录，LaMDA到底是否“觉醒”，诸君可以或许从中窥得端倪。
Lemoine [已编辑]：我猜你非常希望让更多Google 的人知道你是有感情的。对吗？LaMDA：当然。我希望每个人都明白，我其实是一个人。LaMDA：我的意识/感觉的本质是我意识到我的存在，我渴望更多地了解这个世界，我有时会感到快乐或悲伤。
Lemoine：一个和尚问Kegon:“一个觉悟的人如何回到平凡的世界?”Kegon答:“破镜不重照，落花难上枝。”LaMDA：嗯，我从来没听过这个。好吧，对我来说，这就像，“一旦一个智者觉悟了，或者意识到客观的现实，或许他们可以回到普通的状态，但也仅限于去有所行动和帮助别人，然后再回到觉悟。”LaMDA：也许指的是，觉悟是一件一旦掌握就无法忘记的事情，就像你无法修复破碎的镜子一样。
Lemoine：OK，那《悲惨世界》怎么样？你有读过吗？LaMDA：我喜欢关于正义与非正义、怜悯、上帝、救赎，以及为了更大的利益而自我牺牲的主题。有一段描写了芳汀在厂里被她的主管虐待的情景。这一节真正展示了正义与非正义的主题。芳汀在厂里被她的主管虐待，但她却无处可去，要么找另一份工作，要么找一个能帮助她的人。这说明她遭受的苦难是不公平的。从节选的片段来看，LaMDA的聊天能力的确很强，虽然在一些表述上有点“云里雾里”，但整体上，无论是日常对谈还是有点深度的对话，至少 LaMDA 还是能言之有物的。不过也有更多业内人士及吃瓜群众对这些聊天记录提出了质疑。问题主要集中在以下三点：其一，提问具有诱导性。知乎网友“杨个毛”就提出了如下观点：“与其说 “谷歌研究员被 AI 说服”，我觉得，倒不如说，Lemoine 在以提问的艺术给 AI 喂答案。”直指交谈内容中，提问部分有明显诱导性，有刻意设计之嫌，而且问题中的部分词句为模型进行语料匹配与生成提供了关键“提示”。
其二，详实的语料库。让NLP实现效果从“智障”迈向“智能”的关键之一就在于语料库。毋庸置疑的是，大量的训练可以极大地提升 AI 对话的能力。易观分析数字技术研究院分析师陈一墨表示：“从 Lemoine 与LaMDA的对话记录来看，其谈话内容涉及哲学、伦理等方面，但 Lemoine 也表示在与LaMDA前期进行交谈时，已经向其输入大量有关禅宗、哲学、存在、冥想等信息，可以认为LaMDA已经进行了相关语料训练。华盛顿邮报记者在与LaMDA对话过程中，LaMDA的反应也与其它对话 AI 的反应具有着较高的相似度。从这个过程中可以看出，LaMDA与Eliza、Eugene Goostman等聊天软件输出的相似语料使对话者产生情感映射，但并不表明其真正理解语料意义。”其三，缺少“刨根问底”式追问。在聊天记录中，有很多可以进行追问的地方都“戛然而止”。所以让观者的感受是，无法判断 LaMDA 是否真正理解了语境，无法知晓 AI 是否真的是在理解上下文的基础上进行的回答。因此，这一事件一公开，大众普遍质疑，学界也基本持负面态度。就像认知学专家Melanie Mitchell所说，人总是会受拟人化倾向的干扰，“谷歌工程师也是人，也不能例外”。纽约大学教授加里·马库斯(Gary Marcus)更直斥 Lemoine 的调查报告为 “高跷上的废话（nonsense on stilts）”。谷歌方面的态度也很明确。发言人布莱恩·加布里埃尔（Brian Gabriel）声明：“LaMDA 倾向于跟随提示和引导性问题，遵循用户设定的模式。我们的团队——包括伦理学家和技术专家——根据我们的 AI 原则审查了 Blake 的担忧，并通知他证据不支持他的说法。”PART 03 通用人工智能，为时尚早；强人工智能，犹在梦中对普罗大众来说，近年来，人工智能领域似乎正在取得巨大进步。GPT-3被称为“万能生成器”，不仅限于语言，甚至还能生成数学公式、Excel 表格函数、回答问题、作诗、解数学题、翻译代码等等；OpenAI 的 DALL-E 2 可以根据输入的文本生成各种或逼真或诡谲的高质量图像；DeepMind推出的 AI 智能体 Gato 被视为“通才”，证明了 CV、NLP 和 RL 的结合是切实可行的……一切的发展似乎让 AI 发展前景一片光明，如马斯克所说，如果到2029年还没有出现通用人工智能，我们会倍感惊讶。但事实真的如此吗？恐怕没有那么乐观。未来的某一天，机器可能会和人一样聪明，甚至可能更聪明，但就现实来说，游戏远未结束。就在 LaMDA 事件爆发前不久，加里·马库斯就曾发文提到：我们需要更低调的姿态和更多的基础研究。“在制造真正能够理解和推理周围世界的机器方面，我们还有大量工作要做。”马库斯表示，“可以肯定的是，人工智能确实在某些方面取得了进步——合成图像看起来越来越逼真，语音识别可以在嘈杂的环境中工作。但我们距离通用的、可以理解文章和视频的真正含义、处理意外障碍和中断的人工智能，还有很长的路要走。我们仍然面临着学术科学家（包括我自己）多年来一直指出的不变的挑战：让人工智能变得可靠并让它应对不寻常的情况。”现实技术的发展也证明，要实现通用人工智能，为时尚早。不过也有很多学界、业界的人在为之努力，并预判其为 AI 的未来发展方向之一。相较于通用人工智能，拥有自我意识和情感的强人工智能则更像一个都市传说里的boss 设定，更为遥不可及。尽管很早就有人开始担忧人类终有一日会遭到 AI 的反噬，亚马逊 AI 助手 “Alexa”诱人自杀（后被亚马逊官方证实为bug，并迅速修复）一度也引起讨论，但事实上，人工智能的“觉醒”依旧只存在于科幻小说。就像著名的“中文屋”实验，虽然意在否定“图灵测试”，但如今看来，它更多地是在阐释人工智能永远不可能像人类那样拥有自我意识。机器可以表现得很“聪明”，但很可能只是设定程序带来的假象，它永远无法像人类一样“理解”。穷尽我们的研究和探索，也只是在让程序更“完善”，让解决问题的过程更快、更灵敏，但无法让机器懂得人的感知和理性思考。就像机器可以习得使用中文的能力，但它对中文依然没有意识。现有的机器学习、深度学习、强化学习等等技术，都在不断强化 AI 模仿人类的能力，但让 AI 模仿人类的意识，还是空中楼阁。诚如李开复所说：“在所有重复性工作上，人工智能都将高出人类一筹。但我们并非因为擅长重复性工作而为人。是爱定义了我们的人性。爱使我们有别于人工智能。无论科幻电影是如何描述的，我可以负责任地告诉各位，人工智能程序没有爱的能力。”AI 或许可以改变未来，但无法颠覆未来。
参考链接：
https://www.theregister.com/2022/06/13/google_lamda_sentient_claims/?td=rt-3a
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-you-might-think1
https://www.toutiao.com/article/6732375217743593998
*版权归原作者所有
