AI意识觉醒？那个「爱」上AI的谷歌工程师刚刚被解雇了！(3)

如果AI真的有灵魂

假如非要给个定义的话 ，那么一个有感知能力的人工智能需要具备这三个要素： 能动性、视角和动机。 然而从目前来看，现在的AI是缺乏「能动性」这一特质的。AI不会主动采取行动，除非给它一个命令。 并且，AI还无法解释自己的行动，因为这是预定义算法执行的一个外部因素的结果。 LaMDA正是一个典型案例。直白讲，就是你投入什么就得到什么，仅此而已。 其次，用独特的视角看待事情也很重要。 尽管每个人都有同理心，但一个人并不能真正了解做另一个人的感觉。那到底该如何去定义「自我」？ 这就是为什么看待事情的视角对AI也是必要的。包括LaMDA、GPT-3以及世界上其它所有人工智能都缺乏远见。它们只是一个狭窄的计算机系统，被编程来做一些特定的事情。 最后一点便是动机。 人类的有趣之处在于我们的动机可以操纵感知。正是这样，我们可以去解释自己的行为。 GPT-3和LaMDA创建起来很复杂，但它们都遵循一个愚蠢而简单的原则：标注就是上帝。 比如「苹果尝起来是什么味道?」，AI就会在数据库中搜索这个特定的查询，并尝试将所有找到的素材合并成一个连贯的内容。 而事实上，AI对苹果是什么也没有概念，苹果对他们来说只是一个标签。

另一位主角LaMDA

LaMDA的首次亮相，是在2021年5月的谷歌I/O大会上。 谷歌在现场表示， LaMDA可以使问题的回答更加「make sense」，让对话更自然的进行，而且这些回复都不是预先设定的（和那些聊天机器人不同），甚至相同的答案不会用第二次。 与老前辈BERT相同，LaMDA也是基于Transformer架构，但不同的是，LaMDA接受了更多在对话方面的训练，尤其是在如何区分开放式对话方面。 到了2022年5月的I/O大会，谷歌公布了升级后的第二代模型——LaMDA 2。 为了展示LaMDA 2出色的性能，谷歌特地做了几个小实验。 比如，一次简单的头脑风暴，要求AI帮助用户想象在各种场景中的情况。 人类在输入「我在海洋的最深处」之后，AI就以描述性语言回应了一段文字，描述了用户在马里亚纳海沟的潜水艇中的场景。 另一个是让AI与人类就某个话题进行对话，并理解对话的背景。 在演示过程中，AI一开始就问：「你有没有想过，为什么狗这么喜欢玩取物游戏？」 在对「这是为什么呢」等简单后续问题的回答中，AI给出了更多关于狗和狗的嗅觉的信息。 由于近两年学界在AI伦理方面愈发地重视，谷歌也在2022年1月发表了一篇博客，详细叙述了自己是如何确保LaMDA的安全性、基础性以及质量的。 在预训练阶段，谷歌首先从公共对话数据和其他网络文件中创建了一个包含1.56万亿单词的数据集，比此前使用的多了近40倍。 在将数据集标记为2.81万亿个SentencePiece tokens后，谷歌使用GSPMD对模型进行预训练，以预测句子中的每一个token，并给出之前的token。 在微调阶段，谷歌训练LaMDA执行混合的生成任务，以生成对给定语境的自然语言响应，以及关于响应是否安全和高质量的分类任务。 在对话过程中，LaMDA生成器首先根据当前的多轮对话环境生成几个候选反应，LaMDA分类器预测每个候选回应的安全和质量（SSI）分数。其中，分数低的候选回应首先被过滤掉，剩余的候选者按其SSI分数重新排序，并选择最重要的结果作为回应。 从结果上来看，LaMDA能以一种合理、具体和有趣的方式处理任意的用户输入。只有用来开启对话的第一句「你好，我是一个友好的...... 」是提前设定好的。 虽说谷歌也在「吹」自己的模型有多厉害，但也仅仅是停留在一个辅助型对话式AI的阶段。