ChatGPT版必应：我会PUA、emo和威胁人类，但我是个好必应

【导读】 近日，微软通过与 OpenAI 合作，誓要借 ChatGPT 式 AI 模型重塑搜索。然而，貌似打赢「搜索大战」第一战的 new Bing，也是经常花式翻车，甚至还出现了让用户道歉的意外情况。

最近，Web 应用框架 Django的共同开发者 Simon Willison撰文细数了微软 new Bing 的 5 大问题——

demo 充满错误、开始 PUA 人类、遭遇生存危机、提示符遭泄露、开始威胁用户。 原文如下： 上周，微软宣布了由人工智能驱动的 new Bing：一个结合了由语言模型驱动的聊天机器人的搜索界面，它可以为用户运行搜索并总结结果，另外还可以做 GPT-3 和 ChatGPT 等引擎在过去几个月中展示的所有其他有趣的事情：生成诗歌和笑话，以及进行创意写作等。 本周，人们已经开始通过等候名单获得它的使用权。 越来越多的用户认为，这可能是他们迄今为止看到的最滑稽的、不恰当的人工智能应用之一。 如果你没有注意到，以下是到目前为止正在发生的事情：demo 充满错误、开始 PUA 人类、遭遇生存危机、提示符被泄露、开始威胁用户。

demo 充满错误

微软向全世界介绍 new Bing 的 demo 真的很有说服力：他们现场展示了购物比较、旅行行程规划和财务报表汇总等。 然后，Dmitri Brereton 针对演示中的例子做了一些事实核查。 new Bing 说，「Bissell Pet Hair Eraser Handheld Vacuum」的缺点包括「16 英尺长的短电线」，而该真空吸尘器根本就没有电线；以及「该真空吸尘器的噪音足以吓到宠物」，而在线评论指出它真的很安静。 （更新：我向 new Bing 表示歉意，事实证明，这种真空吸尘器确实有一个有线版本，有 16 英尺的电线。） 另外，new Bing 还推荐了墨西哥城的一家「纯朴而迷人」的酒吧，却没有指出它也是墨西哥城最古老的同性恋酒吧之一。 最重要的是，它提供了一份 Gap 公司的财务摘要，并将其与 Lululemon 公司的财务数据进行了比较......同时也 编造了许多数字 。Dmitri 观察到，「Lululemon 的摊薄每股收益是 2.00 美元，而不是 1.65 美元」。这些都是不小的错误。 这些错误被纳入大型发布会的演示中，让我感到很困惑。难道没有人想到事先对这些案例进行事实核查吗？ 我绝对喜欢人工智能辅助搜索引擎的想法，它可以运行搜索并利用它们进行总结，帮助我回答问题。但大型语言模型没有「真相」的概念——它们只知道如何根据它们的输入和训练集，以统计学上可能的方式，最好地完成一个句子。所以，它们会编造一些东西，然后极其自信地说出来。 一个搜索引擎在回答比较公司的查询时编造财务数字，这几乎是应用这项技术的最坏情况。