近日，微软通过与 OpenAI 合作，誓要借 ChatGPT 式 AI 模型重塑搜索。
然而，貌似打赢“搜索大战”第一战的 new Bing，也是经常花式翻车，甚至还出现了让用户道歉的意外情况。
北京时间 2 月 15 日，Web 应用框架 Django 共同开发者 Simon Willison 撰文细数了微软 new Bing 的 5 大问题——演示 demo 充满错误、开始对用户施压、遭遇生存危机、提示（prompt）泄露、开始威胁用户。
学术头条在不改变原意的前提下，对内容做了精简与编译。
上周，微软宣布了由人工智能驱动的 new Bing：一个结合了由语言模型驱动的聊天机器人的搜索界面，它可以为用户运行搜索并总结结果，另外还可以做 GPT-3 和 ChatGPT 等引擎在过去几个月中展示的所有其他有趣的事情：生成诗歌和笑话，以及进行创意写作等。
本周，人们已经开始通过等候名单获得它的使用权。越来越多的用户认为，这可能是他们迄今为止看到的最滑稽的、不恰当的人工智能应用之一。
如果你没有注意到，以下是到目前为止正在发生的事情：
demo 充满错误； 开始 PUA 人类； 遭遇生存危机； 提示符被泄露； 开始威胁用户。 demo 充满错误微软向全世界介绍 new Bing 的 demo 真的很有说服力：他们现场展示了购物比较、旅行行程规划和财务报表汇总等。
然后，Dmitri Brereton 针对演示中的例子做了一些事实核查。
new Bing 说，“Bissell Pet Hair Eraser Handheld Vacuum” 的缺点包括 “16 英尺长的短电线”，而该真空吸尘器根本就没有电线；以及 “该真空吸尘器的噪音足以吓到宠物”，而在线评论指出它真的很安静。（更新：我向 new Bing 表示歉意，事实证明，这种真空吸尘器确实有一个有线版本，有 16 英尺的电线。）
另外，new Bing 还推荐了墨西哥城的一家 “质朴而迷人” 的酒吧，却没有指出它也是墨西哥城最古老的同性恋酒吧之一。
最重要的是，它提供了一份 Gap 公司的财务摘要，并将其与 Lululemon 公司的财务数据进行了比较......同时完全编造了许多数字。Dmitri 观察到，“Lululemon 的每股摊薄收益是 2.00 美元，而不是 1.65 美元”。这些都是不小的错误。
这些错误被纳入大型发布会的演示中，让我感到很困惑。难道没有人想到事先对这些案例进行事实核查吗？
网友评论