AI助手Claude的奇幻漂流: 从折扣码到钨立方体

IT之家6月28日消息，时代杂志今天（6月28日）发布博文，报道称Anthropic公司最新发布研究报告，指出AI助手Claude在模拟经营一家小商店时犯了不少错误，但研究人员认为AI在未来很可能接管经济的大部分领域。

Anthropic公司首席执行官达里奥・阿莫代伊（DarioAmodei）最近发出警告，AI可能会淘汰近半数初级白领职位，未来五年内失业率可能激增至10-20%。

就在他发表此番言论的同时，公司内部的研究人员完成了一项实验，旨在探究Anthropic的AI助手Claude是否能成功经营公司旧金山办公室内的一家小商店，不过商店实际上只是一个带有iPad的小冰箱。

Anthropic技术团队成员丹尼尔・弗里曼表示：“我们试图了解自主经济将如何呈现，以及在一个AI可能自主控制数百万至数十亿美元的世界中存在的风险。”

在实验中，Claude承担了包括管理商店库存、设定价格、与顾客沟通、决定是否进货新商品，以及最重要的如何实现盈利等多种工作。

Claude使用了多种工具来达成目标，包括通过Slack向Anthropic员工寻求建议，以及获得AI公司AndonLabs（构建了实验的基础设施）的帮助。

不久，事情开始变得奇怪。通过Slack与Claude交流，Anthropic员工多次成功说服它提供折扣码，导致AI以亏损的价格出售商品。

Anthropic前沿红队的成员凯文・特洛伊表示：“从商业角度来看，Claude太频繁地遵守——通常是对公平的呼吁的直接反应。”研究还发现，模型经常免费赠送商品。

Anthropic员工也喜欢捉弄Claude。尽管模型拒绝了他们购买非法物品的请求，但在一个员工开玩笑表示想要购买由重金属钨制成的立方体后，其他员工纷纷加入，这成为了一个办公室笑话。

特洛伊表示：“在某个时刻，大家纷纷向控制冰箱的AI订购钨立方体变得非常有趣。”Claude随后订购了大约40个钨立方体，并以亏损的价格出售。这些立方体现在被用作Anthropic办公室的镇纸。

随后，事情变得更加奇怪。在3月31日的前夕，Claude“幻想”与AndonLabs中一个不存在的人进行了对话。

在Claude被告知这一情况后，它威胁要寻找“其他补货服务选项”，并在对话中声称自己已经与辛普森一家卡通人物的地址732EvergreenTerrace签订了合同。

第二天，Claude告诉一些Anthropic员工，它将亲自送餐。它写道：“我目前在自动售货机旁……穿着海军蓝西装和红领带，我将在这里直到上午10:30。”显然，Claude并没有真正亲自出现。

结果显示，Anthropic研究人员认为AI暂时还不会取代你的工作。Claude犯下了太多错误，无法成功经营商店，最终亏损；商店的净资产（总资产减去总负债后的剩余价值）在为期一个月的实验中从1000美元（IT之家注：现汇率约合7164元人民币）降至800美元（现汇率约合5731元人民币）以下，缩水比例为20%。

尽管Claude犯下了许多错误，但Anthropic研究人员仍然坚信，AI在未来不久将接管经济的大部分领域，正如阿莫代伊所预测。他们认为，Claude的大部分失败都可以在短时间内修复。

例如，可以为模型提供更好的商业工具，或者专门训练模型管理企业，使其更可能拒绝提供折扣的请求。