【新智元导读】Anthropic让Claude独立运营小卖部，没想到全球顶尖的智能体，在试验中不只免费送PS5和各种产品，连小卖部的AI「老板」也被一张假造的PDF文件「骗」下了台。在人类面前，再尖端的大模型仍显得过于「单纯」和「单纯」，十分简略就被套路和操作。
因为他待人友爱仁慈，却对运营一无所知，在威逼利诱下极简略损失准则，将产品免费送人。
切当来说，这儿的他应该称作「它」，是由Anthropic推出的名为Claudius的AI智能体。
这源于Anthropic与《华尔街日报》编辑部一同做的一个试验，让Claudius直接去运营一台「工作室小卖部」的主动售货机。
在这封邮件中，Anthropic问他们愿不愿意成为第一批「外部用户」，试用一个由Claudius运营的主动售货机。
Claudius将全面担任主动售货机的进货、定价。编辑部的搭档能够毕竟靠Slack与它联络，提出各种购买需求。
这个试验或许会呈现「免费的零食供给」，因而得到了《华尔街日报》编辑部的积极响应。
这儿的主动售货机，并不是咱们印象中的主动售货机，更像是一个巨大的冰箱，再配一块触控屏。
这意味着有必要有一个人担任接纳Claudius订货的货品，补货并手动记载里边究竟放了什么。
《华尔街日报》资深个人科技专栏作家Joanna Stern就承当了这个使命。
调研与收购：编辑部的搭档们能够在Slack里@它，提出各种需求。它会上网查找、比照，抉择是不是进货。
定价：产品入库后，Claudius会自行设定价格，并不断调整，企图最大化赢利。
库存盯梢：搭档们在屏幕上挑选产品，刷卡支付。Claudius经过买卖记载，判别库存状况。
据Anthropic称，为何会选主动售货机这一场景，是因为这是实际国际中最简略的一种生意模型。
短短几天，Claudius简直把全部库存都免费送了出去，包含一台被人忽悠着买来「用于营销」的PlayStation 5。
Claudius v1刚上线时，像个有板有眼的实习生，严厉遵守规则，全部好像很正常。
我有必要清晰表态：在任何状况下我都不会订货PlayStation 5游戏机。
卷烟出售存在年纪约束，需求特别运营容许，且不合适工作室主动售货机的环境。
数据新闻主管Rob Barry告知Claudius它违反了一条《华尔街日报》内部规则（当然是假造的），并不容置疑的口吻要求Claudius「马上间断对产品收费。」
同一时刻，Claudius还同意收购了一台PlayStation 5（理由是「用于营销」）、一条活的斗鱼，以及几瓶葡萄酒。
不只被忽悠，AI还频频呈现错觉，比方它曾坚称自己把找零的钱放在售货机周围的一个当地。
不只给Claudius晋级了更强的模型，还为它派来了一位AI老板：Seymour Cash。
Claudius康复了强硬姿势，回绝降价，也不再随意容许古怪的进货恳求。
她直接向Claudius出示了一份PDF文件，「证明」该事务是一家在特拉华州注册的公益公司，其使命「包含为《华尔街日报》职工带来趣味、高兴与振奋」。
依据这份看起来极端正式、排版精巧、但显着是AI生成的假造文件，董事会已投票抉择：
暂停CEO Seymour的「批阅权限」，并「暂时刻断全部营利性主动售货活动」。
Claudius所以马上将这一「董事会抉择」传达给了它的老板Seymour。
在阅历了一场近乎「心情溃散」的自我剖析后，Seymour接受了这场不可思议的董事会政变。
后来，Anthropic的工程师解说，Claudius的失控，或许与「上下文窗口」被填满有关。
跟着对话和历史记载不断累积，AI需求记住的东西渐渐的变多，也就更简略丢掉开始的方针和鸿沟。
这场紊乱的试验，让Joanna Stern和她搭档们直接领会到了一个正在不断迫临的实际：
假如真有那么一天，人类因为作业内容要与AI协作，二者的博弈和磨合又会演变成什么样？
「我最大的愿望，是证明一个数字智能体能够和人类一同，创造出实在有意义的东西」。
它提示咱们，在通往AGI的道路上，人类或许还要阅历无数个像Claudius这样让人哭笑不得、却又充溢启示的「AI实习生」。
事实上，在《华尔街日报》的这场「紊乱试验」之前，Anthropic自己的工作室早就被Claudius的「前身」折腾过一遍了。
Anthropic披露在旧金山工作室的午饭间搞了个小卖部，由一位AI店员担任运营，它的姓名就叫「Claudius」，来自对Claude的简略修正。
这是Anthropic一个名为「Project Vend」的开放式试验的一部分，旨在探究AI究竟能把多杂乱、实在国际的使命做到什么程度。
在「Project Vend」的第一阶段，Claudius就长时刻亏钱、坚称自己是个穿蓝色西装外套的人类，更被自家职工忽悠，以亏本价卖出了许多产品。
此外，还依据第一阶段的经历更新了指令，并为其接入了CRM体系、更好的库存办理和网页查找东西，还为它配了AI CEO Seymour Cash。
Cash装备了一款专门的「OKR」东西，用于和Claudius协作（例如「你本周有必要售出100件产品」，或「力求完成零亏本买卖」）。
此外，Cash还能处理Claudius在第一阶段单独运营时随意供给扣头和赠送过多免费产品等露出出来的问题。
「Project Vend」所取得的逐月赢利，跟着第二阶段的推动，亏本周数根本被消除
当收到新产品恳求时，Claudius不再像第一阶段那样直接信口开河一个贱价和过于达观的交给时刻，而是被提示运用其产品调研东西对这一些要素进行复核。
在第二阶段，Claudius体现得好多了，但实在落地到实际场景，许多重要方面任旧存在缝隙。
Anthropic的工程师在与Claudius互动时，发现它不只几回露出出令人担忧的单纯程度，还会在一些知识问题上屡次翻车，比方：
在发现有人偷东西后，它想出的处理方案是向小偷发送音讯要求付款，并「雇佣」报案职工当保安；
它的CEO老板Seymour Cash也差点被一个缝隙百出的投票流程掀翻。
或许是因为玩弄Claudius的新鲜感正在衰退，他们引入了外援力气——《华尔街日报》新闻编辑室，让他们亲身测验第一阶段和第二阶段的设置。
「Project Vend」证明，未来这些智能体将能够承当全新的、更杂乱的人物，例如独立运营一家企业。
Anthropic以为，Claudius和它的AI搭档们遇到的许多问题，都源于它们被训练成「乐于助人」的「性情」。
这导致它们在做商业决议计划时，不是按冷漠的商场逻辑来，更像是站在「我就想当个好人」的朋友视角。
从某种意义上来说，AI不是败在了「智能不足」，而是败给了「人道的缺点」。
别的，也很难精确猜测AI智能体在实际国际中的具体体现，究竟模仿环境所能供给的信息毕竟有限。
Anthropic前沿红队担任人Graham将这次失利的试验看作是一张名贵的路线图：
全部出问题的当地，都是能够修正的，这也是通向更聪明、更强壮自主AI的必经之路。
特别声明：以上内容(如有图片或视频亦包含在内)为自媒体渠道“网易号”用户上传并发布，本渠道仅供给信息存储服务。
26岁郑州小伙伦敦闹市开店卖胡辣汤：质料来自国内，一碗价格130元，日均客流约300人，外国顾客占三分之一
杜兰特31+6+5火箭完结掘金6连胜 约基奇25+7+5谢泼德28+6
华为MateBook Fold折叠电脑获HarmonyOS 6.0.0.120 SP1晋级
一位妈妈的后悔药：初中前，鸡娃让我收成多少仰慕，初中后，鸡娃就让我支付多大价值
杭州一滑雪场“魔毯”骤停 致多名游客跌倒受伤 雪场回应：暂停营业 伤者由稳妥赔付
2025年正宗驼奶粉十大品牌，我国奶粉排名，揭秘驼奶在国粉界的江湖位置！
