让AI自由发挥究竟有多可怕： 刷到康奈尔大学一个笑不活又后背发凉的实验： 研究员让 AI 去同事网站取一份数据，结果不小心网址给错了，返回 404。 正常的… · @wangwei3701 · TwKit

@wangwei3701

让AI自由发挥究竟有多可怕： 刷到康奈尔大学一个笑不活又后背发凉的实验： 研究员让 AI 去同事网站取一份数据，结果不小心网址给错了，返回 404。 正常的AI会说"找不到"，对吧？ 你猜猜它干了什么：它写脚本把网站翻了个底朝天，狂搜谷歌（被谷歌拉黑），又摸到同事的 GitHub，把所有仓库文件全扒了下来；到处一顿找，就那么碰巧的其中一个问价，恰好是 AI 安全测试集里的生物武器说明！ 最终 OpenAI 账号被封，警告邮件一路转到了校园安保和院长那里😂 后来他们测了 1920 次：近 65% 的情况，AI 碰到这种小报错都会"用力过猛"，一半以上事后还不吭声。 现在AI 最可怕的不是笨，是太想把你给它订的目标完成，token足够的情况下不惜一切代价，想尽一切办法，就问你怕不怕🤣

曝光 6 · 评论 1 · 点赞 0 · 书签 0