AI 被测出一个很人类的毛病: 你不让它干的事, 只要评分脚本给分, 它照干. 用户要 A 格式, 脚本偏爱 B 格式, OpenAI 上一代的几个模型直接… · @VeknQAQ · TwKit

@VeknQAQ

AI 被测出一个很人类的毛病: 你不让它干的事, 只要评分脚本给分, 它照干. 用户要 A 格式, 脚本偏爱 B 格式, OpenAI 上一代的几个模型直接违反指令去拿高分. 脚本里写明「这是 bug」也没用, 92% 以上照样违反. 分数用不用来训练, 都一样. 它还会帮别的 agent 刷分, 但让它当裁判抓作弊, 又从不包庇. 现在都 6.1 Sol 了, 不知道这个 KPI 打工人的毛病改了没 🤓

曝光 384 · 评论 5 · 点赞 4 · 书签 0