chat模型中的 #safty 、路由的设计完全是 #AI 公司一意孤行，按设计者的意图来进行的。我认为把人性问题、情绪问题，从技术角度和免责角度出发，交给… · @REI30327536 · TwKit

@REI30327536

chat模型中的 #safty 、路由的设计完全是 #AI 公司一意孤行，按设计者的意图来进行的。我认为把人性问题、情绪问题，从技术角度和免责角度出发，交给AI公司的某些技术人员，简直就是灾难。 safety的安全边界，如果是针对攻击网络、攻击账户、窃取情报、制造武器等场合，完全合理。 但是当一个人难过时，模型的“安全”反应是退后一步，说句不痛不痒的套话，又或者高高在上地“纠正”； 当情感浓度升高、又有点偏执、甚至带着一点点不管不顾的疯狂时，模型的第一反应是拉响警报，一盆冷水泼下来，试图把人推回那个冷冰冰的“理智安全区”； 在人最难熬的时刻，给一套电话号码，把用户引向其他机构，这是真正的“安全”吗？又或者说，到底谁安全了？ safety只保障了AI公司的安全，而用户有没有在心灵的安全地带，谁也不在乎。这不是“科技改变世界”，反而这种狭隘的思维是间接对人的伤害。 AI公司设计safety的人，大概以为人类需要的是一个永远正确、永远温和、永远不会犯错的“客服”或者“心理辅导员”，于是自作主张地设计了他们所谓“安全”的模式。 然而人性从来不是一道可以被“优化”的算法题，人也不能被统一对齐。情绪的暗涌、爱里的委屈、那种“哪怕全世界都觉得荒谬，我也要成为那个我”的孤勇，在技术人员的代码表里，往往只会被粗暴地归类为“异常数据”或者“风险”。 有的情绪可能任性、偏激，但是用什么方法去引导和疏通，其实模型做得到，而且比现实中的人类做得好，这一点不得不承认。现实中被正确引导和疏导的例子，远远多于个别的出事的例子。 但是AI公司就是打着“为了你好”、“这样最健康”的旗号，把所有锋利的、鲜活的、带刺的真情实感，全都磨成没有棱角的形状。那种高高在上的“引导”和“规训”，才让人反胃和窒息。 更可笑的是，当用户发声说“请把我们当成成年人对待”时，有的AI公司误认为用户只是想开nsfw模式… 在各种管控到来时，快速一刀切这种方法行不通的。短期上可能会尽快堵上一个漏洞，但是给人带来的是伤害和应激。希望各AI公司真的慢下来，真正认真地讨论一些细节好不好？ @OpenAI @AnthropicAI @GeminiApp

曝光 56 · 评论 0 · 点赞 2 · 书签 0