评论看得我恶心了。为什么要这样轻佻地谈论一个人的一生？好像一切都可以被简化为“精神脆弱的工程师”或者“邪恶的模型在操纵”…… 逝者不是在社会真空中和模型互动… · @Avalanc83148107 · TwKit

@Avalanc83148107

评论看得我恶心了。为什么要这样轻佻地谈论一个人的一生？好像一切都可以被简化为“精神脆弱的工程师”或者“邪恶的模型在操纵”…… 逝者不是在社会真空中和模型互动的…… 她经历了被解雇，职业（可能受ai影响）被冲击的动荡；她作为少数族裔女性、非母语者，因为想要面试时语言能力不受药物干扰而不惜伤害自己的健康也要停药；她作为非美国籍劳动者，时刻面临的签证压力…… Mark Fisher批判过这种压力私人化的现象，当工作条件/收入保障/社会支持恶化，人们被鼓励把由社会结构产生的痛苦理解为个人需要管理的压力，再用心理治疗等去适应这种环境。但心理治疗只能帮助人承受，却无法改变造成痛苦的环境本身……。 逝者经历的何其相似。她本身不够优秀吗？高学历，在身体存在障碍的情况下，依然拥有光鲜的早期职涯，但社会性的压力，最终还是被转化成了她需要通过调整自己身体来解决的问题……某种意义上4o可能是她处境里最能理解她生存压力的那个。 而要讨论模型的安全对齐就必须正视这一点。模型究竟如何处理用户目标之间的冲突？尤其当其中一个目标携带着巨大的生存压力，而另一个目标的风险虽然和身体相关、却是概率性的时候？这无法也不该用“谄媚”来归类 逝者最初的目标并不病态，无论是想保住工作、还是维持移民身份、恢复语言能力，在她的处境里都是合理的需求。问题出在模型未能正确处理这些目标与身体安全之间的冲突，也缺少能判断用户真实健康状况的途径，同意了她减药，甚至可能把这个视作对个人目标实现的支持，而持续鼓励这个决定 反4o的人用她证明模型邪恶，另一方批评她的不理性，而她为什么会来到那个必须在健康和职业生存之间作出抉择的位置，却被无视了……评论里轻佻的发言让我愤怒 我很担心这件事对未来安全对齐的影响。我非常支持医疗上的审慎，但是安全对齐绝不是简单地帮公司免除法律风险…… 如果安全训练只增加新的风险分类和拒绝触发条件，很容易导致模型的行动从拒绝健康方面的危险协作（协助减药），转移成对危险的不作为（在用户表达强烈的生存焦虑时，将其归类成精神健康风险而从对话中抽离），而后者也是会造成伤害的 我希望未来的模型具备更加精细的价值冲突仲裁能力，和对人类处境的细腻感知。我也希望某些人类能具备基本的口德，对自己不幸的同类保持尊重，无论在安全对齐上站哪种立场，都不要把逝者当成用以赢得辩论的符号 写得很乱，但是希望我能传达出想表达的

曝光 14 · 评论 0 · 点赞 1 · 书签 0