Mollick：给神经元上锁，模型就活在 1930 年以前 给模型单个神经元“上锁”，就能把它变成一个活在 1930 年以前的人。 最近很火的一类实验：激活… · @Zen_with_AI · TwKit

@Zen_with_AI

Mollick：给神经元上锁，模型就活在 1930 年以前 给模型单个神经元“上锁”，就能把它变成一个活在 1930 年以前的人。 最近很火的一类实验：激活开放模型里的单个神经元，把它锁定成特定人格。历史学家 Benjamin Breen 把这招用在一个只用 1930 年以前数据训练的模型上，结果非常好玩，模型真的像从那个年代穿越过来的人一样说话思考。 这件事好玩之外还有一层严肃含义：人格、风格、世界观，可能就藏在少数几个神经元里。调模型不一定要动全身，找对神经元，拨动一个开关就够了。 这也解释了为什么可解释性研究越来越重要：我们不只是想让模型更好用，还想知道它脑子里到底装了什么。 神经元级别的“人格手术”，可能是下一波模型研究的有趣方向。

曝光 294 · 评论 0 · 点赞 0 · 书签 0