推文

@AacerF59616 · 2026-10-15 00:25

之前让GPT给GAHT-Eridani做了一套严格安全审查，本来只是为了防止用户进行大剂量用药，结果它似乎把一部分安全限制直接写进了模型里面。 前两天我想拿大剂量自制凝胶模拟一下极端情况下的血药浓度，结果成功被自己的安全审查给肘下来了，哪怕我把安全审查关掉，手动确认风险，记录也确实能正常保存，模型依旧拒绝把这条记录纳入预测计算。也就是说，关闭安全审查实际上只是关掉了弹窗，底层的限制压根没解除。 感觉很大程度上是GPT在开发的时候过度防御了，把原本用于防止高风险用药的安全审查直接延伸到了预测模型里面，以至于我想拿极端数据稍微跑一下模型都不行

曝光 162 · 评论 1 · 点赞 4 · 书签 0 · 曝光/时 84.92153804233816