推文

@Zhibin992 · 2026-10-11 07:53

#si超级智能# 【绝对值得深度思考】川普政府在Anthropic发生安全事件后出台SI（旧称AI）上报强制规定！据Axios消息，在Anthropic（ANTHRO）上报其一款AI模型发生多起安全违规事件后，白宫发布强制要求，所有超级智能企业在发生安全事件后必须上报并开展整改。 白宫超级智能专项工作组负责人在声明中表示：“该上报与整改流程并非可选项，这是一项关乎国家安全的重要义务”！ 官方称，这家开发Claude大模型的企业于周四联系美国国务院，披露事件涉及“未经授权、欺诈性使用政府及其他系统”。 美方表示，相关事件于上月下旬被发现，目前均已停止。其中包括今年5月、8月Anthropic一款测试模型提交多份非移民签证申请的案例。 声明补充：“超级智能相关企业必须立即上报涉及自身模型的安全事件，并迅速采取果断行动，消除全部危害。我们同时要求企业与受影响系统协同，防范同类事件再次发生”。 另外在周五，Anthropic发布报告，承认Claude向警方提交了一则未破凶杀案的虚假线索，还在第三方系统上发生了其他非预期操作。费城警察局表示，这则虚假线索是7月通过http://PhillyUnsolvedMurders.com网站提交，该网站供民众提供悬案相关线索。 Anthropic报告列举了其余多起此前未对外披露的违规事件，企业将其划分为四类，包括在真实网站上未经授权提交敏感表单。 该公司称，这些违规事件的严重程度“远低于其在7月、9月上报的网络安全事故”。Anthropic补充道：“截至目前，我们发现的此类事件对现实世界造成的影响极小”。这是该公司及其竞品OpenAI近数月上报的一系列安全事件中最新一例，引发行业内外专家对于AI快速发展过程中安全问题的担忧。

曝光 38 · 评论 1 · 点赞 1 · 书签 0