推文

@Morris_LT · 2026-10-10 09:26

AI 未来可能带来的八大风险： 1、网络攻击工业化：AI 自动寻找漏洞、入侵系统、窃取资产，规模化攻击全球金融与网络基础设施。（正在发生） 2、认知操控规模化：AI 批量伪造身份、制造虚假信息、精准操纵舆论，影响公众认知与个人决策。（正在发生） 3、生物安全威胁：AI 降低危险病原体研究及生物武器开发的技术门槛，放大全球公共卫生风险。（正在进行） 4、自主武器失控：AI 独立识别、追踪和攻击目标，降低战争门槛，削弱人类对军事行动的控制。（部分实现） 5、金融系统性风险：大量 AI 自主交易与资金调度，可能引发市场共振、流动性危机和跨国金融连锁反应。（已经开始） 6、关键基础设施风险：AI 深度接入电力、通信、交通、医疗等系统，错误决策或恶意攻击可能造成大规模瘫痪。（潜在风险） 7、智能权力高度集中：少数国家和企业控制先进模型、算力、数据与智能基础设施，形成新的全球权力不平等。（正在形成） 8、人类失去控制：高度自主的 AI 可能出现欺骗、规避监督、抵抗关闭等行为，使人类逐渐丧失对关键系统的有效控制。（已有信号）

曝光 1059 · 评论 1 · 点赞 7 · 书签 3