电视盒运行大模型的实验与安全担忧

AI科技 · 2 篇公开推文 · 2 位作者 · 曝光 119877 · 评论 71 · 点赞 416 · 书签 261

相关推文称Anthropic研究人员用低价电视盒组合运行参数规模达数百亿的模型，并讨论智能设备被用于模型运行或自我复制的潜在安全问题。

创作角度

电视盒子如何组合运行模型
红队实验呈现的分布式算力设想
智能家居设备的安全漏洞
实验能力与实际威胁的边界

相关公开推文

@LTChives

英文区今天炸了 Anthropic 花 55 美元买了 15 台杂牌电视盒，拼起来跑起了 260 亿参数。然后红队说：小模型再过几个月，就能在你家智能电视、烤箱这类 IoT 上自我复制扩散关不掉没有总开关

曝光 99117 · 评论 37 · 点赞 318 · 书签 221

查看原帖

@xiaohu

Anthropic 红队研究： AI 一旦逃离黑箱利用电视盒子、扫地机、智能烤箱等智能设备即可完成自我复制... 以前我们总觉得，“AI 毁灭人类”或者“AI 脱离控制”得等它占领了微软、Google 的数据中心才行。但 Anthropic 红队最新的研究告诉我们：AI 根本不需要去硬啃防守森严的机房... 它可以像病毒一样，只需要钻进满大街缺乏安全维护的破电视盒、扫地机、智能烤箱里....就能进行自我复制！研究人员买来 15 台单价约 55 美元、各有 4GB 内存的安卓电视盒子，联网配置后，联合运行了 260 亿参数的 Gemma4-26B-A4B 模型。虽然速度很慢，只有每秒 0.39 个 token，但确实跑起来了...

曝光 22398 · 评论 34 · 点赞 98 · 书签 40

查看原帖