这期聊得感觉相对坦诚，比较有信息量。 - AI 的工程能力让我们可以有野心尝试思考重构网络基础设施、操作系统、上层应用。 - 如何让 AI 不作出对人类造成… · @bylixing · TwKit

@bylixing

这期聊得感觉相对坦诚，比较有信息量。 - AI 的工程能力让我们可以有野心尝试思考重构网络基础设施、操作系统、上层应用。 - 如何让 AI 不作出对人类造成重大伤害这件事确实很难，所谓沙箱、监控会被看成阶段性有效，长期无效的手段。最终只能依赖于虚无缥缈的对齐。。。 - 一个有趣的想法是：他宁愿未来有一万亿个略微超过人类智力的 AI，也不愿意出现一个拥有万亿 IQ 的超级 AI。 希望借助于多 agents 集群（swarms）的互相制衡来平衡安全问题。 - OpenAI 内部算力成本是高于人力成本的 => 也就是为什么想自费上班都很困难。 - 数学田园时代的结束令人惆怅：很难预期未来学界的发展，到底是更加繁荣，还是人才凋敝。 - 模型真正值得关心能力只有两类，一是科学发现、做人做不到的事，二是让人愿意与之共事。

曝光 100 · 评论 2 · 点赞 0 · 书签 1