感谢作战群里面 20 余位同学的全力合作，花了一个半月的时间，我们终于解决了包括 full duplex，turn based half duplex an… · @GenAI_is_real · TwKit

@GenAI_is_real

感谢作战群里面 20 余位同学的全力合作，花了一个半月的时间，我们终于解决了包括 full duplex，turn based half duplex and cascaded system 三类完善的 interactive model system，都实现了非常好的流式体验，打断智力表现均在线。 很长一段时间，完成 interactive model system 以实现 interactive intelligence，是 SGLang Omni 项目的立项初衷。但是苦于长期受限于开源模型的能力水平和相关技术领域的缺乏，我们一直没有很好的进展。 直到 3 个月之前，有幸与一些研究者大佬建立了联系，我们便很快开始 move 了起来。经过了一段时间的密闭开发，终于可以很荣幸的给大家分享。more to come，欢迎大家读取我们的博客。 https://www.sglang.io/blog/omni-interactive-runtime

曝光 685 · 评论 0 · 点赞 5 · 书签 1