DC娱乐网

OpenAI 有个 Realtime API,能让 AI 跟你实时语音对话,延迟

OpenAI 有个 Realtime API,能让 AI 跟你实时语音对话,延迟低到像真人打电话。但它是闭源的,而且目前只玩语音,不看、不感知环境。

今天推荐一个开源替代方案,叫 Realtime-Venus。它让 AI 不仅能实时跟你语音对话,还能持续看、持续听,同时后台自己干活,干完了再跟你汇报。

换句话说,它不是一问一答的聊天机器人,而是一个能持续感知环境、随时跟你交流、还能同时处理复杂任务的 Agent 系统。

这东西对谁最有价值?智能眼镜、车载助手这类场景。

你戴着智能眼镜出门,它能看到你看到的,你随口问一句"这栋楼是什么风格",它边看边答;你再说"帮我查查附近有什么好吃的",它不会让你干等着,而是边跟你聊天边去查,查完了再告诉你。

这就是它最核心的设计思路:前台负责感知和对话,后台负责干活,两条线并行跑,互不阻塞。

架构上叫"双循环",拆开看是三个组件:

[微风]Realtime-Venus-Omni(9B参数),负责"看和听"。它能流式处理摄像头和麦克风输入,持续感知环境变化,甚至能主动发起回应——不是等你说完它才动,而是看到场景变化了也能插话。

[彩虹]Realtime-Venus-Audio(9B参数),专门搞定语音交互。原生全双工,也就是说它能在说话的同时继续听你在说什么,不会"你等我说完才能说话"那种尴尬的半双工体验。它学会了区分你是随口应和还是在打断它,这个很必要,毕竟很多语音助手一听到声音,就以为用户要插话,结果把用户的口头语当成了新指令。

[太阳]Realtime-Venus-Harness,这是幕后干活的那个。当你让它"帮我查一下明天的天气然后规划路线",它不会傻乎乎地先查天气、再规划、最后才开口说话。它会把这个任务委派给 Harness 去后台异步执行,自己继续跟你聊天。等 Harness 把结果跑完了,再送回对话里,由 Omni 或 Audio 模型决定什么时候用语音告诉你。

这个设计看似简单,但解决了一个很真实的问题:现实中的对话从来不是阻塞式的。 你跟朋友聊天时,朋友说"等我回个消息",你不会傻站着等他回完才继续聊。Realtime-Venus 让 AI 也有了这种能力。

该项目代码已开源,Apache 2.0 协议。有浏览器端的 Demo,也有安卓端的 Beta 应用。模型在 Hugging Face 和 ModelScope 都能下到。

项目地址:t点cn/AXlYUXn9