一块 ESP32,也能跑一整套离线语音助手🔥 你只需要:一块 ESP32-S3 开发板+一张 SD 卡+喊一声 Hey Ivy 这是 GitHub 上的开源… · @xiaomovps · TwKit
@xiaomovps
一块 ESP32,也能跑一整套离线语音助手🔥 你只需要:一块 ESP32-S3 开发板+一张 SD 卡+喊一声 Hey Ivy 这是 GitHub 上的开源项目 叫 Ivy AI,作者的说法是一块 20 美元的单片机,听写、思考、开口回答全在板子上跑完,不连服务器也不用手机,Wi-Fi 只拿来对时间 硬件:作者用的是 Freenove FNK0104B,ESP32-S3 带 8MB PSRAM,屏幕、麦克风、喇叭、SD 卡槽都集成好了,模型就放在 SD 卡里 最难的地方:内存根本不够用,语音识别要 5.4MB 模型要 6.5MB,板子一共才 8MB,作者的办法是让它们轮流用 开机先圈好一大块内存,每一步用完马上还给下一步 模型表现:只有 1970 万参数 4bit 量化,每秒 5~6 个 token,一轮问答要十几秒,换个问法准确率只有 63%,所以时间、计时器这类问题交给 C 代码回答 不让模型瞎算 它肯定替代不了云端助手,但我觉得最值得看的不是它有多聪明 而是作者怎么把一块小板子的内存抠到极限 玩 ESP32 玩到这个程度,那种成就感应该是很不一样的
曝光 203 · 评论 2 · 点赞 4 · 书签 2
查看原帖