科大讯飞今天开源了两款端侧大模型:星火 X2.5-4B 和星火 X2.5-1.7B。
名字里的 4B、1.7B 是参数规模——小模型,但原生支持最长 1M token 上下文窗口,重点提升智能体、数学和通用理解能力,面向车载、智能硬件、万物互联等端侧场景。
一周后(9 月 7 日),科大讯飞还将发布星火 X2.5(293B)基座模型。
端侧 AI 的开源战,正式打响了。
过去两年大模型的主战场在云端:几千亿参数的大模型,跑在数据中心里,用户通过 API 调用。
但端侧 AI 的逻辑完全不同:模型直接跑在你的设备上——车机、手机、智能音箱、甚至家电。不上云、不联网、数据不出设备。
好处是明显的:响应快(没有网络延迟)、隐私好(数据不出门)、成本低(不用一直烧 API 费用)、离线可用。
坏处也明显:设备算力有限,模型做不大。所以端侧模型都在拼"小参数、高能力"——4B、1.7B 的模型,要做到接近大模型的效果。
这次开源最值得注意的数字,是 1M token 上下文。
1M 上下文意味着模型能一次"记住"一整本书的内容。在小参数模型上实现 1M 上下文,说明工程上做了大量优化——这通常是旗舰模型才有的能力,现在下沉到了端侧。
对小模型来说,上下文长度比参数规模更影响实用体验:车载助手要理解整段对话,智能硬件要记住用户偏好,1M 上下文让这些场景真正可用。
顺带一提,端侧模型的另一个关键词是"智能体能力"。星火 X2.5 强调提升智能体能力,意味着小模型也要会调用工具、执行多步任务——不是只能聊天,而是要能"干活"。这是端侧 AI 从"语音助手"走向"本地智能体"的关键一步。
云端模型的竞争已经白热化,但端侧 AI 才刚起步——而它可能是更大的一块市场。
想想有多少设备:车、手机、家电、穿戴、工业设备。每一个"能跑模型的设备",都是端侧 AI 的落地场景。云端模型是"算力集中",端侧模型是"智能分发"——把 AI 能力塞进每一台设备,这才是万物互联的终局。
科大讯飞押注端侧不是偶然。它在语音、车载领域深耕多年,端侧场景是它的基本盘。开源 4B/1.7B 端侧模型,既能抢占开发者生态,又能拉动自家硬件和平台业务。
而且,端侧模型的商业模式和云端完全不同:云端靠 API 调用收费,端侧靠"预装授权 + 开发者生态 + 硬件溢价"。谁先占据开发者的端侧心智,谁就拿到了下一波设备的入场券。
对开发者来说,讯飞开源的意义是:做端侧 AI 应用有了免费的高质量底座。4B 模型在消费级设备上就能跑,1M 上下文覆盖绝大多数场景,MIT 类开源协议意味着可以商用。
对普通用户来说,端侧 AI 的普及意味着:你的下一台车、下一个智能音箱、下一部手机,里面的 AI 助手会"离线也能用"。不联网也能对话、也能理解复杂指令,数据留在本地,隐私更有保障。
大模型厂商的竞争已经从"谁参数大"延伸到"谁能把智能塞进最小的设备"。当 1M 上下文的模型能跑在车上,AI 离"无处不在"又近了一步。
端侧 AI 开源,你觉得会是又一个"安卓时刻"吗?
更新时间:2026-09-04
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034903号