Wormhole n300实测表现：对标RTX4090，能不能平替AI显卡？

很多关注本地AI部署的玩家，最近都在讨论Tenstorrent推出的Wormhole n300。由知名芯片设计师Jim Keller团队打造，定位AI专用加速卡，外形和独立显卡相似，PCIe接口上机，但没有视频输出，不能用来玩游戏。不少人好奇，这张卡纸面参数亮眼，实际跑大模型表现到底如何？

先简单理清硬件底子。Wormhole n300搭载两颗Wormhole处理芯片，配备24GB GDDR6显存，整卡功耗上限300W，分为主动散热n300d、被动散热n300s两个版本。海外定价约1400美元，主打脱离CUDA生态，依靠RISC-V架构Tensix核心运行AI推理，支持多卡互联扩展算力。

结合大量博主实测数据，先说真实的推理性能。

运行主流开源大模型，比如Llama 3.1 8B、Gemma系列，完成固件预热后，单轮生成速度能够稳定在30token/s上下。短板十分明显：首次加载模型存在较长预热时间，刚开机第一次请求速度会大幅降低。

横向对比参考，同等条件下，性能距离RTX 4090有明显差距，更接近中端AI显卡水平。优势体现在多并发场景，多路请求同时运行时，吞吐能力表现稳定，适合搭建小型本地服务。

很多人容易踩一个误区：不要拿游戏显卡的标准衡量它。

它架构专为AI推理设计，只负责模型运算，不支持图形渲染，游戏、剪辑软件完全无法调用。显存24GB看似可观，但显存带宽576GB/s，相比4090接近1TB/s的带宽存在差距，运行超大30B、70B模型，加载速度会慢一些。

能效和扩展性是这张卡的两大亮点。

持续跑AI推理负载，同等算力下功耗控制有优势。而且硬件原生支持多卡组网，多张n300可以联合调度，虚拟成统一算力池，对于想要逐步搭建小型本地算力集群的开发者十分友好。软件提供TT-Buda、TT-Metalium两套开发工具，面向开发者开放底层调度权限。

聊完优势，重点说说普通用户难以接受的痛点。

第一，软件生态是最大门槛。英伟达CUDA生态成熟，几乎所有本地AI工具一键适配。Wormhole需要单独适配模型，主流一键部署工具大多不能直接兼容，很多模型需要手动转换权重，新手很容易卡在部署环节。固件、驱动版本匹配要求严格，经常出现版本冲突、识别失败的问题。

第二，模型适配不全。流行的图像生成、语音模型，很多缺少官方适配，文本大模型兼容性更好，多模态模型坑较多。如果只是简单跑文字对话尚可，想要稳定部署AI绘图，体验会大打折扣。

第三，货源与售后问题。这款加速卡面向海外开发者市场，国内渠道很少，购买成本高，出现故障维修渠道不完善，并不适合普通玩家盲目入手。

那到底哪些人适合考虑Wormhole n300？

适合人群：AI开发者、技术爱好者，想要研究CUDA之外的AI硬件架构；需要搭建小型持续推理服务，重视多卡横向扩展；愿意花时间调试代码、适配模型。

不适合人群：普通玩家，只想一键部署本地大模型、AI画图；想用一张卡兼顾AI运算和游戏；没有代码基础，追求开箱即用。

客观总结一下实际定位：

Wormhole n300算不上“平民平替显卡”，更偏向技术向开发硬件。性能中等、扩展性出色，但生态短板短期内很难弥补。如果追求省心、兼容性，RTX系列依旧是本地AI首选；如果你想探索多元化AI芯片方案，愿意接受调试成本，它才有入手价值。

另外提醒大家，Tenstorrent已经推出新一代Blackhole系列，Wormhole属于上一代产品，选购前也可以对比新款硬件再做决定。