哈喽,大家好,我是疯爆银熊……
很荣幸在北京参加了技嘉 ATOM 桌面 AI 超算黑客松这个活动,作为一个摸了二十多年硬件的 80 后装机佬,我跟大家在这里透露下一个惊人的秘密:办公桌上跑千亿参数大模型这事儿,真的来了。
本来我是不信的,7 月 26 日,北京格兰云天大酒店鸟巢店三楼,我原本是带着"这小盒子能干啥"的疑问进场的,活动结束后我只能说,我被这台技嘉 AI TOP ATOM 狠狠上了一课。

参加活动前我就已经在网上详细了解了这台机器的各项参数,到现场后第一眼看到机器也着实震惊了我:体积只比传统迷你电脑主机大一点,银灰色磨砂金属外壳,背部三个 USB 3.2 Type-C、HDMI 2.1a、万兆网口,还有一个很特别的 NVIDIA ConnectX-7 接口。

这台机器的核心是一颗 NVIDIA GB10 Grace Blackwell 超级芯片,台积电 3nm,20 核 ARM CPU(10*Cortex-X925 + 10*Cortex-A725)和 Blackwell 架构 GPU 通过 2.5D CoWoS 封装焊在一起。
性能上,这里放几个关键数字大家可以感受下:
FP4 精度 1000 AI TOPS 算力
128GB LPDDR5x 统一内存,CPU 和 GPU 通过 NVLink-C2C 共享,带宽 273 GB/s
整机功耗仅 170W
单机可跑200B(2000亿)参数模型,两台通过 ConnectX-7 互联可跑 405B

以前想在本地跑 70B 以上的模型,得攒一套多卡工作站,几万块起步,电费、噪音、驱动地狱一样不少。现在这台 150*150*50.5mm 的小盒子,办公桌插座就能驱动。
活动现场有样机展示,我特意到 ATOM旁边“把玩”了下,170W 的整机功耗在噪音和散热控制上优秀的不像话。中场休息时大家端着甜点小吃围在设备旁交流,没人觉得这玩意儿吵或者烫手。
硬件猛真的不算啥,毕竟有钱都能实现,装机佬都懂——卡死你的从来不是算力,是环境。

这次技嘉联合 NVIDIA 技术底座,再加上趋境科技自研的 AIMA 推理智能管控平台,把原本要折腾两三天的部署流程,压到了几分钟搞定:
1、开机通电,浏览器输 IP 进 AIMA 的 Web 管理界面
2、平台自动识别硬件环境,智能匹配最优引擎配置
3、从模型列表选一个自己喜欢的(预装智谱 GLM-4.5-Air 106B,也可导入 Qwen、Llama 等)
4、点一下部署,一个 OpenAI 兼容的 API 就就绪了

本次活动产品和平台介绍都是前菜,重头戏是11支参赛队伍现场的成果展示(48小时内通过技嘉 ATOM这台小小的机器都完成了哪些本地 AI Agent 的开发和部署)。说实话,看完我挺震撼的——同一台设备,跑出了完全不同的世界。
挑几个让我印象深刻的说说:
有队伍做了桌游 AI 陪玩,解决线下凑不齐人的痛点,一个人也能享受多人桌游的策略对抗
有队伍瞄准装机小白,做了一个本地 Agent,你报预算和需求,它直接给你出配置单+兼容性检查,简直就是要抢我的饭碗
最让我意外的是一支队伍把中医的望闻问切和 AI 结合,通过多模态分析舌象、面色,辅助老中医提升初诊效率和准确率

还有和医保局合作的团队,用 ATOM 本地跑模型分析药品流通数据,找出价格虚高的环节,帮老百姓拿到更实惠的药价
企业图纸审核那组也很实用,工程图纸动辄几百页,人工审容易漏,Agent 逐页比对规范,漏检率大幅下降
还有一组专门做多模态调用优化,在提升 AI 响应效率的同时大幅降低 Token 消耗,给企业省真金白银。

展示结束后是评分颁奖环节。评委从创新性、实用性、技术完成度几个维度打分,评出最佳作品奖最佳创新奖等四个不同奖项,其中最佳作品奖的奖品是一台技嘉AI TOP ATOM,太眼馋了,我也有了蠢蠢欲动的一颗少年心。
虽然活动仅仅持续了半天,但参加完这场黑客松活动后,让我不得不佩服技嘉在满足用户对本地AI部署"开箱即用"需求上做出的努力。

技嘉 ATOM 的价值不仅仅是把 NVIDIA GB10 这颗超级芯片、128GB 统一内存、ConnectX-7 高速互联、NVIDIA AI 软件堆栈,和趋境 AIMA 的智能化管控打包成了一个完整闭环。更是降低了用户运维、调配推理引擎的复杂工作难度,你就告诉它想跑啥,剩下的它自己搞定,就这么简单。这种"硬件 + 智能管控"的一体化思路,奠定了技嘉在消费级桌面 AI 领域领跑的底气。

作为一个经历过 486、Pentium、酷睿、锐龙的老装机人,我见过太多"参数猛如虎,体验二百五"的产品。但在这场黑客松上,11 支队伍用同一台技嘉 AI TOP ATOM 跑出了从中医辅助诊断到医保价格分析、从桌游陪玩到图纸审核的完整应用链——我没亲手拧过它的螺丝,但本次活动让我我亲眼看到了它能干什么。
技嘉 ATOM把 AI 开发的门槛,从"机房级"拉到了"桌面级"。 对想在自己的桌子上养一个千亿参数大模型的开发者来说,这扇门,NVIDIA 和技嘉一起给推开了,着实让人惊喜!
更新时间:2026-08-15
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034903号