英特尔高宇:联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型

12月7日,在首届AI PC产业创新论坛上,英特尔中国区技术总经理高宇在主题分享中表示,AI PC需要CPU、GPU和NPU提供的混合算力来支持。目前,经过英特尔与联想的共同优化,CPU的通用算力已经可以流畅地运行本地大模型。

高宇在现场演示了在联想小新Pro超轻薄笔记本上离线运行7B(70亿参数)AI本地大模型的效果。这台笔记本配备了英特尔13代酷睿13900H CPU。在只使用CPU通用算力的情况下,这台联想小新Pro笔记本半秒钟左右就可以获得首个token输出,流畅的速度完全满足人眼阅读需求。

英特尔7B AI本地模型可在联想小新Pro超轻薄笔记本上流畅运行

据高宇介绍,将于12月15日发布的14代酷睿Ultra新平台上,这个7B参数的AI本地大模型将运行在iGPU上,性能和使用体验会更上一个台阶。

高宇表示,联想作为行业领导企业,也是英特尔多年最核心的战略合作伙伴,在很多战略决策上双方都坚定地走到了一起。在即将到来的AI PC时代,英特尔也将与联想共同携手,推动AI PC的普及和发展。

展开阅读全文

页面更新:2024-02-11

标签:离线   英特尔   流畅   模型   笔记本   战略决策   中国   台阶   演示   参数   高宇

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top