70亿参数大模型,端侧AI赋能下的Find X7,效率与质量并存

接下来的一年,应该会是手机圈的AI元年。纵观2023年,不少手机厂商纷纷开始推出全新的OS系统,并且将AI能力嵌入到自家系统中。当然,现阶段手机上的AI还多是以云端为主,因此脱离网络会损失大部分功能。但在近期OPPO举办的Find X7系列产品技术沟通会上,就透露了Find X7系列上首发搭载行业首个端侧部署70亿参数大模型,以此提高AI效率。

据了解,OPPO为了将这套大模型方案装载在手机系统上,通过高精度 4bit 量化等模型压缩技术,将大模型占用的容量由原来的28GB压缩到了3.9GB的大小,实现内存和存储空间的进一步优化,为端侧AI的性能与精度实现了更好的平衡。不仅如此,OPPO 自研注意力算法让安第斯大模型在首字延迟上降低50%,意味着生成内容时启动更快,在推理吞吐上提高30%,直接提升了AI生成内容输出的效率。

另外,70亿参数AI端侧化的好处不仅仅是提高了AI效率,在Find X7系列上,能够脱离云端大模型自行实现生成式AI技术加持下的语音转录、自然语言理解以及内容摘要体验,意味着哪怕是断网使用,Find X7系列的语音转文本、自然语言理解、内容摘要等功能都不会因此失效。


安第斯大模型还支持超过120类主体的识别与分割,可以实现发丝级的分割以及高达6个的多主体分离,以及超大面积图像的填充与自然生成,简单来说,就是在确保精细度的情况下大幅度提升抠图效率,还能够将图片拓展,比如利用Find X7系列进行摄影后,如果背景比较杂乱,可以将主体抠出,然后利用图片拓展把背景“补回来”,而且安第斯生成式视觉模型侧载部署,也会比同平台其他模型生成效率更高。


当然,这次的Find X7系列产品技术沟通会上,不单单是带来了行业首个端侧部署70亿参数大模型,还有一个实现效率、功耗兼顾的全新潮汐架构。据悉,这个全新架构能够更好的发挥硬件性能,实时地根据计算型任务与渲染性任务为CPU和GPU动态分配系统级缓存资源,通过这一独有的技术,潮汐架构可以实现8%的平均能效收益。


听筒/免提双模卫星通话功能,也是Find X7系列上的一大亮点。据了解,传统的卫星通讯技术需要保持单一姿态和位置,不能随意改变,使用体验还有改善的空间,Find X7系列上则通过全新架构的天线,在连接卫星后,不再局限于同一个姿势,并且还支持听筒/免提双模式,大大提升了使用卫星通信功能时的体验。

在沟通会上,OPPO还表示同样要在Find X7系列上搭载VIP模式,这个VIP模式就是此前应用在Find N3的VIP模式,通过独有的三段式物理开关能够一推上锁,快速关闭麦克风、摄像头、定位等敏感权限,另外,国密二级安全芯片也将会在Find X7系列上搭载,也就是说,安全能力这块,Find X7系列也没有落下。


不得不说,这次曝光的Find X7系列核心技术力度可不小,更全面智能的AI、更省电更流畅的新架构以及通讯相关的技术应用,或许旗舰手机的标准就是被OPPO这样的厂商一步一步拉高的吧,说起来,OPPO Find X7系列的影像也是行业天花板来着,越来越期待Find X7系列的发布会了。#OPPO Find X7首搭70亿参数端侧大模型#

展开阅读全文

页面更新:2024-02-13

标签:模型   效率   参数   自然语言   会上   架构   主体   质量   系列   系统   技术

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight 2020-2024 All Rights Reserved. Powered By 71396.com 闽ICP备11008920号-4
闽公网安备35020302034903号

Top