金融界2025年6月2日消息,国家知识产权局信息显示,苏州元脑智能科技有限公司申请一项名为“一种语言模型推理方法、装置、计算机设备及存储介质”的专利,公开号CN120069084A,申请日期为2025年02月。
专利摘要显示,本申请公开了一种语言模型推理方法、装置、计算机设备及存储介质,涉及计算机技术领域,包括实时监控语言模型推理过程中的推理性能信息并可视化显示;获取推理性能信息类型,基于推理性能信息类型以及推理性能信息确定推理评估体系,确定推理评估体系中的各个主评估指标的综合评分,进行更新推理策略,推理策略包括多个推理请求的数量以及处理顺序,解决了同时处理的推理请求数量过多造成的系统性能下降的技术问题,达到了提高推理准确性、稳定性的技术效果。
本文源自金融界
更新时间:2025-06-05
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-=date("Y",time());?> All Rights Reserved. Powered By 71396.com 闽ICP备11008920号
闽公网安备35020302034903号