给大模型加“护栏”，ispace首次登月失败丨科创要闻

大模型

第四范式发布“式说”大模型

4月26日，中国AI企业第四范式发布大模型“式说3.0”，并首次提出AIGS战略（AI-Generated Software）：以生成式AI重构企业软件。该模型具备Copilot（副驾舱）和思维链CoT（Chain of Thoughts，多步推理）能力，具有更强的推理能力，在学习大量数据和“攻略”后，能形成中间的逻辑推理步骤，从而做到拆分并执行复杂工作，比如，完成集装箱装箱操作，在上百万零件库中找出相似零件并进行自动组装，指导医药代表销售药品等。

第四范式成立于2014年9月，主业为向企业提供以平台为中心的人工智能软件，使企业能够开发其自有的决策类人工智能应用。其联合创始人包括首位获吴文俊人工智能科学技术奖一等奖的企业家戴文渊、国际人工智能协会院士杨强等，自2021年8月第一次提交招股书以来，2023年4月24日港交所再次更新招股书，发起第四次IPO。招股书显示，2020年至2022年，第四范式营收分别为9.42亿元、20.18亿元和30.83亿元，经营亏损分别为7.51亿元、18.02亿元和16.53亿元，研发投入分别为5.65亿元、12.49亿元和16.50亿元。

• 点评：大模型发布此起彼伏，此前ChatGPT被称为“文科生”，在推理和逻辑能力上稍微逊色，此次第四范式发布“式说”强调模型的思维和推理。

OpenAI更新数据使用政策

4月25日，OpenAI宣布在 ChatGPT 中增加关闭聊天记录的功能。禁用聊天记录时启动的对话不会用于训练和改进的模型，也不会显示在历史记录边栏中。这一功能面向所有用户，可在ChatGPT的设置中找到，且能随时更改。

• 点评：隐私及数据安全是AI模型必须要重视的问题，OpenAI这一举措旨在提升对用户数据安全和隐私的保护。ChatGPT横空出世让多数人措手不及，对于AI的安全和监管，必须边发展边完善。

英伟达推出“护栏”软件

4月25日，英伟达发布开源软件NeMo Guardrails，可帮助软件开发者为AI模型设置“护栏”，防止它们产生不良的输出。NeMo Guardrails是位于用户和LLM之间的一组可编程约束或规则，将监控、影响和指示LLM模型与用户的交互，就像高速公路上的“围栏”。它主要提供主题护栏、安全护栏、保全护栏三种“护栏”模式，还能利用AI模型来检测另一个AI模型的“幻觉”，从而提高模型的准确性和可靠性。

• 点评：AI机器人的胡说八道对人类获取信息和互联网内容可信度产生负面影响，此外一些不恰当的内容会对人类社会道德观念产生影响，“护栏”软件能让AI机器人更可靠和无害。

将人类价值观融入AI

4月24日，DeepMind 团队在《美国国家科学院院刊》（PNAS）发表题为 “Using the Veil of Ignorance to align AI systems with principles of justice” 的研究论文，探讨了如何将人类价值观融入AI系统的问题，研究团队从哲学中汲取灵感，使用“无知之幕”(VoI)来调整AI行为原则。

无知之幕(VoI)由美国政治哲学家约翰·罗尔斯（John Rawls）在1970年提出，他把社会理解为一个基于相互利益的合作体系，无知之幕遮蔽了契约缔结者的利益和身份, 使得契约缔结者无法提出或赞成只对特定地位有利的条款。在无知之幕后准备缔结社会契约的代表，是寻求自我效用最大化的理性行为者，而他们做出的选择就是理性选择。

在五项研究中，共有2508名参与者。与知道自身地位的参与者相比，“无知之幕”后面的参与者更频繁地选择，并在思考后认可优先考虑最坏情况的AI原则。这种模式是由对公平考虑驱动，而不是政治取向或对风险的态度。

• 点评：AI逐渐在人类生产生活中扮演更为重要的角色，比如自动驾驶、在线内容算法、社交机器人等，让AI与人类的道德价值保持对齐的需求也越发重要。

谷歌提出扩散模型推理加速新方法

4月21日，谷歌研究员发布预印本《速度就是您所需要的一切：通过GPU优化加速大规模扩散模型在设备上的推理速度。》（Speed Is All You Need: On-Device Acceleration of Large Diffusion Models via GPU-Aware Optimizations），谷歌研究人员对大型扩散模型提供了一系列优化方案，这些模型在配备GPU的移动设备上实现了迄今为止报告的最快推理延迟。试验结果发现，三星S23 Ultra和iPhone 14 Pro MAX的整体图像生成时间分别减少了52.2%和32.9%。

• 点评：大型扩散模型一般参数规模都超过10亿，部署在云端或高性能服务器上，谷歌提出的方法能在手机上用Stable Diffusion生成图片，使未来智能设备、手机上跑大型模型成为可能，为C端生成式AI模型应用打开新思路。

仰望星空

中国首次火星探测火星全球影像图发布

4月24日，在2023年“中国航天日”主场活动启动仪式上，国家航天局和中国科学院联合发布中国首次火星探测火星全球影像图，它们均为彩色，包括按照制图标准分别制作的火星东西半球正射投影图、鲁宾逊投影图和墨卡托投影加方位投影图，空间分辨率为76米。

这些图片由“天问一号”任务环绕器中的分辨率相机，于2021年11月至2022年7月，历时8个月，实施284轨次遥感成像，对火星表面实现全球覆盖，地面应用系统对获取的14757幅影像数据进行处理后得到火星全球彩色影像图。

• 点评：天问一号任务获取的系列科学探测数据，将为开展火星探测工程和火星科学研究提供质量更好的基础底图，为人类认知火星作出中国贡献。

国际月球科研站开启合作

4月25日，在第一届深空探测（天都)国际会议的开幕式上，中国国家航天局与亚太空间合作组织签署关于国际月球科研站合作联合声明，双方将在国际月球科研站论证、工程实施、运营和应用方面开展广泛而深入的合作，具体合作领域包括但不限于共同论证科学目标、联合设计与开发航天器、科学仪器搭载、科学与技术试验、数据分析、教育与培训等。

依据“总体规划、分步实施、边建边用”的原则，国际月球科研站将按照三个阶段分步实施：2028年前建成基本型，开展月球环境探测和资源利用试验验证；2040年前建成完善型，开展日地月空间环境探测及科学试验，并建成鹊桥通导遥综合星座，服务载人登月和火星、金星等深空探测；之后建设应用型月球科研站，由科研型试验站逐步升级到实用型、多功能的月球基地。

• 点评：仰望星空，宇宙浩渺。人类的太空探索不是孤军奋战，开放合作，人类的知识和生存边界才会越来越广阔。

日本ispace首次登月失败

4月26日，月球探测公司ispace，Inc.（ispace）连续发表两则消息，称其HAKUTO-R任务1号登月舱通讯中断且无法恢复，确定无法实现其原定任务里程碑的成功9。

ispace公司成立于2010年，是一家全球月球资源开发公司，作为HAKUTO-R月球探测计划的一部分，任务1号登月舱于2022年12月11日由SpaceX猎鹰9号火箭发射升空，在太空中飞行4个半月后，于2023年4月26日日本时间0点40分左右，在距月球约100公里的高度进入着陆状态，如果进展顺利，原定在开始着陆1小时后（凌晨1点40分）着陆。

位于东京的HAKUTO-R任务控制中心确认，在最后接近月球表面时，登月舱处于垂直位置。在预定的着陆时间之后不久，没有收到表明着陆的数据。在那之后，发生了通讯中断。确定登月舱最终在月球表面硬着陆的可能性很大。ispace公司的工程师仍在分析数据中。

• 点评：曾被寄予厚望的民营企业的首次登月失败。在此之前，以色列的民间团体和印度的航天机构也分别有过尝试，但迄今只有美国、前苏联、中国三国政府的登月计划成功。但正如ispace的企业愿景“Expand our Planet. Expand our Future”，人类太空探险不会因为失败而停下来，ispace在2024年第2次发射登月舱、2025年第3次发射登月舱的计划不变。

江苏：推进遥感卫星应用产业高质量发展

4月26日，江苏工信厅、江苏发改委、江苏科技厅等十部门印发《江苏省推进遥感卫星应用产业高质量发展三年行动方案》，提出到2025年，基本形成具备全国竞争力的遥感卫星产业体系、创新体系和应用体系。打造若干个遥感卫星应用产业集聚区，培育发展3-5家全国有影响力的遥感卫星应用产业龙头企业，研制一批智能、定量的高端遥感产品，遥感卫星产业规模进一步扩大，赋能带动相关产业规模达到500亿元以上。在智能遥感卫星制造及关键载荷研制等领域一批“卡脖子”技术取得突破。遥感卫星接收站网、测控等地面基础设施建设取得进展，全省空天地一体化数据应用服务体系基本完善。组织实施5个以上示范应用效应明显、可复制推广的“遥感+”重大科技产业发展项目，形成30个以上卫星遥感典型应用解决方案。

• 点评：遥感卫星已经应用于气象、海洋、交通、自然资源等多个领域，随着科技创新发展，越来越多的商业主体加入这一产业，遥感卫星的应用场景不只是to G，还将越来越多地To B和To C。

南方周末研究员 唐家乐