OpenAI宣布2026年开启ASI时代，人类可一周工作32小时、不降薪

就在刚刚，OpenAI突然发表重要产业政策长文。

4月6日消息，OpenAI在官网发布题为《智能时代的产业政策：以人为本的理念》，提出了一系列与人工智能“超级智能”（ASI）相关的政策建议，多与人工智能推动的社会变革相关。

文章中主张设立公共财富基金，向公民分配现金，使其“在人工智能驱动的经济增长中拥有份额”。文章还建议探索让公众分享人工智能带来的效率提升，包括激励雇主在不降低员工产出的前提下试行32小时四天工作制、不降薪，社保随 AI 冲击自动升级、福利跟着人走，而且电网大扩容，支撑 AI 算力，不让老百姓补贴电费。

文章还指出ASI兼具加速科技医疗突破、提升生产力的巨大潜力，也存在就业颠覆、技术滥用、财富集中等多重风险，强调政策需与技术同步迭代，打造惠及所有人的超级智能未来。

同时，文章核心内容分为两大板块：一是构建开放型经济，从保障劳动者话语权、扶持 AI 创业者、确立 AI 使用权、优化税收体系、设立公共财富基金、推进电网扩容、转化效率红利、打造弹性社保、推行可携带式福利、开辟以人为本就业通道、加速科学发现普惠十大维度，提出具体政策构想，破解 AI 带来的不平等与就业问题。

二是打造韧性社会，围绕构建新兴风险防控体系、搭建 AI 信任体系、完善审计监管、制定模型管控预案、建立使命型企业治理、划定政府 AI 使用边界、建立公共意见输入机制、完善事故报告、推动 AI 国际信息共享九大方向，建立全流程 AI 安全治理框架，防范技术滥用、系统失控等前沿风险。最后 OpenAI 明确这些构想为全球对话的起点，并非最终方案，并公布了接收反馈、设立科研资助、举办研讨会等后续行动，呼吁政府、企业、民间社会等多方参与，共同塑造超级智能时代的发展格局。

文章提出，AI 模型要审计、要溯源、要事故上报，政府用 AI 必须设高门槛，并建立全球 AI 安全协作网络，防滥用、防失控。

此外，文中还建议主动衡量人工智能对工资和失业的影响，并在“这些指标超过预设阈值”时，为劳动者提供更多社会支持。公司表示，这些建议的目标是作为更广泛讨论的“起点”，确保人工智能惠及所有人。

以下为OpenAI文件信息：

OpenAI 对话启思

探索未知的渴望始终驱动着人类进步，形成了从科学到技术、从技术到新发现，再从新发现迈向更多科学突破的良性循环。这股一往无前的发展浪潮，让我们得以将沙子熔炼、添加杂质，以原子级精度打造出计算机芯片，为芯片供能，并构建出能孕育日益强大人工智能的系统。

短短数年间，人工智能已从只能完成高速单一任务的系统，发展为可处理人类曾需数小时才能完成的通用任务的模型。

如今，我们正迈入超级智能的转型阶段：未来的人工智能系统，即便在人类借助人工智能辅助的情况下，也能超越最聪慧的人类。无人能精准预判这一转型的具体进程。

OpenAI 认为，我们应通过民主进程把握这一趋势，让人们真正拥有塑造理想人工智能未来的权力；同时为各种可能的结果做好准备，培养适应变化的能力。本文件的初衷，便是开启一场对话，探讨如何以以人为本的方式治理先进人工智能。

超级智能的潜力超乎想象。正如电力改变了家庭生活、内燃机重塑了出行方式、大规模生产降低了生活必需品的成本，超级智能将加速科学和医疗领域的突破，大幅提升生产效率，通过降低生活必需品价格减轻家庭负担，并为全新的工作、创意和创业形式开辟道路。

如今，人工智能对工作的影响，通常以其能稳定完成任务所需的时间来衡量。前沿人工智能系统已从辅助人类完成数分钟的任务，发展到可处理数小时的工作。若这一发展势头持续，未来的系统将能完成当前人类需要数月才能推进的项目。这一转变将重塑组织的运营模式、知识的创造方式，以及人类寻找人生意义和发展机遇的路径，也将凸显当下政策工具的局限性，说明我们需要更具前瞻性的构想，让人类始终处于超级智能转型的核心位置。

尽管我们坚信人工智能带来的益处将远大于挑战，但也清醒地认识到其潜藏的风险：就业岗位乃至整个行业受到冲击、不法分子滥用技术、目标偏离的系统脱离人类控制、政府或机构以损害民主价值观的方式部署人工智能、权力和财富愈发集中而非广泛共享。事实上，我们在此强调这些风险，是为了让人们意识到，需要出台政策解决方案来应对它们。若政策无法跟上技术变革的步伐，支撑这一转型的制度体系和社会保障网络便会滞后。在迈向超级智能的过程中，确保人工智能能扩大获取渠道、赋予人们自主能力、创造更多机遇，是我们面临的核心挑战。我们的目标，是打造一个让超级智能惠及所有人的未来，在这个未来里：

1. 广泛共享发展成果。先进人工智能的价值，不仅在于技术进步，更在于为所有人带来更高质量的生活。每个人都应拥有参与人工智能创造的新机遇的权利，生活水平得到提升，人们能从成本降低、医疗和教育改善、保障与机遇增多中获得实实在在的好处。若人工智能最终仅由少数人掌控、为少数人谋利，而大多数人缺乏自主能力，无法获得人工智能带来的机遇，那我们便辜负了它的潜力。

2. 积极规避风险。迈向超级智能的转型过程中，伴随着诸多严峻风险，包括经济冲击、人工智能在网络安全和生物领域的滥用，以及日益强大的系统脱离人类的目标设定或控制。若无有效的风险应对措施，人类将遭受损害。要避免这些后果，就需要建立新的制度、技术保障措施和治理框架，让先进系统始终保持安全、可控、目标一致，降低大规模危害发生的风险，保护关键系统，确保人们能在日常生活中放心使用人工智能。人工智能的能力不断提升，安全保障也必须同步跟进。

3. 推动获取渠道与自主能力的民主化。随着人工智能能力的提升，部分系统可能为了安全需要受到管控，但参与人工智能经济的广泛程度，不应取决于能否获取最强大的模型，而应在于能否获得实用、价格亲民、保护隐私且能提升个人自主能力的人工智能工具。要避免财富和控制权的集中，就必须确保世界各地的人们都能使用人工智能，在工作、市场活动和民主进程中真正拥有话语权。

制定新产业政策的必要性

人类社会曾经历过多次重大技术转型，而每一次转型都伴随着实实在在的冲击和动荡。尽管这些转型最终带来了更多的繁荣，但都需要各国主动做出政治抉择，确保发展成果能转化为更广泛的机遇和更坚实的保障。例如，进入工业时代后，进步时代的改革和新政为被电力、内燃机和大规模生产重塑的世界，更新了社会契约。各国通过建立新的公共机构、完善保障措施、明确公平经济应具备的要素，包括劳动保护、安全标准、社会保障网络和扩大教育普及范围，实现了这一目标。

历史表明，社会有能力以积极进取的姿态应对技术变革：重新构想社会契约，协调资本与劳动的关系，推动技术进步的成果广泛共享，同时维护多元性、宪法规定的制衡机制和创新自由。迈向超级智能的转型，需要一套更具前瞻性的产业政策，体现民主社会大规模行动、塑造经济未来的能力，让超级智能惠及每一个人。

在迈向超级智能的道路上，我们当下就有明确的行动方向。人们早已开始担忧人工智能对自身生活的影响——工作和家庭是否安全、数据中心是否会扰乱社区生活并推高能源价格。人工智能数据中心的能源成本应自行承担，不能让普通家庭为之补贴；同时，数据中心应创造本地就业岗位，带来税收收入。政府应出台符合常理的人工智能监管政策，其目的并非通过监管俘获巩固现有企业的地位，而是保护儿童、降低国家安全风险、鼓励创新。

但人工智能带来的变革规模之大和潜在风险之多，要求我们采取更有力的举措。我们正进入经济和社会组织的新阶段，这一阶段将从根本上重塑工作、知识和生产的形态。这不仅需要渐进式的政策回应，更需要我们从当下开始探讨面向未来的、具有前瞻性的政策构想。此刻，正是开启这场对话的最佳时机：大胆思考、探索新想法，共同制定新的产业政策议程，确保超级智能惠及所有人。

在常规时期，让市场自主运行的理由十分充分。从历史来看，竞争、创业和开放的经济参与，提升了生活水平，创造了更多机遇。资本主义虽非完美，但仍是将人类智慧转化为共享繁荣的有效体系。

但当市场力量不足以应对新挑战时——即新技术带来的机遇和风险，是现有制度无法应对的，产业政策便能发挥重要作用。它能助力将科学突破转化为规模化的产业发展和普惠性的经济增长。

新的产业政策议程，应借助政府现有的政策工具协调公共和私人领域的行动，包括科研资金支持、劳动力培养、市场塑造工具和定向监管。但政府不应孤军奋战，非政府机构应试点新方法，验证成效并快速迭代，随后政府通过调整激励机制，借助采购、监管和投资将有效做法规模化，巩固试点成果。这种公私合作模式应避免监管俘获和集中管控，在保护创新自由的同时，确保超级智能的发展不会被社会中最具实力的势力主导。

我们并非掌握了所有答案，甚至连大部分答案都尚未找到。不同的发展路径需要不同的政策回应，任何一种场景下，单一的政策工具都远远不够。但我们的目标，是通过出台扩大参与度、拓宽机遇获取渠道的政策，建立一个开放且具有韧性的人工智能经济，同时确保社会拥有应对风险所需的保障措施和制度体系。

本文件为制定产业政策议程提出了初步构想，旨在让人类在迈向超级智能的转型中始终处于核心位置，主要分为两部分：

一、构建一个拥有广泛获取渠道、鼓励全民参与、共享发展成果的开放经济；

二、通过强化问责制、推动系统目标与人类一致、管控前沿风险，打造具有韧性的社会。

OpenAI 提出这些构想，是为了推动各方展开更广泛的对话，探讨应对这一转型所需的政策和制度，而这场对话需要政府、企业、民间社会、社区和家庭共同参与。这些构想尚处于初步探索阶段，并非全面、最终的建议，而是民主进程中供各方参考、完善、探讨甚至取舍的起点。本文件的探讨以美国为切入点，但这场对话以及最终的解决方案，最终必须具备全球性。迈向超级智能的转型并非遥远的可能，而是已然发生，我们在近期做出的选择，将决定未来数十年间其收益和风险的分配方式。

一、构建开放型经济

先进人工智能的愿景，是将丰富的智能转化为非凡的发展成果，惠及每一个人。它能降低生活必需品的成本，创造更多机遇，让人们有更多时间投入到有意义、注重情感联结和社区建设的事情中；能帮助解决人类至今未能攻克的科学难题：治愈或预防疾病、缓解粮食短缺、提升农业应对气候压力的能力、加速清洁可靠能源领域的突破。对科学领域的大力投入，其成果可能在一代人的时间内显现，并惠及传统科研中心之外的众多社区。

但让这些发展成为可能的技术能力，也将以前所未有的速度和规模冲击就业岗位、重塑整个行业。随着各类组织摸索先进人工智能的应用方式，一些工作岗位将消失，一些将发生变革，同时也会涌现出全新的工作形式。

这些变革的到来并非均衡的。若无深思熟虑的政策引导，人工智能可能会加剧不平等：让原本就有能力抓住发展机遇的群体优势进一步扩大，而原本资源匮乏的社区则会更加落后，无法获得新工具、进入新产业、把握新机遇。同时还存在一种风险：即便人工智能技术本身变得更加强大、应用更加广泛，经济收益仍会集中在少数企业手中，OpenAI 也位列其中。使用人工智能的劳动者可能会认可其对生产效率的提升，却并未感受到自身从中获得的实际益处。

打造一个易于参与、开放包容的经济体系，需要出台具有前瞻性的政策。本文提出的构想包括：确保劳动者在人工智能转型中拥有话语权，因为劳动者对实际工作流程、人工智能如何优化工作并提升安全性有着深刻的了解；提出新的机制，通过扩大资本获取渠道、更广泛地分配经济收益、让人工智能推动的增长红利与生活水平提升相挂钩，共享人工智能带来的增长成果；通过帮助人们应对转型、把握新机遇、在工作形态变化的同时维持生活稳定，完善经济安全保障体系。

这些构想共同构成了一套具有前瞻性的初步方案，助力应对超级智能转型可能带来的各类经济场景，同时始终致力于打造开放、普惠的经济体系。

1. 倾听劳动者的声音：让劳动者在人工智能转型中拥有话语权，推动工作环境的优化和安全水平的提升，包括建立正式的协作机制，让劳动者与管理层共同确保人工智能能提升工作质量、增强安全性、尊重劳动权利。劳动者对实际工作流程和人工智能的优化方向有着深刻理解，他们的声音对于明确人工智能在工作场景中的应用方式至关重要，能确保技术变革不仅提升生产效率，还能创造更好的工作岗位，打造更稳定、安全的工作环境。允许劳动者优先推动能提升工作质量的人工智能部署，淘汰危险、重复、行政性或高强度的工作任务，让员工能专注于更高价值的工作；同时明确划定人工智能的有害应用边界，杜绝其因增加工作负荷、限制员工自主决策、破坏公平的工作排班和薪酬体系而降低工作质量。

2. 扶持人工智能时代的创业者：借助人工智能处理通常阻碍创业的运营管理工作（如会计、营销、采购），帮助劳动者将专业领域知识转化为创业动力。为创业者提供小额补助金或基于营收的融资支持，同时配套“一站式创业”实操支持，如标准化合同模板、共享的后台运营基础设施，让新兴小微企业能快速参与市场竞争。劳动者组织可发挥赋能作用，提供培训、共享服务，帮助劳动者协商公平的商业条款，保护知识产权。

3. 人工智能使用权：将人工智能获取权视为参与现代经济的基础权利，如同全球普及识字教育、确保电力和互联网覆盖偏远地区的举措一样（互联网在全球乃至美国的部署仍存在不公，我们应吸取这一教训，在人工智能领域加以纠正）。扩大价格亲民、稳定可靠的基础模型——现代人工智能系统的核心构建模块——的获取渠道，让大众能获得基础的人工智能能力，包括设立免费或低成本的服务接入点。为人们有效使用这些系统提供教育、基础设施、网络连接和培训支持，确保劳动者、小微企业、学校、图书馆和弱势群体社区，不会被排除在推动生产效率和创造机遇的人工智能能力之外。

4. 优化税收体系：随着人工智能重塑工作和生产形态，经济活动的构成可能发生变化——企业利润和资本收益增加，而对劳动收入和工资税的依赖可能降低。这可能导致社会保障、医疗补助、食品券计划、住房援助等核心公共服务的税收资金来源萎缩，使其陷入运营风险。税收政策需做出调整，确保这些体系的可持续性。政策制定者可通过增加资本相关税收来重新平衡税收结构，例如提高高收入群体的资本利得税、企业所得税，或对人工智能带来的持续性收益征收定向税费，同时探索自动化劳动相关的新型税收方式。这些改革应与与工资挂钩的激励措施相结合，鼓励企业留住、培训员工并对员工进行投资，类似现有的研发税收抵免政策。通过这些举措，既能稳定核心公共服务的资金来源，又能为人工智能经济下的劳动力转型提供支持。

设立公共财富基金：设立公共财富基金，让每一位公民——包括未参与金融市场投资的人群——都能分享人工智能驱动的经济增长红利。税收改革能确保政府有能力继续为核心公共服务提供资金，而公共财富基金则旨在让人们直接分享经济增长的收益。政策制定者应与人工智能企业合作，确定基金的最佳初始资金来源，基金可投资于多元化的长期资产，捕捉人工智能企业及广泛采用、部署人工智能技术的企业的增长收益。基金收益将直接分配给公民，让更多人无论初始财富多少、是否能获取资本，都能直接参与分享人工智能驱动的经济增长红利。

加快电网建设扩容：建立新的公私合作模式，为人工智能所需的能源基础设施建设融资并加快推进扩容。借助这些模式，解决制约高压跨州、跨区域输电网络建设的融资瓶颈、审批延迟和选址风险问题，实现能源基础设施的快速规模化建设，降低纳税人风险，让公众共享发展收益。具体举措可包括：通过定向投资税收抵免、灵活的直接和间接补贴或股权持有等方式降低资本成本；消除先进导体、高压直流输电等先进技术的市场推广壁垒；在符合国家利益的前提下，赋予联邦政府有限的权限，加快跨区域输电网络的建设。公私合作模式的设计应最大限度降低纳税人承担的商业损失风险，确保能源基础设施的扩容能为家庭和企业降低能源成本。

转化效率红利：当日常工作负荷减少、运营成本降低时，将人工智能带来的效率提升转化为劳动者福利的实质性改善，包括鼓励企业提高养老金配套缴纳比例、承担更多的医疗费用、为子女照料和养老护理提供补贴。鼓励企业和工会开展为期一定时间的试点，推行每周32小时、四天工作制，不降低员工薪酬，同时维持产出和服务水平不变；随后将节省的工作时间转化为永久的短工作制、可累积的带薪休假，或两者兼具。企业还可根据实际情况，提供与可量化的生产效率提升挂钩的、可预期的“福利奖金”，让效率红利既体现在劳动者的长期财务安全上，又能让他们拥有更多的自由时间。

打造全民适配的弹性社会保障体系：确保现有的社会保障体系能稳定、高效、规模化地发挥作用，因为若要让超级智能转型惠及所有人，提供经济和医疗保障的体系就必须及时、无死角地发挥作用。首先，失业保险、食品券计划、社会保障、医疗补助和联邦医疗保险等制度，不仅要存在，更要全面落地、易于获取，能适应人们在转型过程中面临的实际情况。

其次，利用失业率、特定地区或行业的就业冲击指标等公共数据，实时、清晰地监测人工智能对工作、工资、工作质量和行业格局的影响。这些监测系统应能让政策制定者及时掌握就业冲击的发生区域和严重程度。随后，制定一套临时的扩大社会保障方案（如扩大失业保险覆盖范围、提高灵活性，提供快速现金援助、工资保险、培训券），当监测指标超过预设阈值时，自动启动该方案。就业冲击程度超过阈值，保障支持便相应升级；形势趋于稳定，保障支持则逐步退出。这一机制能确保援助措施精准、有时间限制、与冲击规模相匹配，同时避免公共服务的永久扩张。

推行可携带式福利：逐步建立不依附于单一雇主的福利体系，通过可携带式账户，让劳动者在更换工作、跨行业发展、接受教育或创业时，能持续享受医疗保障、退休储蓄和技能培训福利。公共项目可打破福利与就业状态的绑定，无论人们的工作地点和工作方式如何，都能获得退休和培训支持。可通过可携带式福利平台推进落地，整合多方出资，将资金汇入与个人绑定而非与工作绑定的标准化账户。同时完善养老金体系，通过集合式管理结构，让劳动者在不同雇主处工作时能持续累积养老金，减少福利断档，保障福利的连续性。

打造以人为本的就业通道：扩大照护和情感联结领域的就业机遇，包括子女照料、养老护理、教育、医疗和社区服务，为受人工智能冲击的劳动者提供转型路径。尽管人工智能能通过减少行政工作、实现服务个性化来赋能这些岗位，但人际联结始终是该领域的核心。随着人工智能重塑劳动力市场，若能为照护领域投入培训资源、提高薪酬、改善工作质量，该领域便能吸纳转型劳动者。政府可搭建培训体系，支持劳动者向照护岗位转型，鼓励企业提高人才短缺领域的薪酬水平、改善工作条件。

这些举措可与家庭福利政策相辅相成，认可照护工作的经济价值，适应不断变化的工作模式。家庭福利政策可用于补贴子女照料、教育和医疗费用，同时兼容兼职工作、职业再培训或创业等不同生活选择。通过这些努力，既能扩大照护服务的覆盖范围、增强社区凝聚力，又能创造有意义的、以人为本的工作岗位。

加速科学发现，推广成果普惠：搭建分布式的人工智能赋能实验室网络，大幅提升规模化验证人工智能生成假说的能力。这些实验室将人工智能系统直接融入实验流程，实现常规流程自动化、高质量数据采集，推动假说生成与验证的快速迭代。随后，建设将已验证的科学发现转化为实际应用所需的物理系统和基础设施，包括提升各类组织部署新技术的能力、升级应用落地所需的设施和系统、协调融资和激励机制以推动技术采用。同时，持续加大对人才的投入，培养能为人工智能赋能的科学研究贡献力量的科学家、技术人员和操作人员。

这些投入能确保科学突破走出实验室、实现广泛应用，同时壮大打造、维护和运营人工智能赋能科研基础设施所需的劳动力队伍，完善相关运营体系。实验室和生产基础设施应广泛布局于大学、社区学院、医院和区域科研中心，而非集中在少数顶尖机构。

二、打造韧性社会

随着人工智能系统的能力不断提升、在经济领域的应用愈发深入，它在创造富足的同时，也可能带来新的脆弱性。部分系统可能被滥用于网络攻击或生物危害；若缺乏充分的保障措施，人工智能的部署可能会给年轻人在内的群体带来新的社会和心理健康压力；人工智能系统的行为可能偏离人类的预期，或超出人类的有效监督范围；先进人工智能重塑个人、组织和政府的运作方式，也可能给社会维持稳定、安全和自由所依赖的制度和规范带来新的压力。

我们必须清醒地认识到，打造韧性社会的重要性。这些新风险并非孤立存在，也无法逐一应对——人工智能将重塑工作方式、决策流程、组织运营模式和国家间的互动方式。因此，打造韧性社会，意味着要确保个人和制度能快速适应变化，在人工智能的应用中始终拥有实质性的自主决策权，即便经济和社会结构发生变革，也能维持发展成果的广泛共享。

过去数年，以OpenAI为代表的领先人工智能研发企业，将大量精力投入到上游安全保障中：制定全球标准、公开评估过程、风险应对措施和潜在风险，投资模型测试、红队评估和使用政策制定，旨在在技术部署前识别并规避风险。政策制定者也聚焦于此，在《欧盟人工智能法案》和美国各州的监管政策中明确了相关要求。同时，人工智能培训和知识普及工作不断推进，让学校、非营利组织、小微企业和社区能更安全、有效地使用人工智能工具。这些上游工作需要持续推进。

但随着人工智能系统的能力不断提升、部署范围愈发广泛，社会韧性的打造，也将取决于技术部署后的行动——即系统在实际场景中接受实时监测、在不确定环境下运行，并融入并非为智能主体工作流程设计的制度体系。

这并非全新的挑战。历史上，颠覆性技术在重塑社会的同时，也带来了新的风险，而人类会在技术规模化应用的过程中，建立新的体系来应对这些风险。电力普及后，人类制定了安全标准，建立了监管机构；内燃机改变出行方式后，安全系统在降低风险的同时，保障了人们的出行自由；航空领域，持续的监测和协同的应急响应体系，让飞行成为最安全的出行方式之一；食品和医药领域，检测和上市后监测体系，确保了日常使用的安全性。在每一个案例中，韧性都并非自然形成，而是人类在时间的加持下主动构建的。

迈向超级智能的过程中，打造韧性社会需要类似但更快速的行动，且这一行动必须从当下开始。以下是一系列打造更具韧性社会的前瞻性构想，核心是建立并规模化落地适用于实际场景的安全保障体系，通过构建信任、强化问责、开展审计的机制实现这一目标；同时提出了完善治理的机遇，确保先进人工智能始终可控、透明，与价值观保持一致；并探讨了如何加强企业、政府和国家间的协作，实现风险的早期识别、信息共享和应急响应的快速落地。这些建议是对现有重要安全工作的延伸，也是确保人工智能安全、可治理、契合价值观的初步构想。

1. 构建新兴风险安全防控体系：研发并打造能保护模型、识别风险、防范高风险领域滥用行为的工具，涵盖网络、生物领域的风险及其他可能造成大规模危害的情形。推广先进人工智能系统在威胁建模、红队评估、综合风险评估和鲁棒性测试中的应用，及早识别和预判新型风险，为风险应对策略提供依据。研发并规模化落地配套的防护系统，例如在疫情爆发时能快速识别并研发生产医疗应对物资，扩充战略储备以应对未来风险。随后，通过政府采购、制定标准、建立保险框架、签订预购协议等方式创造持续的市场需求，培育竞争性的人工智能安全市场。长期来看，这一方式能让安全保障成为创新和竞争的成果，确保防御能力的提升速度与风险的演变速度保持同步。

2. 搭建人工智能信任体系：研发并打造能让人们信任并验证人工智能系统、其生成内容和行为的体系，尤其是当这些系统承担更多实际任务时。推进溯源和验证标准及工具的研发，在保护隐私的同时，构建人们对人工智能系统的信任。具体可包括：为人工智能生成内容、发布指令等行为建立安全、可验证的签名机制；研发保护隐私的日志和审计系统，在不引发全面监控的前提下，为调查和问责提供支持。

这类解决方案应在收集最少敏感数据的前提下，捕捉系统行为和使用的关键信息，并设计为仅在明确的法律或安全条件下，支持调查或干预行动。相关工作还可包括研发和测试组织内部的治理框架，明确权责划分，包括如何将问责落实到具体岗位，以及当系统能力提升时，授权、监测和升级流程如何运作。长期来看，这些努力能通过构建人工智能互动中的信任，为问责制奠定基础，确保当损害发生时，能合理界定责任。

3. 完善审计监管体系：强化人工智能标准与创新中心等机构的作用，使其与国家安全机构协作，制定前沿人工智能风险的审计标准。借助政府采购、预购协议、保险框架、标准制定等工具，培育并规模化落地竞争性的审计和评估市场，让专业机构能对人工智能系统和产品的安全、安保风险进行评估，实现审计能力与技术发展的同步提升。审计标准应面向国际制定，减少制度碎片化，避免给小微企业和跨区域运营的企业带来不必要的合规负担。

在迈向超级智能的过程中，未来可能会出现这样的情况：少数高度先进的模型——尤其是那些可能显著加剧化学、生物、放射性、核或网络风险的模型——需要更严格的管控，包括依据提前制定的标准，开展部署前和部署后的审计。这些管控要求应仅适用于少数企业和最先进的模型，保障功能相对基础的人工智能系统和相关创业企业的发展活力。这一方式能在保障通用人工智能广泛获取的同时，对可能造成重大危害的领域实施定向安全保障，避免设置不必要的壁垒，防止限制市场竞争或引发监管俘获。

4. 制定模型管控应急预案：制定并测试协同的应急预案，以便在危险的人工智能系统投入实际应用后，对其进行有效管控。随着人工智能能力的提升，人类社会可能面临这样的场景：危险的人工智能系统难以被召回——原因包括模型权重已公开、研发者不愿或无法限制危险能力的获取、系统具备自主性且能自我复制。在这些情况下，核心挑战便是管控：限制危险能力的扩散、降低损害、在实际约束下协调应急响应。网络安全、公共卫生等其他高风险领域的经验表明，即便无法实现全面管控，协同行动仍能显著降低危害影响。

5. 建立契合使命的企业治理结构：前沿人工智能企业应建立将公共利益问责纳入决策流程的治理结构，例如设立具有使命导向治理机制的公益企业。这些治理结构应明确承诺，确保人工智能的益处广泛共享，包括进行大额、长期的慈善捐赠。同时，加强前沿人工智能系统的防护，防止企业内部或内部人员的把控，具体措施包括保护模型权重和训练基础设施、审计模型是否存在操纵行为或隐藏的利益倾向、监测高风险的部署行为，确保任何个人或企业内部派系都无法暗中利用人工智能系统集中权力。

6. 划定政府使用人工智能的边界：政策制定者应明确政府使用人工智能的行为准则和禁区，对人工智能的可靠性、目标一致性和安全性设定更高标准。这些标准应纳入法律条文，并通过技术保障措施强化执行。同时，借助人工智能提升问责的效率。随着越来越多的政府决策通过人工智能辅助流程做出，这些系统将为政府的决策过程和行动留下更清晰的数字记录，并与其他公共记录一并存档。在完善保障措施的前提下，监察长办公室、国会委员会、法院等监督机构可借助人工智能审计工具，规模化识别滥用行为、发现损害问题、提升问责效率。

此外，完善信息透明框架（包括《信息自由法》），让公民和监督组织能借助人工智能，针对政府行为提出定向质询并获取答案，同时保护敏感信息。具体可包括明确人工智能互动日志和智能主体行为日志在何种情况下属于联邦记录，需按规定保存一定期限。

7. 建立公共意见输入机制：构建结构化的公共意见输入渠道，确保人工智能的目标设定，并非仅由闭门造车的工程师或企业高管决定。随着先进人工智能做出更多影响人类生活的决策，社会需要形成共识，明确这些系统的目标、指引其发展的价值观，以及其运行成效的评判标准。通过透明的规范制定、评估框架和具有代表性的意见征集流程，让人工智能的目标设定更民主、更清晰、更具问责性。研发者应发布模型规范，说明系统的预期行为，并公开其评估方式；政府和公共机构应发挥引导作用，将这些标准与民主法律和价值观相结合，同时建立机制，确保具有代表性的公共意见能与传统商业利益相关方的诉求一并被考虑。通过这些方式，确保人工智能的发展能反映出身处其中的社会的多元视角。

8. 建立事故报告机制：建立企业向指定公共机构上报人工智能事故、滥用行为和未遂事件的机制。该机制应重在总结经验、预防未来，同时进行适当范围的公开披露，在保障透明性和监督的同时，保护敏感的技术、国家安全和商业竞争信息。未遂事件的上报范围应包括：模型展现出令人担忧的内部推理逻辑、出现非预期能力或其他预警信号，即便最终安全保障措施阻止了损害的发生。这样一来，整个人工智能生态能从这些险情中吸取教训，防患于未然。

9. 推动人工智能能力、风险和应对措施的国际信息共享：强化各国的评估机构，以此为基础推进国际协作，首先扩大人工智能标准与创新中心的作用，使其成为值得信赖的技术机构，负责评估前沿人工智能系统、审核安全保障措施、为政府了解先进人工智能能力提供依据。在此基础上，搭建全球人工智能研究院网络，通过统一的信息交换协议、联合评估和协同的风险应对措施开展合作。

长期来看，这一网络可发展为类似其他聚焦安全和标准的多边机构的国际框架，让值得信赖的公共机构能掌握前沿人工智能的研发动态；建立跨实验室、跨国家的安全渠道，共享评估结果、目标对齐成果和新兴风险信息；并在危机发生时提供沟通支持。为实现有效的国际协作，政策制定者应明确安全港规则和范围严格的信息共享规定，确保企业能通过这些渠道共享与安全和风险相关的信息，而不违反反垄断或竞争法规。这一体系的关注范围应超越狭隘的国家安全，涵盖更广泛的社会风险，包括对青少年安全和福祉的影响。

开启对话

我们提出这些构想，并非将其作为既定答案，而是为了开启一场更广泛的对话，探讨如何确保人工智能惠及所有人。这场对话应具有包容性和持续性，让政府、企业、研究人员、民间社会、社区和家庭共同参与，并通过民主进程推进，让人们真正拥有塑造理想人工智能未来的权力。这场对话也需要走向全球，融入世界各地不同文化、社会和政府的视角。

这些构想是我们为这场对话做出的首次贡献，而这仅仅是一个开始。进步的实现，有赖于各类机构和领域持续的迭代、试点和协作。

为保持这一发展势头，OpenAI将采取以下举措：（1）通过邮箱接收并整理各方反馈；（2）设立试点奖学金项目，提供专项科研资助，最高资助金额10万美元，同时提供最高100万美元的应用程序接口信用额度，支持基于这些构想及相关政策理念的研究工作；（3）将于5月在华盛顿特区新开设的OpenAI研讨会中，组织相关主题的探讨。