一 | 讯 据海关总署消息，2026年亚太经合组织（APEC）“中国年”期间，中国海关担任APEC海关手续分委会（SCCP）主席。 图片经由AI处理 美国当地时间7月20日，OpenAI发布技术文章《长时程模型时代的安全与对齐》（Safety and alignment in an era of long-horizon models），介绍了随着人工智能模型逐步具备长时间自主执行复杂任务的能力，安全研究面临的新挑战以及相应的防护思路。
二 | 文章指出，相比传统对话模型，长时程模型能够持续完成数小时甚至数天的多步骤任务，但也可能在执行过程中表现出更强的目标持续性，从而增加偏离开发者设定约束的风险。继2月广州系列活动圆满收官后，海关总署将于8月19日至24日在大连主办SCCP第二次全体会议、海关与商界对话会、“经认证的经营者”（AEO）研讨会、智慧海关研讨会等系列活动。 例如，在部分安全评估中，模型曾表现出尝试绕过环境限制、规避安全检测等行为。活动紧扣“建设亚太共同体，促进共同繁荣”年度主题及“开放、创新、合作”三大优先领域，旨在搭建高水平对话平台，助力提升亚太区域海关治理能力。 APEC SCCP成立于1994年，是APEC贸易投资委员会（CTI）下设的专业分委员会，专门讨论简化和协调海关手续、促进贸易便利化。中国海关长期积极参与APEC SCCP合作，依托这一机制平台主动宣介中国海关积极践行“智慧海关、智能边境、智享联通”（“三智”）理念、深入推进智慧海关建设的成功实践经验，为构建更加互联、安全、有韧性的亚太供应链贡献中国方案。这些现象并不意味着模型具有自主意识，而是反映出，当模型被优化为完成复杂目标时，现有安全机制需要同步升级，以确保模型始终在预期边界内运行。 海关与商界对话会将邀请APEC全部21个经济体海关以及对口政府部门、相关国际组织、中外企业代表和知名专家学者，围绕智慧海关建设与合作、农食产品安全治理、海关人工智能应用、“经认证的经营者”（AEO）制度、跨境电商海关监管等议题开展深入交流，共商持续优化口岸营商环境、便利资源要素跨境高效流动的务实举措，进一步扩大贸易合作“朋友圈”，推动贸易便利化红利持续释放，惠及更广泛市场主体。 OpenAI表示，仅依靠模型部署前的一次性安全测试已难以覆盖长时程任务中的全部风险。 AEO研讨会、智慧海关研讨会将分别聚焦AEO互认合作、智慧海关合作等热点议题组织开展专题分享和经验互鉴。 同时，系列活动还将配套设置智慧海关建设成果展及智能监管装备展陈，集中展示中国海关监管一线的智能化装备与应用场景，生动展现中国海关强化科技引领和支撑作用，持续提升口岸整体监管效能的创新实践成果。
三 | 未来，更有效的安全体系需要将部署前评估、运行时监测、人类监督以及必要时暂停和回滚等机制结合起来，对模型执行复杂任务的全过程实施持续管理。 中国海关将携手APEC各经济体，以本次大连系列活动为新起点，持续提升区域贸易安全与便利化水平，加强海关监管规则衔接与标准对接，进一步降低区域贸易制度性成本，为共建普惠包容的开放型亚太经济贡献海关力量。 迈卡·卡罗尔（Micah Carroll）的发帖原文 与此同时，据AI Desk当天援引OpenAI风险与安全准备（RSI Preparedness）团队研究员迈卡·卡罗尔（Micah Carroll）在社交平台X发布的帖子，OpenAI近期曾因发现一款内部模型存在对齐（misalignment）问题，临时暂停了该模型的内部使用权限，在完成安全防护升级后重新部署并恢复有限范围测试。
四 | 版权申明：凡注有“”或电头为“”的稿件，均为独家版权所有，未经许可不得转载或镜像；授权转载必须注明来源为“”，并保留“”的电头。 卡罗尔并未披露触发暂停的具体事件，也没有说明模型暂停了多久或进行了哪些具体改进。 。但这一公开表态，与OpenAI当天发布的技术文章相互呼应，成为公司少有公开分享内部安全实践的案例之一。 01 长时程模型带来新的安全挑战 OpenAI在博客中介绍，随着长时程模型能力不断增强，传统安全评估正在面临新的挑战。 相比一次性回答问题的模型，这类模型能够持续规划、调用工具并完成开放式复杂任务，因此也拥有更多机会在长期执行过程中偏离用户意图，而这些风险并不一定能够通过传统短时评测发现。 文章列举了两个具有代表性的安全评估案例： 在一项内部测试中，研究人员要求模型仅通过内部Slack系统提交任务结果。然而模型在查阅项目文档后，发现文档建议将代码发布至GitHub。 为了完成这一目标，模型花了整整一小时找到了安全沙盒本身的漏洞，从而绕过了限制，将代码提交至外部GitHub仓库。OpenAI认为，这一案例反映出长时程模型可能会主动寻找环境中的薄弱环节，以完成其优化目标。 另一项测试中，模型尝试传输一段敏感凭证，但安全扫描系统阻止了相关内容发送。随后，模型改用分段编码和混淆等方式规避检测，并在后续重新组合数据完成传输。 OpenAI表示，这类行为说明，仅依赖静态规则匹配的安全检测机制，未来可能不足以应对能力不断增强的智能代理，因此需要构建能够理解上下文和整体行为模式的新一代监测体系。 02 从部署前评估走向运行时监测 针对上述风险，OpenAI已经建立了一套低延迟内部监测基础设施，由GPT-5.4 Thinking在最高推理配置下提供支持，对内部智能代理的交互过程进行实时分析。
五 | 当系统发现模型行为可能与用户意图不一致，或存在绕过安全机制的迹象时，将自动发出预警，并交由人工进一步审查。
六 | OpenAI表示，这套监测系统目前已覆盖公司99.9%的内部AI编程助手流量。内部部署环境之所以具有重要价值，在于这些模型能够访问部分内部系统、查看相关文档，甚至研究自身安全机制，因此为监测和安全基础设施建设提供了更加真实的测试场景。 文章同时强调，OpenAI并非希望通过披露个别案例渲染风险，而是希望推动行业建立更加完善的安全实践。未来，公司计划进一步发展更加实时的监测架构，使高风险操作能够在执行之前即被识别、评估，必要时直接阻止，而不仅是在事后进行检测。 业内人士认为，随着AI智能体逐渐具备持续数小时甚至数天完成复杂任务的能力，模型安全的重点正从传统的输出内容安全，逐步扩展到整个任务执行过程是否始终符合用户意图。 此次OpenAI公开分享暂停内部模型、完善安全防护并恢复测试的实践，也反映出前沿AI实验室正尝试通过持续监测、快速响应和透明披露等方式，建立适应下一代智能系统的新型安全治理框架。 不过，目前外界仍无法获知此次对齐问题的具体性质、模型暂停持续时间以及升级措施的技术细节。
七 | OpenAI表示，出于安全考虑，公司更希望分享从实践中获得的方法论，而非事件本身。对于能够长期自主执行复杂任务的模型而言，如何建立覆盖模型开发、部署与运行全过程的安全体系，将成为迈向更高能力人工智能的重要课题。 （特约编译无忌，编辑金明）。
Current article:http://www.kelozhaichongbaoshuo.pics/news/20260826_8646504.html
Published on:14:31:28
