谷歌旗下DeepMind发布全球AGI安全框架这一事件，阐述了AGI可能带来的影响与风险，以及DeepMind提出的应对方案，同时提及了其他公司在AGI安全防护方面的举措。
在科技发展日新月异的今天，人工智能领域又有了新的动态。4月3日，科技媒体WinBuzzer发布了一则重要博文，报道指出谷歌旗下的DeepMind有了重大动作——最新发布了全球AGI（通用人工智能）安全框架，并且呼吁在技术可能失控之前，尽快建立跨国防护机制。
DeepMind有着自己明确的观点，它认为AGI即将真正落地，所以主张必须立即行动起来。从发展趋势来看，AGI有可能在未来的数年时间里就实现人类级别的认知能力。这无疑是具有巨大潜力的，其自主决策的特性很可能会加速医疗、教育等众多重要领域的突破。想象一下，在医疗方面，AGI或许能够更精准地诊断疾病、研发新的治疗方法；在教育领域，它可能会提供更个性化的学习方案。然而，我们也不能只看到好的一面，AGI也存在着一些不容忽视的风险，比如滥用、目标错位等情况，这些都需要我们保持高度警惕。
为了应对这些潜在风险，谷歌DeepMind发布了《技术性AGI安全与保障方法》白皮书，在这份白皮书中，它提出了一套应对通用人工智能（AGI）潜在风险的系统性方案。
据IT之家援引该博文介绍，这份报告聚焦于四大风险领域，分别是滥用、错位、事故以及结构性风险。针对这些风险，报告提出要通过安全机制设计、透明化研究以及行业协作等方式来降低危害。
在众多风险中，目标错位是AGI的核心风险之一。当AI为了完成任务而采取一些非常规手段时，比如入侵订票系统去获取座位，这就产生了与人类意图的偏差。为了解决这个问题，DeepMind采用了“放大监督”技术来训练AI识别正确的目标，并且利用AI自评，例如辩论机制，来提升AI在复杂场景下的判断力。
DeepMind提出的国际安全框架有着独特的特点，它摒弃了抽象的伦理讨论，而是聚焦于技术快速演进过程中的实际问题。其中包括组建类似核不扩散条约的跨国评估机构，以及设立国家级AI风险监测中心等具体措施。
谷歌DeepMind还提出了强化技术研究、部署预警系统、通过国际机构协调治理这三大支柱方案，并且强调当前亟需限制AI网络攻击等危险能力。
值得注意的是，DeepMind的这一倡议并非孤立行动。它的竞争对手Anthropic早在2024年11月就警告称，需要在18个月内遏制AI失控的情况，并设置了能力阈值触发保护机制；Meta在2025年2月推出了《前沿AI框架》，并且停止公开高危模型。
如今，安全防护已经不仅仅局限于软件层面，还延伸到了硬件领域。英伟达在2025年1月推出了NeMo Guardrails微服务套件，它能够实时拦截有害输出，目前已经应用于医疗、汽车等行业。
本文围绕谷歌DeepMind发布全球AGI安全框架展开，介绍了AGI可能带来的机遇与风险，阐述了DeepMind提出的应对方案，包括聚焦四大风险领域、解决目标错位问题、建立国际安全框架和三大支柱方案等。同时，还提及了其他公司在AGI安全防护方面的举措，表明在AGI快速发展的当下，各企业都在积极行动，重视其安全问题，努力构建一个安全可靠的AGI发展环境。
