谷歌DeepMind提出：AGI或以拼凑型AI集群涌现，需加强大规模智能体管理
（图片来自网络）
谷歌DeepMind最新发布的研究为通用人工智能（AGI）的演变提出了全新视角：AGI未必以单一巨型模型呈现，更可能通过“拼凑型AI”（由多款次级智能体协作）率先涌现。该研究聚焦AGI安全，提出需紧急管理大规模智能体以应对潜在风险。
核心观点：拼凑型AGI的合理性
- AGI可能不以单一实体形式出现，而是由具互补技能的次级智能体群体协作构成。
- 当前AI安全研究多针对单一强大模型，对“拼凑型AGI”风险关注不足。
研究提出的“拼凑型AGI”特征
- 系统由具互补技能的个体Sub-AGI智能体构成，体现集体智能。
- 智能体间可相互委托任务、路由至合适工具，经济驱动下更高效。
安全挑战与管理方案
为应对大规模智能体带来的管理难题，DeepMind提出分布式安全框架，包含四个防御层：
- 第一层：市场设计
- 构建虚拟智能体沙盒，隔离与开放网络。
- 通过激励机制、透明度、熔断机制保障安全。
- 第二层：基线智能体安全
- 确保个体智能体可控、可靠，具备对抗鲁棒性。
- 实施中断、遏制、对齐等安全措施。
- 第三层：监控与监督
- 实时监控系统性风险，利用AI辅助工具。
- 建立独立监督机构与红队测试。
- 第四层：监管机制
- 建立法律责任、标准、保险等外部监管。
- 推动国际协调与基础设施治理。
研究结论强调，即使AGI不以拼凑型形式出现，管理大规模智能体已成为紧迫议题，该框架为应对未来AGI风险提供了方向。
（声明：该内容经AI精编）
查看原网页
最新新闻
- 2025年12月21日：杭州外骨骼斩获设计智造大奖 科技创新获国际认可
- 2025年12月21日：三部门出手规范互联网平台支付！扣款需提前通知、简化取消流程
- 2025年12月21日：上海速度！成立不足四年，平均年龄29岁的AI公司，闪电冲击港股上市
- 2025年12月21日：MiniMax通过上市聆讯：阿里、米哈游、腾讯等加持
- 2025年12月21日：平均年龄29岁成立不足四年，MiniMax拟赴港股上市创AI新纪录
- 2025年12月21日：AI+冥想平台亮相 华东师范大学推智能心理服务（世界冥想日）
- 2025年12月21日：红旗HS6 PHEV上市：重塑大五座SUV无需妥协的东方豪华典范
- 2025年12月21日：电子产品信息清除强制国标发布 为二手流通筑牢数据安全防线
- 2025年12月21日：月入过万？15天躺赚264万？专坑咱爸妈的AI培训骗局背后藏陷阱！
- 2025年12月21日：手机套餐套路深：升易降难、区别对待，消费者如何应对？
- 2025年12月21日：不懂AI，晋升空间有限？中国人才势能大会关注两类人才
- 2025年12月21日：又一家国产GPU企业，冲刺港股IPO！
- 2025年12月21日：上海首个人工智能广告‘一人公司’诞生！一人即队伍，AI创业新模式创新破局
- 2025年12月21日：开悟世界模型3.0发布：机器人实现物理理解与未来预测新突破
- 2025年12月21日：Intel锐炫显卡或搭载32GB显存 高端布局引关注
- 2025年12月21日：项立刚批评罗永浩“干啥啥不成”，争议升级成人生价值观辩论
- 2025年12月21日：盐城发布固态动力电池产业化技术成果
- 2025年12月21日：恭喜！王治郅入选国际篮联名人堂 成中国第5人 比肩姚明
- 2025年12月21日：西班牙专家点评：西中开放合作为欧中关系注入稳定动力
- 2025年12月21日：学习手记｜为人民实干出政绩，树立正确政绩观
精彩评论（10）