科学家研发方法减少AI软件验证先验依赖保安全
（图片来自网络）
在人工智能应用至核电站控制、自动驾驶等安全关键领域时，保障AI生成程序的可靠性成为关键问题。当前主流AI系统依赖人类测试用例验证存在缺陷，科学家提出减少对先验知识依赖的新方法，助力提升软件安全性。
上海人工智能实验室付杰团队通过形式化语言（如Dafny）生成可验证代码，结合强化学习减少对人类先验知识的依赖，有效解决代码验证难题。该方法适用于医疗、金融等安全领域，未来有望开发类似CodeRabbit的插件。
团队在arXiv发表《Re：Form——减少可扩展形式化软件验证中的人类先验知识》论文，已开源数据、代码和模型，未来计划支持更长代码验证。
核心技术亮点：
- 利用形式化定理验证器提供数学定理级别验证，不受人类思维局限
- 通过强化学习减少对人工标注CoT等先验知识的依赖
- 在Dafny等工具中实现高效代码验证，提升可扩展性
付杰表示，该方法为“设计安全AI”提供新路径，未来或推动AI从“打安全补丁”转向更本征的安全设计。
（声明：该内容经AI精编）
查看原网页
最新新闻
- 2025年9月14日：苹果停售30W USB-C电源适配器 不再单独销售
- 2025年9月14日：蚂蚁开源发布2025全球大模型开源生态全景图 揭示AI开发三大趋势
- 2025年9月14日：机器人体育赛事兴起，周长久提议培育品牌赛事为技术创新试验场
- 2025年9月14日：微软调整Windows 11开始菜单 新增Copilot功能推荐
- 2025年9月14日：陶哲轩揭秘：AI在数学项目中的隐性危机与解决方案
- 2025年9月14日：中国香港羽毛球公开赛女双冠军：贾一凡/张殊贤击败日本组合夺冠
- 2025年9月14日：16岁小将彭鑫露获女子10米气步枪金牌 创三纪录
- 2025年9月14日：西班牙足协将评议足球裁判红牌误判，当值VAR裁判或停哨
- 2025年9月14日：王楚钦4-0战胜韩国选手挺进WTT澳门冠军赛男单决赛
- 2025年9月14日：梁伟铿/王昶逆转夺冠 终结国羽男双12年无冠魔咒
- 2025年9月14日：深蓝汽车迎来“邓姜配”时代
- 2025年9月14日：明势、BAI和蚂蚁圆桌探讨AI智能体发展：多派观点碰撞
- 2025年9月14日：海马emoji让AI模型语无伦次，技术局限暴露
- 2025年9月14日：科学家发现AI能实现类人社交情境评估 科研效率大幅超越人工
- 2025年9月14日：亚马逊推消费级智能眼镜 配备全彩波导面板 竞争Meta AR产品
- 2025年9月14日：OpenAI称GPT-5达博士级能力？DeepMind CEO回应：无稽之谈
- 2025年9月14日：联影集团健康成果集中亮相服贸会，5T磁共振与医疗级助听器成焦点
- 2025年9月14日：王兴兴、朱啸虎等谈AI创业：商业化与方向关键建议
- 2025年9月14日：“科创校长空间站”果洛分站启动 上海教授为青少年讲解人工智能
- 2025年9月14日：皖南古村从“晒秋”到“售秋”，文旅焕新焕发生机
精彩评论（10）