中山大学牵头构建大模型量化评级体系,助力大湾区AI安全发展

2025年9月16日
news

(图片来自网络)

中山大学牵头构建大模型量化评级体系,助力粤港澳大湾区生成式人工智能安全发展。。

中山大学软件工程学院院长郑子彬表示,将探索“AI评测AI”工作思路,构建多场景全链条防护体系,创新AI监管模式。大湾区生成式人工智能安全发展联合实验室,整合政府、企业、高校等资源,为AI安全发展提供范式。

  • 核心目标:科学、精准、高效评测大模型可信性,降低幻觉、提升合规性,保障金融、医疗等高敏感场景落地。
  • 资源优势:政府主导政策衔接,头部企业(如腾讯)提供实战与算力,高校提供科研能力,资源高频碰撞。
  • 评测体系:融合《人工智能安全治理框架》及法规标准,从价值、安全、能力维度全面评估,发布“大模型可信能力评测排行榜2.0”。
  • 标准建设:制定涵盖数据、内容、模型等维度的安全标准,分领域执行强制性或测试空间。
  • 人才培养:高校革新培养模式,融入伦理、法律课程,建立联合实训基地,确保人才满足产业需求。

联合实验室期待成为国家级标杆,推动中国AI治理模式走向国际,输出“大湾区方案”。

(声明:该内容经AI精编) 查看原网页

精彩评论(10)

  • 网友10 2025-09-16 07
    过去技术发展没现在快,现在有了这样的体系,以后科技发展更有保障了。
  • 网友9 2025-09-16 07
    从技术到标准,全方位的安全体系很全面,能解决AI发展中的风险问题。
  • 网友8 2025-09-16 07
    支持这样的安全举措,科技发展不能搞乱,有了评级体系更有序了。
  • 网友7 2025-09-16 07
    大模型发展快,有了这样的评测和标准,创业创新有方向了,知道怎么合规。
  • 网友6 2025-09-16 07
    对孩子用AI学习,这个评级体系能保障安全,让他们用得安心。
  • 网友5 2025-09-16 07
    企业参与后,和AI合作更放心,评级体系能保障安全,提升工作效率。
  • 网友4 2025-09-16 07
    联合实验室的模式很创新,政产学研用结合,能推动AI安全发展,值得推广。
  • 网友3 2025-09-16 07
    高校搞这个,以后学AI安全课程肯定更实用,能学到更多知识。
  • 网友2 2025-09-16 07
    AI现在发展太快,有了这样的体系,以后用AI不会乱造东西误导人,太好了。
  • 网友1 2025-09-16 07
    这个评级体系很有必要,能让我用AI工具更放心,感觉科技发展越来越规范了。
查看“中山大学牵头构建大模型量化评级体系,助力大湾区AI安全发展”相关搜索 >

最新新闻

An unhandled error has occurred. Reload 🗙