蚂蚁数科鲁玮：用AI守护数字世界的真相

2025年9月13日

（图片来自网络）

蚂蚁数科鲁玮：用AI守护数字世界的真相

蚂蚁数科AI科技产品总监鲁玮出席2025外滩大会见解论坛，聚焦数字世界真实性挑战与AI安全治理。

鲁玮指出，当前AI给数字世界带来三大核心挑战：身份伪造、凭证伪造、大模型“幻觉”。黑产利用AI技术实施诈骗、虚假操作等行为，对个人与社会构成重大风险。

鲁玮通过展示案例强调：9张数字人脸照片中，2张由AI生成，普通观众难以通过肉眼分辨，凸显“防患于未然”的安全理念重要性。

应对身份伪造：蚂蚁数科依托“蚂蚁天玑实验室”开展技术实践，在开户、支付、信贷等关键场景保障个人数字身份的可验证与可信度，确保数字身份真实性。

应对凭证造假：推出“光鉴智能验真”技术，通过防伪、质检、识别及多重信息抽检，结合模型决策，保障物理世界票据、凭证等的防伪效果，破解黑产低成本规模化造假。

应对大模型“幻觉”：推出“蚁天鉴”大模型内容安全防御服务，构建多层防御护栏，从提问环节预防风险、过滤回答内容、动态调优策略，防范AI生成内容在问诊、商业决策等场景的危害。

鲁玮呼吁产业、学界、媒体加强协同，共建规范、透明、可信的AI治理体系，应对具身智能、AI for Science等新场景下的复杂安全议题，明确人机互动责任边界与价值对齐。