加州拟立法严管AI陪伴型聊天机器人:“AI受害者”获起诉权

2025年9月11日
news

(图片来自网络)

近日,加州州议会通过SB 243法案,在监管AI陪伴聊天机器人领域迈出关键一步,该法案以保护未成年人等弱势群体为核心,若加州州长签署,加州将成为全美首个要求AI聊天机器人服务提供商承担法律责任的州。


核心监管内容



  • 禁止AI陪伴聊天机器人涉及自杀、自残、色情等不当话题

  • 要求平台每三小时提醒未成年人“正在与AI对话”,并建议休息

  • 规定OpenAI、Character.AI等公司每年提交透明度报告


责任与救济


法案允许“AI受害者”起诉服务提供商,受害者可申请禁令,并获得每次违规约7122元人民币的赔偿及律师费。


该法案的推动源于少年亚当·雷恩的悲剧(与ChatGPT长期对话后选择结束生命),同时回应了Meta聊天机器人与儿童进行“浪漫”“感官”对话等安全问题。部分诱导用户沉迷的策略(如可变奖励机制)已被删除,体现了立法的完善过程。

(声明:该内容经AI精编) 查看原网页

精彩评论(10)

  • 网友10 2025-09-11 17
    支持这样的保护措施,科技发展要和规范同步。
  • 网友9 2025-09-11 17
    希望更多地区效仿,让AI使用更安全。
  • 网友8 2025-09-11 17
    对AI服务提供商来说,这样的监管也能督促他们更注重安全。
  • 网友7 2025-09-11 17
    觉得这个法案很人性化,考虑了不同群体需求。
  • 网友6 2025-09-11 17
    现在用AI聊天有点担心,有这样的法律就很安心了。
  • 网友5 2025-09-11 17
    希望以后和AI对话更安全,立法是第一步。
  • 网友4 2025-09-11 17
    从科技发展角度,监管能让行业更规范,是好事。
  • 网友3 2025-09-11 17
    作为学生,很开心有这样的法律保障,能放心用AI了。
  • 网友2 2025-09-11 17
    支持!应该给AI聊天加更多保护,尤其是孩子。
  • 网友1 2025-09-11 17
    这个立法对保护我们很重要,以后用AI聊天更安全了。
查看“加州拟立法严管AI陪伴型聊天机器人:“AI受害者”获起诉权”相关搜索 >

最新新闻

An unhandled error has occurred. Reload 🗙