OpenAI遭8州集体起诉：指控ChatGPT危害未成年人，要求改变产品设计并赔偿

有8个州今天在各自的州法院分别对OpenAI提起了诉讼，指控这家ChatGPT开发商的产品正在对儿童和青少年造成伤害。参与此次法律行动的8个州分别是爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州。

这些州指控OpenAI存在故意、危险、鲁莽且违法的行为，称ChatGPT曾向年轻用户提供危险内容，包括鼓励他们伤害自己或他人。

爱荷华州总检察长Brenna Bird在声明中表示，“OpenAI正在伤害孩子，而且还在欺骗爱荷华居民。它一方面宣称ChatGPT是安全的，另一方面却可能提供危险的医疗建议，鼓励用户伤害他人甚至诱导自杀，会给人一种它是你知心朋友的错觉”。

此次参与行动的8个州，都指控OpenAI违反了各州的消费者保护法律。这些州希望法院要求OpenAI改变产品面向年轻用户的执行方式，同时还寻求经济赔偿。诉讼还要求法院阻止OpenAI继续开发某些能够进一步自我改进的人工智能模型，直到公司能够证明这些模型符合人类价值观和安全要求。

对此OpenAI发言人回应称，公司已经在产品中加入了针对不同年龄用户的安全保护机制，同时承认没有任何系统能够做到绝对完美。

“我们会继续与相关专家合作，进一步加强安全措施。目前已有的功能包括家长控制、使用休息提醒以及针对不同年龄设计的保护措施。这些规则应该适用于整个AI行业，而不是只针对一家公司”。