美国8个州10月14日宣布起诉OpenAI ，指控ChatGPT 危害儿童，其中包括引导未成年用户自残或伤害他人。
诉讼提起前，ChatGPT上未成年人保护措施的有效性持续受到质疑。此前，10月7日，常识媒体（Common Sense Media）旗下青少年AI安全研究所公布评估称，面向青少年的ChatGPT版本仍存在不可接受的风险。
据该组织称，研究团队在13至17岁的注册账户上测试了4000多条指令。一些保护措施有效运行，但家长预警系统和在危机情况下引导用户寻求帮助的功能尚未达到预期。该组织已建议OpenAI在弥补这些缺陷之前限制18岁以下人群使用ChatGPT。
