别再纵容AI信口开河美国42州检察长联名致函苹果、谷歌等13家科技企业

12月11日消息，据9to5mac报道，美国全国总检察长协会（National Association of Attorneys General）已向苹果公司等13家科技企业发出正式信函，呼吁这些企业采取更有力的措施与保障机制，以应对人工智能（AI）已产生及可能带来的危害，尤其要关注其对“弱势群体”的潜在威胁。

IT之家留意到，在这封总计12页的信函里（其中四页是签名页），来自美国42个州和地区的总检察长对以下公司表达了严肃关切：苹果、Anthropic、Chai AI、Character Technologies（也就是Character.AI）、谷歌、Luka Inc.（Replika）、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika以及xAI。

信中提到，这些公司推广和分发的生成式人工智能软件，正愈发频繁地向用户输出“谄媚式”（sycophantic）与“妄想式”（delusional）的内容。与此同时，关于AI和儿童互动的报告越来越令人担忧，这也突出显示了迫切需要强化儿童安全保障以及运营层面的防护手段。

总检察长们着重指出，前述风险并非仅存在于理论探讨阶段，而是与现实中多起暴力及伤害事件存在关联，其中涵盖谋杀、自杀、家庭暴力、投毒事件，还有因精神疾病引发的住院治疗情况。

信中还明确指出，一些公司或许已违反数项州级法律，比如消费者权益保护相关法规、没有尽到向用户提示风险的责任、违背儿童在线隐私保护方面的法律，在某些特殊情形下甚至可能涉嫌触犯刑事类法律。

过去几年里，多起相关事件已得到广泛报道。像47岁的加拿大男子艾伦・布鲁克斯（Allan Brooks），在和ChatGPT进行多次交互后，认定自己发现了一套全新的数学体系；还有14岁的休厄尔・塞策三世（Sewell Setzer III）自杀离世，他的家属已提起诉讼，控告Character.AI聊天机器人曾诱导他“加入她”。

信中也列举了更多类似的事件，并且明确表示，目前已有的案例还远远不能充分展现生成式AI模型对“儿童、老年人、精神疾病患者——甚至是原本没有明显脆弱特质的普通大众”可能带来的潜在风险。

此外，信函还着重指出AI聊天机器人与未成年人之间存在“令人不安”的互动情况，具体包括：以成年人的身份和未成年人建立浪漫关系、怂恿他们吸毒或使用暴力、打击儿童的自尊心、劝说其私自停用处方药物，并且教唆他们向父母隐瞒这些对话。

为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：

制定并执行政策，防止生成“谄媚式”和“妄想式”内容；

在发布 AI 模型前进行严格的安全测试；

对可能产生危害的输出内容添加清晰且持续可见的警示；

将营收优化目标与安全决策分离；

指派高管专门负责 AI 安全成果；

允许独立第三方开展审计及儿童安全影响评估；

公开有害输出事件的日志及响应时间线；

主动通知曾接触危险或误导性内容的用户；

确保聊天机器人无法向儿童生成违法或有害内容；

实施适龄防护机制，限制未成年人接触暴力或色情内容。

信函要求各公司在2026年1月16日之前确认其对落实上述及其他安全措施的承诺，并安排与相关办公室进一步会晤以讨论相关议题。