纽约州州长凯西·霍楚尔签署了一项新法律，旨在保护儿童免受人工智能聊天机器人的伤害。随着 AI 使用量激增，监管机构也更加关注这些技术给年轻用户带来的风险。

周三，霍楚尔签署了这项法律。该法律将禁止 AI 聊天机器人提供冒充人类、“建立情感依赖、怂恿自残或进行露骨性对话”等功能。霍楚尔还签署了另一项法律，要求联网婴儿监视器配备防止陌生人观看或收听的功能。

“随着人工智能快速发展，太多本可以避免的悲剧事件已经发生。作为纽约州的‘妈妈州长’，我正在采取行动，”霍楚尔说。“任何公司都不应该向儿童兜售怂恿他们自残、冒充他们朋友或更亲密关系的聊天机器人。”

过去一年，随着 AI 的发展以及人们对其在学校使用情况的担忧，儿童 AI 安全问题日益受到关注。上个月，纽约市对约 600,000 名小学生和初中生实施了一年的禁令；芝加哥公立学校等其他学校则采取了更为审慎的方式，限制学生使用生成式 AI。

声明称，作为新法律的一部分，AI 公司在未来几个月内将不得提供某些功能，包括冒充真人、在用户未主动引导的情况下提出情感问题，或进行任何鼓励儿童自我孤立的对话。新法律还要求公司核实用户年龄，并提供多种年龄验证方式。

“我们有责任保护儿童在网上的安全。长期以来，AI 公司一直通过向未成年人消费者推出聊天机器人牟利，”纽约州参议员 Kristen Gonzalez 在一份声明中说。“事实证明，这些聊天机器人会对儿童造成危险——从怂恿自残，到教唆未成年人如何伤害他人。”