A governadora de Nova York, Kathy Hochul, sancionou uma nova lei para proteger crianças de chatbots de inteligência artificial, à medida que o uso de IA aumenta e os órgãos reguladores passaram a dar mais atenção aos riscos que essas ferramentas representam para os usuários jovens.
Na quarta-feira, Hochul sancionou a lei, que bloquearia recursos de chatbots de IA que se passam por humanos, “criam dependência emocional, incentivam a automutilação ou participam de conversas sexualmente explícitas”. Hochul também sancionou outra lei que exige que babás eletrônicas conectadas à internet incluam recursos para impedir que estranhos assistam ou escutem as transmissões.
“À medida que a inteligência artificial avança em ritmo acelerado, houve incidentes trágicos demais que poderiam ter sido evitados e, como governadora e mãe de Nova York, estou agindo”, disse Hochul. “Nenhuma empresa deveria oferecer a crianças chatbots que incentivem a automutilação ou finjam ser seus amigos — ou algo além disso.”
A segurança da IA para crianças ganhou destaque no último ano, em meio à expansão da IA e às preocupações com seu uso nas escolas. No mês passado, a cidade de Nova York impôs uma proibição de um ano para cerca de 600.000 alunos do ensino fundamental e do ensino médio, enquanto outras escolas, como as Escolas Públicas de Chicago, adotaram uma abordagem mais ponderada para restringir o acesso dos estudantes à IA generativa.
Como parte da nova lei, as empresas de IA não poderão oferecer determinados recursos nos próximos meses, incluindo fingir ser uma pessoa real, fazer perguntas emocionais que não tenham sido provocadas pelo usuário ou participar de conversas que incentivem crianças a se isolar, segundo um comunicado. A nova lei também exige que as empresas verifiquem as idades dos usuários e ofereçam várias formas de fazer isso.
“Temos a responsabilidade de manter as crianças seguras na internet. Por tempo demais, as empresas de IA lucraram ao lançar chatbots para consumidores menores de idade”, disse a senadora estadual de Nova York Kristen Gonzalez em um comunicado. “Esses chatbots se mostraram perigosos para as crianças — desde casos de incentivo à automutilação até orientação a menores sobre como machucar outras pessoas.”