La gobernadora de Nueva York, Kathy Hochul, firmó una nueva ley para proteger a los niños de los chatbots de inteligencia artificial, mientras el uso de la IA se dispara y los reguladores han centrado más la atención en los riesgos que estos representan para los usuarios jóvenes.

El miércoles, Hochul firmó esa ley, que bloquearía las funciones de los chatbots de IA que se hacen pasar por humanos, «generan dependencia emocional, fomentan las autolesiones o entablan conversaciones de contenido sexual explícito». Hochul también firmó otra ley que exige que los monitores para bebés conectados a internet incluyan funciones para impedir que personas desconocidas los vean o escuchen.

«A medida que la inteligencia artificial avanza a un ritmo acelerado, ha habido demasiados incidentes trágicos que podrían haberse evitado y, como gobernadora de Nueva York y madre, estoy tomando medidas», dijo Hochul. «Ninguna empresa debería ofrecer a los niños chatbots que fomenten las autolesiones o que finjan ser sus amigos o algo más».

La seguridad de los niños en relación con la IA ha cobrado protagonismo durante el último año, en medio del crecimiento de la IA y la preocupación por su uso en las escuelas. El mes pasado, la ciudad de Nueva York impuso una prohibición de un año para aproximadamente 600.000 de sus estudiantes de primaria y secundaria, mientras que otras escuelas, como las Escuelas Públicas de Chicago, han adoptado un enfoque más mesurado para restringir el acceso de los estudiantes a la IA generativa.

Como parte de la nueva ley, las empresas de IA no podrán ofrecer ciertas funciones en los próximos meses, como hacerse pasar por una persona real, hacer preguntas emocionales que no hayan sido solicitadas o mantener conversaciones que animen a los niños a aislarse, según un comunicado. La nueva ley también exige que las empresas verifiquen la edad y ofrezcan varias formas de hacerlo.

«Tenemos la responsabilidad de mantener a los niños seguros en internet. Durante demasiado tiempo, las empresas de IA se han beneficiado de lanzar chatbots dirigidos a consumidores menores de edad», dijo la senadora del estado de Nueva York Kristen Gonzalez en un comunicado. «Estos chatbots han demostrado ser peligrosos para los niños: desde casos en los que fomentan las autolesiones hasta situaciones en las que instruyen a menores sobre cómo hacer daño a otras personas.