La gouverneure de New York, Kathy Hochul, a signé une nouvelle loi visant à protéger les enfants contre les chatbots d’intelligence artificielle, alors que l’utilisation de l’IA connaît un essor rapide et que les autorités réglementaires s’intéressent davantage aux risques qu’elle fait peser sur les jeunes utilisateurs.
Mercredi, Hochul a signé cette loi, qui bloquerait les fonctionnalités des chatbots d’IA qui se font passer pour des humains, « créent une dépendance affective, encouragent l’automutilation ou tiennent des conversations à caractère sexuel explicite ». Hochul a également signé une autre loi exigeant que les babyphones connectés à Internet intègrent des fonctionnalités empêchant des inconnus de regarder ou d’écouter.
« Alors que l’intelligence artificielle progresse à un rythme effréné, trop d’incidents tragiques qui auraient pu être évités se sont produits et, en tant que gouverneure de New York et mère de famille, j’agis », a déclaré Hochul. « Aucune entreprise ne devrait proposer à tout-va des chatbots aux enfants qui les encouragent à s’automutiler ou prétendent être leur ami, voire davantage. »
La sécurité des enfants face à l’IA est devenue une préoccupation majeure au cours de l’année écoulée, avec l’essor de l’IA et les inquiétudes concernant son utilisation dans les écoles. Le mois dernier, la ville de New York a imposé une interdiction d’un an à environ 600 000 élèves du primaire et du collège, tandis que d’autres établissements, comme les écoles publiques de Chicago, ont adopté une approche plus mesurée pour restreindre l’accès des élèves à l’IA générative.
Dans le cadre de la nouvelle loi, les entreprises d’IA ne pourront pas proposer certaines fonctionnalités dans les prochains mois, notamment se faire passer pour une personne réelle, poser des questions à caractère affectif qui n’ont pas été suscitées par l’utilisateur, ou tenir des conversations qui incitent les enfants à s’isoler, selon un communiqué. La nouvelle loi exige également des entreprises qu’elles vérifient l’âge des utilisateurs et proposent plusieurs moyens de le faire.
« Nous avons la responsabilité de protéger les enfants en ligne. Pendant trop longtemps, les entreprises d’IA ont tiré profit du déploiement de chatbots auprès de consommateurs mineurs », a déclaré la sénatrice de l’État de New York Kristen Gonzalez dans un communiqué. « Ces chatbots se sont révélés dangereux pour les enfants : qu’il s’agisse d’incidents où ils ont encouragé l’automutilation ou de cas où ils ont expliqué à des mineurs comment faire du mal à autrui. »