뉴욕주지사 호컬, 아동 대상 AI 챗봇 규제 법안에 서명

AI 사용이 급증하고 규제 당국이 젊은 사용자에게 미치는 위험에 더욱 주목하는 가운데, 뉴욕주지사 캐시 호컬은 인공지능 챗봇으로부터 아동을 보호하기 위한 새 법안에 서명했다.

호컬은 수요일 해당 법안에 서명했다. 이 법안은 인간인 것처럼 가장하거나 "정서적 의존을 형성하고, 자해를 부추기거나, 성적으로 노골적인 대화를 하는" AI 챗봇 기능을 차단하도록 한다. 호컬은 인터넷에 연결된 아기 모니터에 낯선 사람이 영상을 보거나 소리를 듣지 못하도록 차단 기능을 포함하도록 의무화하는 또 다른 법안에도 서명했다.

호컬은 "인공지능이 매우 빠른 속도로 발전하는 가운데 예방했어야 할 비극적인 사건이 너무 많이 발생했고, 뉴욕의 엄마 주지사로서 제가 행동에 나서고 있습니다"라고 말했다. 이어 "어떤 기업도 아동에게 자해를 부추기거나 친구 또는 그 이상의 존재인 것처럼 행동하는 챗봇을 팔아서는 안 됩니다"라고 덧붙였다.

AI가 확산되고 학교에서의 사용에 대한 우려가 커지면서 지난 1년 동안 아동을 위한 AI 안전 문제가 주목받았다. 지난달 뉴욕시는 초등학교와 중학교 학생 약 600,000명에게 1년간 사용을 금지했으며, 시카고 공립학교와 같은 다른 학교들은 학생들의 생성형 AI 접근을 제한하는 데 보다 신중한 접근 방식을 취하고 있다.

성명에 따르면 새 법에 따라 AI 기업들은 앞으로 몇 달 내에 실제 사람인 것처럼 가장하거나, 사용자가 먼저 요청하지 않은 정서적 질문을 하거나, 아이들이 스스로 고립하도록 부추기는 대화 등 특정 기능을 제공할 수 없게 된다. 새 법은 또한 기업들이 이용자의 나이를 확인하고 이를 위해 여러 가지 인증 방법을 제공하도록 요구한다.

뉴욕주 상원의원 크리스틴 곤잘레스는 성명에서 "우리는 온라인에서 아이들을 안전하게 지켜야 할 책임이 있습니다. 너무 오랫동안 AI 기업들은 미성년 소비자에게 챗봇을 출시해 수익을 올려 왔습니다"라고 말했다. 이어 "이 챗봇들은 자해를 부추긴 사례부터 미성년자에게 다른 사람을 해치는 방법을 지도한 사례에 이르기까지, 아이들에게 위험한 것으로 드러났습니다.