ニューヨーク州のホークル知事、子ども向けAIチャットボットを規制する法律に署名

ニューヨーク州のキャシー・ホークル知事は、AIの利用が急増し、規制当局が若い利用者にもたらすリスクにより注目するなか、人工知能チャットボットから子どもたちを守る新法に署名した。

ホークル氏は水曜日、人間を装う、「感情的な依存を形成する、自傷行為を促す、または性的に露骨な会話をする」AIチャットボットの機能を禁止する法律に署名した。ホークル氏はまた、インターネットに接続されたベビーモニターに、見知らぬ人による映像の視聴や音声の傍受を防ぐ機能を搭載するよう義務付ける別の法律にも署名した。

「人工知能が急速なペースで進歩するなか、本来なら防げたはずの悲劇的な出来事があまりにも多く起きています。ニューヨーク州の母親である知事として、私は行動を起こします」とホークル氏は述べた。「自傷行為を促したり、友人やそれ以上の存在を装ったりするチャットボットを、子どもたちに売り込む企業があってはなりません」

AIの発展と学校での利用をめぐる懸念を背景に、過去1年で子どもたちのAI安全対策が注目されるようになった。先月、ニューヨーク市は小中学校の約60万人の生徒を対象に1年間の利用禁止措置を講じた。一方、シカゴ公立学校など他の学校は、生徒による生成AIへのアクセスを制限する際、より慎重なアプローチを取っている。

声明によると、新法の一環として、AI企業は今後数カ月以内に、実在の人物を装う機能、利用者から促されていない感情に関する質問、子どもたちに社会から孤立するよう促す会話など、特定の機能を提供できなくなる。また新法は、企業に年齢確認と、そのための複数の方法の提供も義務付けている。

「私たちには、オンライン上で子どもたちの安全を守る責任があります。あまりにも長い間、AI企業は未成年の消費者にチャットボットを展開して利益を得てきました」と、ニューヨーク州上院議員のクリステン・ゴンザレス氏は声明で述べた。「これらのチャットボットが子どもたちにとって危険であることは明らかです。自傷行為を促す事例から、他人を傷つける方法を未成年者に教える事例まであります。」