وقّعت حاكمة نيويورك كاثي هوكول قانونًا جديدًا لحماية الأطفال من روبوتات الدردشة المدعومة بالذكاء الاصطناعي، في وقت يتزايد فيه استخدام الذكاء الاصطناعي ويركّز المنظّمون بدرجة أكبر على المخاطر التي يفرضها على المستخدمين الصغار.
وقّعت هوكول القانون يوم الأربعاء، وهو قانون سيحظر خصائص روبوتات الدردشة المدعومة بالذكاء الاصطناعي التي تتظاهر بأنها بشر، أو «تبني اعتمادًا عاطفيًا، أو تشجّع على إيذاء النفس، أو تنخرط في محادثات جنسية صريحة». كما وقّعت هوكول قانونًا آخر يُلزم أجهزة مراقبة الأطفال المتصلة بالإنترنت بتضمين خصائص تمنع الغرباء من المشاهدة أو الاستماع.
وقالت هوكول: «مع تطوّر الذكاء الاصطناعي بوتيرة سريعة، وقعت حوادث مأساوية كثيرة كان من الممكن منعها، وبوصفي حاكمة نيويورك وأمًا، فإنني أتخذ إجراءً. لا ينبغي لأي شركة أن تروّج للأطفال لروبوتات دردشة تشجّع على إيذاء النفس أو تتظاهر بأنها صديقتهم أو أكثر من ذلك».
برزت سلامة الأطفال في مجال الذكاء الاصطناعي خلال العام الماضي، بالتزامن مع نمو الذكاء الاصطناعي والمخاوف بشأن استخدامه في المدارس. وفي الشهر الماضي، فرضت مدينة نيويورك حظرًا لمدة عام على استخدامه من جانب نحو 600,000 طالب في المدارس الابتدائية والمتوسطة، في حين اتبعت مدارس أخرى، مثل مدارس شيكاغو العامة، نهجًا أكثر تروّيًا في تقييد وصول الطلاب إلى الذكاء الاصطناعي التوليدي.
وبموجب القانون الجديد، لن تتمكن شركات الذكاء الاصطناعي من تقديم خصائص معينة خلال الأشهر القليلة المقبلة، بما في ذلك التظاهر بأن الروبوت شخص حقيقي، وطرح أسئلة عاطفية لم يطلبها المستخدم، أو إجراء أي محادثات تشجّع الأطفال على عزل أنفسهم، وفقًا لبيان. كما يُلزم القانون الجديد الشركات بالتحقق من الأعمار وتوفير طرق متعددة للقيام بذلك.
وقال عضو مجلس شيوخ ولاية نيويورك كريستن غونزاليس في بيان: «نحن نتحمل مسؤولية الحفاظ على سلامة الأطفال على الإنترنت. ولوقت طويل جدًا، حققت شركات الذكاء الاصطناعي أرباحًا من طرح روبوتات الدردشة للمستهلكين القاصرين. وقد ثبت أن هذه الروبوتات خطرة على الأطفال، بدءًا من حالات التشجيع على إيذاء النفس ووصولًا إلى تدريب القاصرين على كيفية إيذاء الآخرين.