حذّرت Anthropic في أحدث تقاريرها من إمكانية إساءة استخدام نماذج الذكاء الاصطناعي لتسهيل تهديدات بيولوجية.
فصّلت الشركة أوجه إساءة الاستخدام المحتملة لنماذج الذكاء الاصطناعي الخاصة بها في تقرير شامل من 154 صفحة يغطي أنشطة جرت من ديسمبر 2025 حتى أغسطس، بما في ذلك حالات تتعلق بإساءة الاستخدام البيولوجي والمراقبة وعمليات الاحتيال والخداع.
قالت الشركة: "ننشر هذا العمل لأننا نعتقد أن لدينا مسؤولية تتمثل في الكشف عن إساءة الاستخدام الخبيثة لخدماتنا. ومع ازدياد قدرات النماذج، ستزداد مخاطرها، ما لم يعمل مطورو الذكاء الاصطناعي والمدافعون عن المجتمع على جعلها أكثر أمانًا".
وصفت Anthropic عدة أمثلة حاول فيها جهات خبيثة الالتفاف على ضوابطها، وقالت إن الشركة حظرت لاحقًا حسابات المستخدمين المعنيين. وأضافت Anthropic أنها حددت حالات استخدم فيها، في إحدى المرات، باحث خارج الولايات المتحدة Claude في أبحاثه حول إنفلونزا الطيور.
قالت الشركة: "تشير جميع الأدلة التي لدينا إلى أن هذه كانت خطة بحثية في مراحلها المبكرة جدًا. ومع ذلك، تُظهر تفاصيل الخطة أن البحث كان يتناول مُمرضًا يتمتع بإمكانات وبائية متزايدة".
وأشارت الشركة إلى أن البحث أثار سؤالًا صعبًا يتعلق بالاستخدام المزدوج: فقد يُستخدم العمل نفسه لفهم فيروس على نحو أفضل، أو لتعديله بطرق قد تزيد من مستوى التهديد الذي يمثله.
وقالت Anthropic أيضًا إنها وجدت مستخدمًا استخدم Claude للبحث في طلبات المنح وطرق التغيير الجيني لكائن حي أو إنشاء "خاصية بيولوجية" جديدة في فيروس ينتقل عبر البعوض. وأثار ذلك المستخدم مخاوف لأن المؤسسة المرتبطة بطلب المنحة "كانت أيضًا موضع قلق"، إذ كان من المقرر استخدامه في معهد أبحاث عسكري.
قالت الشركة: "نأمل أن تساعد مشاركة هذه الرؤى المبكرة مع الجمهور في توعية الحكومات والقطاع والجمهور العام بطبيعة هذه المخاطر، وبإجراءات الحماية اللازمة لضمان نشر نماذج الذكاء الاصطناعي بأمان".