نشر الرئيس التنفيذي لـ Anthropic داريو أمودي منشوراً على وسائل التواصل الاجتماعي رداً على الانتقادات الموجهة إلى ممارسات الشركة في مجال سلامة الذكاء الاصطناعي، مجادلاً بأن استراتيجيتها للتنافس على جبهة التكنولوجيا كانت مصممة عمداً لإعطاء الأولوية للسلامة.
جاء المنشور رداً على رئيس الاستراتيجية في Encode AI، ناثان كالفن، الذي تساءل عما إذا كانت تحركات Anthropic خلال العام الماضي تتسق مع التزامها بسلامة الذكاء الاصطناعي.
في منشور على X يوم الثلاثاء، عدّد كالفن عدة قرارات اتخذتها الشركة — من بينها إبرام صفقات حوسبة كبيرة، واستخدام قدر كبير من موارد الحوسبة في البحث والتطوير الداخلي لتسريع عملية التطوير، ومشاركة مشروع قانون مع الكونغرس من شأنه أن يستبق أجزاءً أساسية من قوانين الولايات الخاصة بسلامة الذكاء الاصطناعي — باعتبارها أدلة على أن الشركة كانت تركز أساساً على الفوز في سباق الذكاء الاصطناعي المتقدم، لا على السلامة.
أقرّ أمودي ببعض نقاط كالفن، ولا سيما ما يتعلق بأخطاء Anthropic في التواصل. لكنه رفض التوصيف العام لسجل الشركة.
«كانت استراتيجيتنا دائماً ما أسميه «السباق نحو القمة»؛ فمن خلال إظهار إمكانية بناء التكنولوجيا بمسؤولية، يمكننا رفع سقف المعايير في القطاع بأكمله»، كتب أمودي. وأضاف: «عند النظر إلى هذه الاستراتيجية ككل، أشعر بالفخر بسجلنا وأتمسك بها».
فوائد السلامة المكلفة تجارياً
في منشوره على X، عدّد أمودي تسعة إجراءات اتخذتها Anthropic خلال العام الماضي وكانت «مكلفة تجارياً»، لكنها نُفذت رغم ذلك لما تحققه من فوائد للسلامة.
وتشمل هذه الإجراءات دعم Anthropic لمشروع SB 53 في كاليفورنيا — الذي ألزم مختبرات الذكاء الاصطناعي الكبرى بنشر أطر للسلامة والحفاظ عليها — في وقت كان فيه القيام بذلك «محفوفاً بالمخاطر السياسية»، فضلاً عن الإبقاء على تدابير حماية بيولوجية صارمة جداً في نماذجها رغم احتمال أن تكون لها آثار إيجابية في مجال الطب الحيوي. واتُخذ هذا القرار لمنع محاولات محتملة لاستخدام الذكاء الاصطناعي في تصنيع أسلحة بيولوجية.
كما أخرت الشركة إتاحة نماذج من فئة Mythos لعامة المستخدمين بهدف وضع تدابير حماية إلكترونية أقوى. وتشمل البنود الأخرى في القائمة الدعوة العلنية إلى منح الحكومة صلاحية حظر إطلاق النماذج، ومواصلة دعم ضوابط تصدير الرقائق ومعدات تصنيعها إلى الصين.
وجاء هذا التبادل بين الشخصيتين البارزتين في مجال الذكاء الاصطناعي في وقت يتواصل فيه تصاعد النقاش حول سلامة الذكاء الاصطناعي وانحرافه عن الأهداف، وسط مخاوف متزايدة من أن يتجاوز الذكاء الاصطناعي المتقدم السيطرة البشرية يوماً ما.
وأضاف أمودي: «ومن الإنصاف القول إن هناك أسئلة مهمة تستحق المواجهة — ونحن نواجهها بالفعل — بشأن ما ينبغي فعله عندما يتسارع التطور المدفوع بالذكاء الاصطناعي إلى حد يصعب معه أن تواكب إجراءات السلامة هذا التسارع. نحن نقترب من تلك النقطة، وهذا ما يدفع بعض تفكيرنا بشأن «وتيرة التقدم»».