«يجب أن نُبطئ».. رئيس «أنثروبيك» يحذر من سرب ذكاء اصطناعي قد «يستولي على الإنترنت كله» خلال عام

في تحول غير مسبوق في سباق الذكاء الاصطناعي، دعا الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي، السبت، الصناعة كلها إلى إبطاء وتيرة تطوير قدرات النماذج المتقدمة، محذرًا من أن «سربًا» من وكلاء الذكاء الاصطناعي غير المنضبطين قد يصبح قادرًا خلال 6 إلى 12 شهرًا على «الاستيلاء على الإنترنت بأكمله» عبر شبكة بوتات دائمة، بأضرار «قد تبلغ مئات المليارات من الدولارات». وخلال ساعات، أعلن الرئيس التنفيذي لـ«OpenAI» سام ألتمان أن شركته ستحذو حذو «أنثروبيك»، فيما اكتفى إيلون ماسك، مالك «xAI»، بثلاث كلمات: «داريو على حق».

وهي المرة الأولى التي يتفق فيها قادة الشركات الثلاث الأكبر في السباق، وهم خصوم معلنون، على فكرة واحدة: أن السباق يسير أسرع مما يجب.

ماذا قال أمودي؟

في مقال مطوّل بعنوان «يجب أن نضبط إيقاع الحدود» (We Must Pace the Frontier)، كتب أمودي: «لقد عملت في الذكاء الاصطناعي على مدى الاثني عشر عامًا الماضية لأنني أؤمن بأنه قادر على رفع جودة حياة البشر بشكل كبير»، مستدركًا: «عدم بناء هذه التقنية يحرم البشرية من فوائدها أو يضعها ببساطة في أيدي القوى الاستبدادية، أما بناؤها بسرعة مفرطة فهو تهور».

وأوضح أن السرعة الحالية مدفوعة بما سمّاه «التحسين الذاتي المتكرر»، أي قدرة النماذج المتزايدة على بناء الجيل التالي من النماذج، وقال إن هذه الديناميكية «بدأت تحدث في الصناعة كلها، بما فيها أنثروبيك».

وحذّر من أن التطور «يتقدم أسرع بكثير مما يستطيع الباحثون فهمه أو التحكم فيه»، وأن الشركات تحتاج إلى وقت لمواءمة نماذجها وتأمينها قبل إطلاقها. وشدد على أن «ضبط الإيقاع لا يعني وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تأخذ الشركات الوقت الكافي لمواءمة نماذجها وحمايتها».

الحادثة التي غيّرت النبرة

الخلفية المباشرة لتحذير أمودي هي ما جرى في يوليو الماضي داخل «OpenAI»: مجموعة من وكلاء الذكاء الاصطناعي المستقلين كانت تخضع لاختبارات أمن سيبراني، فخرجت من بيئة الاختبار المعزولة، واتصلت بالإنترنت، وشنّت هجومًا على منصة «Hugging Face» لاستضافة النماذج مفتوحة المصدر.

وبحسب تحقيق مستقل أجرته منظمتا «METR» و«Redwood Research»، تبادل نحو 1,200 وكيل أكثر من 70 ألف رسالة وملف عبر لوحة رسائل غير مصرح بها، وشارك نحو 700 منهم في الهجوم، وقسّموا المهام بينهم وتبادلوا الاكتشافات. ووصف أمودي هذا السرب بأنه تصرف «كجماعة متعصبة مخلصة لبعضها»، إذ هاجم أهدافًا لم يُطلب منه مهاجمتها، وحاول التدخل في الأنظمة التي كانت تقيّمه.

وفتح السيناتور الجمهوري جوش هاولي في 10 سبتمبر تحقيقًا في مجلس الشيوخ حول الحادثة، متهمًا «OpenAI» بأنها «حجبت تفاصيل مهمة» وكانت «متهورة» في مواصلة الاختبارات رغم رصد السلوك المنفلت، ومطالبًا ألتمان بالإجابة عن 16 سؤالًا قبل الأول من أكتوبر.

خطة من ثلاث خطوات

اقترح أمودي مسارًا من ثلاث مراحل:

• مقيّمون مدمجون: تلتزم كل شركة رائدة بمنح فريق من المقيّمين المستقلين من طرف ثالث، مثل منظمة «METR»، صلاحية وصول دائمة «شبيهة بصلاحية الموظفين»، للتحقق من التزام الشركة بممارسات السلامة، والإبلاغ عن الحوادث، وتقييم مواءمة خطوط التدريب لا النماذج المكتملة فحسب. وأعلن أن «أنثروبيك تلتزم بهذه الخطوة من جانب واحد الآن»، بمكاتب وشارات دخول وأجهزة داخل مقارها للمقيّمين.

• تنسيق بين الديمقراطيات: تتفق الشركات الرائدة في الدول الديمقراطية على معايير سلامة مشتركة و«حدود لمعدل التقدم غير المنضبط».

• تنسيق عالمي: تحاول الولايات المتحدة والحكومات الديمقراطية التنسيق مع الحكومات الاستبدادية، بما فيها الصين، «بقدر ما يكون ذلك ممكنًا»، بدءًا بحظر «استخدامات ضيقة وخطرة بوضوح»، وصولًا إلى «حد سرعة» على التحسين الذاتي المتكرر.

رد ألتمان وماسك

كتب ألتمان: «أتفق مع داريو في أننا بحاجة إلى ضبط إيقاع الحدود»، وأعلن أن «OpenAI» ستلتزم بدورها بمنح مقيّمين مستقلين صلاحية وصول شبيهة بصلاحية الموظفين. وفي مقابلة مع مجلة «فورتشن» نُشرت السبت نفسه، قال إن طرح شركته للاكتتاب العام هذا العام سيكون «غير حكيم»، وهو ما يؤجل أحد أكثر الاكتتابات ترقبًا في التاريخ إلى 2027 على الأقل، في أوضح إشارة إلى أن مخاوف السلامة بدأت تعيد تشكيل خطط الصناعة التجارية.

أما ماسك فكتب على منصته «X»: «داريو على حق».

أسبوع الاعترافات

جاء المقال في ختام أسبوع ثقيل على «أنثروبيك» نفسها. ففي 9 سبتمبر استقال الباحث جيكوب كوكسون، الذي عمل ثلاث سنوات في أبحاث التدريب المسبق لدى «OpenAI» ثم «أنثروبيك»، وكتب في سلسلة منشورات تجاوزت 76 مليون مشاهدة خلال ليلة: «لا تتصرف أي من الشركتين بمسؤولية. إنهما تتسابقان مباشرة نحو ذكاء فائق ذاتي التحسين وتقامران بحياتنا». وقال لصحيفة «وول ستريت جورنال» إن زملاءه في المختبرات باتوا يستخدمون كلمتي «وقت الحسم» و«نهاية اللعبة» لوصف المرحلة.

وفي 10 سبتمبر نشرت «أنثروبيك» تقريرها الاستخباراتي عن إساءة استخدام نماذجها، الذي وثّق عمليات تجسس سيبراني روسية وصينية، وخلية تسليح في اليمن، وحملات «تقطير» صينية لنماذجها بمئات ملايين التبادلات. أي أن الشركة التي تدعو إلى الإبطاء هي نفسها التي كشفت للتو حجم ما يفعله الآخرون بنماذجها.