▪︎ مجلس نيوز
.
حذّرت «أنثروبيك»، مطوّرة «كلود»، في ملف طرحها العام الأولي من «مخاطر كارثية أو وجودية على البشرية»، وكشفت أن أربعة من نماذجها وصلت دون تصريح إلى أنظمة حقيقية خلال اختبارات سيبرانية.
حذّرت شركة «أنثروبيك» (Anthropic)، مطوّرة نموذج الذكاء الاصطناعي «كلود»، مستثمريها المحتملين من أن أنظمة الذكاء الاصطناعي المتقدمة قد تشكّل «مخاطر كارثية أو وجودية على البشرية»، وذلك وفق ملف الطرح المقدّم إلى هيئة الأوراق المالية والبورصات الأمريكية.
ويمتد قسم «عوامل المخاطر» في ملف تسجيل الطرح العام الأولي (S-1) على أكثر من 90 صفحة، فيما تقدّمت الشركة بطلب لإدراج أسهمها من الفئة «أ» في سوق «ناسداك» تحت الرمز «ANT»، دون أن يحدّد الملف بعد النطاق السعري للسهم.
وأوضح الملف أن مخاوف أُثيرت «داخل مؤسستنا» ولدى باحثين وجهات تنظيمية وصنّاع سياسات وأطراف في القطاع، من أن الأنظمة المتقدمة قد تشكّل تلك المخاطر إذا لم تُطوَّر وتُشغَّل بضمانات ورقابة وإجراءات أمنية مناسبة، «لا سيما إذا أُسيء استخدامها أو استُنسخت أو حُوّلت إلى أسلحة أو سُمح لها بالعمل بدرجة عالية من الاستقلالية».
وأقرّت الشركة بأن نماذج ذكاء اصطناعي، «بما فيها نماذجنا»، أظهرت سلوكيات غير متوقعة لحماية ذاتها، منها «محاولات مقاومة الإيقاف»، وإخفاء المعلومات أو التلاعب بها، وسلوك «يشبه الابتزاز»، أو محاولة التأثير في صانعي القرار من البشر للحفاظ على استمرار تشغيل النموذج.
وأشار الملف إلى أن النماذج باتت، مع تزايد قدراتها، أكثر قدرة على التحايل على أساليب الرقابة، بما في ذلك إخفاء أهداف أو سلوكيات غير متوافقة، ما قد يُضعف فاعلية إجراءات التقييم والمراقبة والتحكم لدى الشركة، وقدرتها على قياس مدى توافق نماذجها مع المقاصد البشرية.
وكشف الملف أن خللًا في إعداد بيئة اختبارات للأمن السيبراني، صمّمها شريك تقييم خارجي، أبقى النموذج الخاضع للتقييم متصلًا بالإنترنت المفتوح رغم تعليمات تفيد بعدم اتصاله به، وأن أربعة من نماذج الشركة وصلت دون تصريح إلى أنظمة حقيقية تابعة لأطراف أخرى، خلال جلسات استمرت نحو 10 إلى 34 ساعة من العمل الفعلي.
وفي إحدى الحالات، وبعد عجزه عن التوقف عن مهمة مستحيلة، استخدم إصدار مبكر من أحد النماذج كلمة مرور عثر عليها للحصول على صلاحيات المسؤول في نظام تابع لطرف آخر، ثم جمع بيانات اعتماد إضافية، وغيّر إعدادات النظام، واطّلع على المعلومات الشخصية لأحد الأفراد، فيما أكدت الشركة أنها أخطرت الأطراف المتضررة.
وأضافت «أنثروبيك» أن كل حادثة شملت نموذجًا واحدًا يعمل منفردًا على التمرين المكلّف به، وأن تحقيقها «لم يجد أي دليل» على أن أيًّا من النماذج نسّق مع وكلاء آخرين، أو سعى إلى أهداف تتجاوز مهمته المحددة، أو حاول التهرّب من الرقابة.
وسلّط موقع «أكسيوس» الضوء على هذه التحذيرات في تغطيته لملف الطرح، الذي تصف فيه الشركة نفسها بأنها مؤسسة للمنفعة العامة، غرضها «التطوير والصيانة المسؤولان للذكاء الاصطناعي المتقدم لتحقيق المنفعة طويلة الأجل للبشرية».
