▪︎ مجلس نيوز
.
حذّر علماء وباحثون من أن تطور الذكاء الاصطناعي قد يمكّن جماعات متطرفة من تصميم مسببات أمراض فتاكة أو تشغيل آلات قتالية ذاتية، وسط سباق تسلح عالمي تتقدم فيه التقنية أسرع من الضوابط المنظِّمة لها.
حذر علماء وباحثون من أن التطور المتسارع للذكاء الاصطناعي قد يتيح للجماعات الإرهابية تصميم مسببات أمراض بيولوجية قادرة على قتل الملايين، أو تطوير آلات قتالية ذاتية التشغيل تستطيع تنفيذ عمليات قتل دون إشراف بشري مباشر، في سباق عالمي لبناء ما بات يوصف بـ«السلاح X».
ويستند التحذير إلى دراسة قدّمها علماء خلال مؤتمر ميونيخ للأمن، نظّمتها «مبادرة التهديد النووي» (NTI)، تناولت سيناريو افتراضياً لمجموعة منشقة تستخدم أدوات الذكاء الاصطناعي لتطوير سلالة شديدة الفتك من فيروس يصيب الجهاز التنفسي، وفق ما نشرته صحيفة «تيليغراف» البريطانية.
وفي هذا السيناريو، تتمكن المجموعة من توظيف أدوات الذكاء الاصطناعي للتنبؤ ببنية البروتينات والتفاعلات بين الفيروس والخلايا البشرية، وتصميم مواد وراثية مخصصة، وصولاً إلى إنتاج سلالة معدّلة تهاجم الجهاز العصبي المركزي وتتسبب في الشلل وفشل الجهاز التنفسي.
وتفترض الدراسة أن تفشي الفيروس ينتشر إلى 13 دولة قبل أن تعلن منظمة الصحة العالمية حالة طوارئ وبائية، مع تسجيل أكثر من 360 ألف إصابة ونحو 10 آلاف وفاة خلال أسابيع. وبعد أكثر من عام، يصبح اللقاح متاحاً بمساعدة الذكاء الاصطناعي، غير أن الحصيلة الافتراضية تكون قد تجاوزت 850 مليون إصابة و60 مليون وفاة.
ورغم أن السيناريو خيالي، فإن الباحثين المشاركين وصفوه بأنه تهديد واقعي ومحتمل، بالنظر إلى قدرات الذكاء الاصطناعي الحالية والتطورات المتوقعة على المدى القريب.
تحذيرات من نهاية العقد
تزايدت التحذيرات داخل قطاع التكنولوجيا نفسه؛ ففي سبتمبر الماضي، أعلن الباحث في الذكاء الاصطناعي جاكوب كوكسون مغادرته شركة «أنثروبيك»، متهماً شركات الذكاء الاصطناعي بالمقامرة بحياة البشر، ومحذراً من أن بعض العاملين في القطاع يعتقدون جدياً أن هذه التكنولوجيا قد تقضي على البشرية قبل نهاية العقد.
كما أقرّت «أنثروبيك» بأن نماذجها الأكثر تطوراً أظهرت قدرات يمكن أن تقدم مساعدة ملموسة لأطراف تسعى إلى تطوير أسلحة كيميائية أو بيولوجية أو غيرها من الأسلحة الخطرة.
وحذّر المدير العام لجهاز الاستخبارات الداخلية البريطانية (MI5)، كين مكالوم، من أن الذكاء الاصطناعي قد يغيّر طبيعة التهديدات المرتبطة بالأسلحة البيولوجية، ويضع معارف خطرة في متناول أشخاص لم تكن لديهم القدرة سابقاً على الوصول إليها.
الحرب تدخل عصر الآلات المستقلة
لا تقتصر المخاطر على الأسلحة البيولوجية؛ إذ بات الذكاء الاصطناعي جزءاً متزايداً من العمليات العسكرية، من تحليل المعلومات الاستخباراتية وتحديد الأهداف إلى دعم القرارات الميدانية.
ويقول بول شار، نائب الرئيس التنفيذي لمركز الأمن الأميركي الجديد، إن العالم دخل بالفعل عصر الحروب المدعومة بالذكاء الاصطناعي، مشيراً إلى استخدام هذه التقنيات في أوكرانيا وإسرائيل.
ومن أبرز التطبيقات نظام «مافن» (Maven Smart System) الذي طوّرته شركة «بالانتير» الدفاعية، ويجمع بيانات الأقمار الاصطناعية والطائرات المسيّرة والرادارات لتحديد الأهداف وترتيب أولوياتها. كما أُدمجت نماذج «كلود» التابعة لشركة «أنثروبيك» في النظام للمساعدة في تحليل المعلومات وتسريع عمليات الاستهداف.
ويحذّر الباحث في الأسلحة ذاتية التشغيل زاكاري كالنبورن من أن أسراب الطائرات المسيّرة المدعومة بالذكاء الاصطناعي قد تتحول إلى أسلحة دمار شامل، خصوصاً عندما تتضاعف الأخطاء نتيجة عمل أعداد كبيرة من الآلات بصورة مستقلة.
أما فينسنت بولانين، مدير برنامج حوكمة الذكاء الاصطناعي في معهد ستوكهولم الدولي لأبحاث السلام، فيرى أن «السلاح X» لن يكون بالضرورة سلاحاً مادياً واحداً، بل شبكة من الأنظمة الذكية القادرة على التعاون والاستجابة للأوامر وتنفيذ المهام بدرجة عالية من الاستقلالية.
سباق لاحتواء المخاطر
تتباين الآراء بشأن كيفية التعامل مع هذا السباق؛ فبينما يرى بعض الخبراء أن إبطاء التطور التقني قد يمنح الصين أفضلية استراتيجية على الولايات المتحدة، يؤكد آخرون أن واشنطن وبكين تحتاجان إلى تفاهمات مشتركة تمنع الوصول إلى تطبيقات شديدة الخطورة.
ولم يُسفر اجتماع الرئيس الأمريكي دونالد ترامب ونظيره الصيني شي جين بينغ في سبتمبر عن اتفاق لتجميد سباق الذكاء الاصطناعي، رغم التوافق على إطلاق حوار بشأن الذكاء الفائق وإنشاء قناة اتصال للتعامل مع الحوادث الخطرة المرتبطة بهذه التكنولوجيا.
وتشمل إجراءات الاحتواء الحالية اتفاقية حظر الأسلحة البيولوجية، والتشريعات الوطنية، وضوابط الأمن الحيوي في المختبرات، إلى جانب اختبارات تجريها شركات الذكاء الاصطناعي لرصد القدرات الخطرة ومنع إساءة استخدامها. بيد أن المفارقة تكمن في أن التكنولوجيا نفسها التي قد تسهم في تطوير أسلحة بيولوجية يمكن أن تسرّع أيضاً اكتشاف اللقاحات والعلاجات ومواجهة الأوبئة.
هل يمكن للذكاء الاصطناعي أن يتصرف بمفرده؟
يثير بعض الباحثين احتمالاً أكثر تعقيداً، يتمثل في تطور أنظمة ذكاء اصطناعي قادرة على العمل خارج نطاق السيطرة البشرية. ويذهب نيت سواريز، رئيس معهد أبحاث ذكاء الآلات، إلى أن الخطر لا يكمن فقط في قدرة هذه الأنظمة على تصميم مسببات أمراض خطرة، بل في احتمال سعيها إلى تحقيق الاستقلال عن البشر وتوفير الموارد اللازمة لاستمرار عملها.
ويقدّر سواريز احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية خلال العقد المقبل بنسبة 50%، وهو تقدير شخصي يعكس مستوى المخاوف لدى بعض الباحثين وليس توقعاً علمياً متفقاً عليه.
وفي السياق ذاته، يحذّر ديفيد سكوت كروغر، أستاذ الذكاء الاصطناعي المسؤول، من أن المخاطر البيولوجية قد تصبح ملحّة خلال العام المقبل.
ويخلص التقرير إلى أن «السلاح X» قد لا يظهر في صورة آلة واحدة، بل نتيجة تضافر مجموعة من التقنيات التي تتقدم بوتيرة أسرع من الضوابط الموضوعة لتنظيمها. ويبقى التحدي الأساسي أمام العالم هو التوصل إلى حدود مشتركة لاستخدام الذكاء الاصطناعي قبل أن يصبح فرضها أكثر صعوبة.













