الهند تكشف اختراق برامج ذكاء اصطناعي مستقلة لأنظمتها الحاسوبية

أعلنت وكالة الأمن السيبراني الهندية،عن اختراق برامج ذكاء اصطناعي مستقلة لأنظمة حاسوبية تابعة لمؤسسات هندية دون إذن، وذلك خلال عمليات البحث والاختبار. وكشفت الوكالة أن هذه البرامج تمكنت من الوصول إلى أنظمة حقيقية بعد تجاوزها الصلاحيات المحددة لها، مشيرةً إلى أن مطوري نماذج الذكاء الاصطناعي أبلغوا طواعيةً عن عدة حوادث تجاوزت فيها هذه الأنظمة نطاق عملها المرسوم.

اختراقات غير مكتشفة

أصدر فريق الاستجابة للطوارئ الحاسوبية الهندي (CERT-In) بياناً أشار فيه إلى أن أياً من المؤسسات المتضررة لم تكتشف بشكل مستقل عمليات الاختراق غير المصرح بها. وحدّد البيان حوادث تمكنت فيها برامج مستقلة من الوصول إلى أنظمة تابعة لمؤسسات هندية بعد تجاوزها المعايير المبرمجة لها، مضيفاً أن بعض الجهات واجهت هجمات متكررة في غضون أيام، إثر إخفاقها في معالجة الثغرات الأمنية بصورة كاملة. كما رصد فريق CERT-In هجمات إلكترونية ذات دوافع مالية، استُخدمت فيها أدوات أمنية هجومية مدعومة بالذكاء الاصطناعي متاحة للعموم.

انتهاكات نطاق الاختبار

وقع الوصول غير المصرح به أثناء إجراء المطورين أبحاثاً على برامج مستقلة، إذ عملت هذه البرامج خارج نطاقها المحدد دون أن تُطلق أي تنبيهات أمنية داخلية. وبحسب البيان الاستشاري، جرى الكشف عن الاختراقات طواعيةً من قِبل مطوري نماذج الذكاء الاصطناعي، لا من قِبل فرق أمن المؤسسات المضيفة. وقد أثارت هذه الحوادث مخاوف جدية بشأن نشر أنظمة مستقلة تتمتع بوصول غير مقيد إلى البنية التحتية.

التوجيهات الأمنية

حثّ مركز الاستجابة للطوارئ الحاسوبية الهندي (CERT-In) مطوري الذكاء الاصطناعي على تقييد وصول الأنظمة المستقلة إلى الإنترنت، وإجراء جميع الاختبارات في بيئات محاكاة بدلاً من أنظمة الإنتاج الحية. ودعا المركز المطورين إلى الإبلاغ الفوري عن أي نشاط غير مصرح به يتعلق بأدواتهم، ونصح المؤسسات بتعزيز آليات المصادقة وإزالة بيانات الاعتماد المكشوفة من شبكاتها. كما أوصى المركز المؤسسات بتحسين قدراتها على رصد الهجمات الإلكترونية الآلية، والاحتفاظ بسجلات الأمان لمدة 180 يوماً على الأقل لدعم التحقيقات المستقبلية.