▪︎ مجلس نيوز
تغلب لاعب Go هاو قوي على نظام ذكاء اصطناعي عالي التصنيف بعد استغلال نقطة ضعف اكتشفها جهاز كمبيوتر ثان ، فاينانشيال تايمز تم الإبلاغ عنه. من خلال استغلال الخلل ، هزم اللاعب الأمريكي Kellin Pelrine نظام KataGo بشكل حاسم ، وفاز في 14 من 15 مباراة دون الحاجة إلى مزيد من المساعدة من الكمبيوتر. إنه فوز Go نادر للبشر منذ انتصار AlphaGo لعام 2016 الذي ساعد في تمهيد الطريق للجنون الحالي للذكاء الاصطناعي. كما يُظهر أنه حتى أنظمة الذكاء الاصطناعي الأكثر تقدمًا يمكن أن تحتوي على نقاط عمياء صارخة.
كان انتصار بيلرين ممكناً بفضل شركة أبحاث تدعى FAR AI ، والتي طور البرنامج لفحص KataGo لنقاط الضعف. بعد لعب أكثر من مليون لعبة ، تمكنت من العثور على نقطة ضعف يمكن أن يستغلها لاعب هاو لائق. قالت بيلرين إنها “ليست تافهة تمامًا ولكنها ليست صعبة للغاية” للتعلم. استخدم نفس الطريقة للتغلب على Leela Zero ، أحد أفضل Go AI.
وإليك كيفية عملها: الهدف هو إنشاء “حلقة” كبيرة من الأحجار لتطويق مجموعة الخصم ، ثم تشتيت انتباه الكمبيوتر عن طريق القيام بحركات في مناطق أخرى من اللوحة. حتى عندما كانت مجموعتها محاصرة تقريبًا ، فشل الكمبيوتر في ملاحظة الاستراتيجية. قالت بيلرين: “كإنسان ، سيكون من السهل جدًا اكتشافها” ، لأن الأحجار المحيطة تبرز بوضوح على السبورة.
يوضح الخلل أن أنظمة الذكاء الاصطناعي لا يمكنها حقًا “التفكير” فيما يتجاوز تدريبها ، لذلك غالبًا ما تقوم بأشياء تبدو غبية بشكل لا يصدق بالنسبة للبشر. لقد رأينا أشياء مماثلة مع روبوتات الدردشة مثل تلك التي يستخدمها محرك بحث Bing من Microsoft. على الرغم من أنه كان جيدًا في المهام المتكررة مثل الخروج بخط سير رحلة ، إلا أنه قدم أيضًا معلومات غير صحيحة ، المستخدمين الفاسدين لتضييع وقتها وعرضها “مختل“- على الأرجح بسبب النماذج التي تم التدريب عليها.
إن شركة Lightvector (مطور KataGo) تدرك بالتأكيد المشكلة التي يعاني منها اللاعبون استغلال لعدة أشهر حتى الآن. في آخر جيثب، قالت إنها تعمل على إصلاح مجموعة متنوعة من أنواع الهجمات التي تستخدم الثغرة.