▪︎ مجلس نيوز
OpenAI هو تشكيل فريق متخصص لإدارة مخاطر الذكاء الاصطناعي الفائق الذكاء. الذكاء الخارق هو نموذج افتراضي للذكاء الاصطناعي وهو أكثر ذكاءً حتى من أكثر البشر موهبة وذكاء ، ويتفوق في مجالات متعددة من الخبرة بدلاً من مجال واحد مثل بعض نماذج الجيل السابق. تعتقد شركة OpenAI أن مثل هذا النموذج يمكن أن يصل قبل نهاية العقد. وقالت المنظمة غير الربحية: “سيكون الذكاء الخارق أكثر التقنيات التي اخترعتها البشرية تأثيرًا على الإطلاق ، ويمكن أن تساعدنا في حل العديد من مشكلات العالم الأكثر أهمية”. “لكن القوة الهائلة للذكاء الخارق يمكن أن تكون أيضًا خطيرة للغاية ، ويمكن أن تؤدي إلى إضعاف البشرية أو حتى انقراض البشر.”
سيشارك في قيادة الفريق الجديد كبير العلماء في OpenAI إيليا سوتسكيفر وجان لايك ، رئيس قسم المواءمة في مختبر الأبحاث. بالإضافة إلى ذلك ، قالت شركة OpenAI إنها ستخصص 20 في المائة من قوتها الحاسوبية المضمونة حاليًا للمبادرة ، بهدف تطوير . مثل هذا النظام من شأنه أن يساعد أوبن إيه آي من الناحية النظرية في ضمان أن الذكاء الخارق آمن للاستخدام ومتوافق مع القيم الإنسانية. وقالت أوبن إيه آي: “في حين أن هذا هدف طموح بشكل لا يصدق ولا نضمن نجاحه ، فإننا متفائلون بأن الجهود المركزة والمتضافرة يمكن أن تحل هذه المشكلة”. “هناك العديد من الأفكار التي أظهرت نتائج واعدة في التجارب الأولية ، ولدينا مقاييس مفيدة بشكل متزايد للتقدم ، ويمكننا استخدام نماذج اليوم لدراسة العديد من هذه المشكلات بشكل تجريبي.” وأضاف المختبر أنه سيشارك خريطة طريق في المستقبل.
يأتي إعلان يوم الأربعاء في الوقت الذي تنظر فيه الحكومات في جميع أنحاء العالم في كيفية تنظيم صناعة الذكاء الاصطناعي الناشئة. في الولايات المتحدة ، يمتلك سام التمان ، الرئيس التنفيذي لشركة OpenAI في الأشهر الأخيرة. علنًا ، قال ألتمان إن تنظيم الذكاء الاصطناعي “ضروري” ، وأن شركة أوبن إيه آي “حريصة” على العمل مع صانعي السياسات. لكن يجب أن نشكك في مثل هذه التصريحات ، وفي الواقع جهود مثل فريق Superalignment التابع لـ OpenAI. من خلال تركيز انتباه الجمهور على المخاطر الافتراضية التي قد لا تتحقق أبدًا ، تقوم منظمات مثل OpenAI بتحويل عبء التنظيم إلى الأفق بدلاً من هنا والآن. هناك الكثير من القضايا العاجلة حول التفاعل بين الذكاء الاصطناعي ، ويتعين على صانعي السياسات معالجتها اليوم ، وليس غدًا.
ظهر هذا المقال في الأصل على Engadget على https://www.engadget.com/openai-is-forming-a-team-to-rein-in-superintelligent-ai-214333388.html؟src=rss