▪︎ مجلس نيوز
دفع إطلاق ChatGPT البعض إلى التكهن بأن روبوتات الدردشة AI يمكن أن تتولى قريبًا محركات البحث التقليدية. لكن المديرين التنفيذيين في Google يقولون إن التكنولوجيا لا تزال غير ناضجة للغاية بحيث لا يمكن وضعها أمام المستخدمين ، مع وجود مشاكل بما في ذلك تحيز روبوتات الدردشة ، والسمية ، وميلهم إلى صنع المعلومات ببساطة.
وفقا ل تقرير من سي ان بي سيتحدث كل من ، سوندار بيتشاي ، الرئيس التنفيذي لشركة Alphabet ، ورئيس قسم الذكاء الاصطناعي في Google ، جيف دين ، عن صعود ChatGPT في اجتماع شامل عقد مؤخرًا. سأل أحد الموظفين عما إذا كان إطلاق الروبوت – الذي أنشأته شركة OpenAI ، وهي شركة لها علاقات عميقة مع شركة Google المنافسة Microsoft – يمثل “فرصة ضائعة” لعملاق البحث. وبحسب ما ورد رد بيتشاي ودين بالقول إن نماذج لغة الذكاء الاصطناعي من جوجل تتمتع بنفس قدرة نماذج أوبن إيه آي ، ولكن كان على الشركة أن تتحرك “بشكل أكثر تحفظًا من شركة ناشئة صغيرة” بسبب “مخاطر السمعة” التي تشكلها التكنولوجيا.
“نحن نتطلع تمامًا إلى إخراج هذه الأشياء إلى منتجات حقيقية.”
قال دين: “نحن نتطلع تمامًا إلى إخراج هذه الأشياء إلى منتجات حقيقية وفي أشياء تبرز بشكل بارز نموذج اللغة بدلاً من وضعها تحت الأغطية ، وهو المكان الذي نستخدمه حتى الآن”. “لكن ، من المهم جدًا أن نفهم هذا بشكل صحيح.” أضاف بيتشاي أن Google لديها “الكثير” المخطط لميزات لغة الذكاء الاصطناعي في عام 2023 ، وأن “هذا مجال نحتاج فيه إلى التحلي بالجرأة والمسؤولية ، لذا يتعين علينا الموازنة بين ذلك”.
طورت Google عددًا من نماذج لغات الذكاء الاصطناعي الكبيرة (LLMs) المتساوية في القدرة على ChatGPT من OpenAI. وتشمل هذه BERT و MUM و LaMDA ، وكلها تم استخدامها لتحسين محرك بحث Google. ومع ذلك ، فإن هذه التحسينات دقيقة وتركز على تحليل استفسارات المستخدمين لفهم نواياهم بشكل أفضل. تقول Google إن MUM تساعدها في فهم متى يشير البحث إلى أن المستخدم يمر بأزمة شخصية ، على سبيل المثال ، ويوجه هؤلاء الأفراد إلى خطوط المساعدة والمعلومات من مجموعات مثل Samaritans. أطلقت Google أيضًا تطبيقات مثل AI Test Kitchen لمنح المستخدمين طعمًا لتقنية روبوت الدردشة AI الخاصة بها ، ولكنها قيدت التفاعلات مع المستخدمين بعدة طرق.
كانت OpenAI أيضًا حذرة نسبيًا في السابق في تطوير تقنية LLM الخاصة بها ، ولكنها غيرت براعتها مع إطلاق ChatGPT ، مما جعل الوصول مفتوحًا على نطاق واسع للجمهور. كانت النتيجة عاصفة من الدعاية المفيدة والضجيج لشركة OpenAI ، حتى مع قيام الشركة بتكاليف ضخمة مع إبقاء النظام مجانيًا للاستخدام.
على الرغم من أن LLMs مثل ChatGPT تعرض مرونة ملحوظة في توليد اللغة ، إلا أنها تعاني أيضًا من مشكلات معروفة. يضخّمون التحيزات الاجتماعية وجدت في بيانات التدريب الخاصة بهم ، وغالبًا ما تشوه سمعة النساء والأشخاص الملونين ؛ من السهل خداعهم (وجد المستخدمون أنه يمكنهم التحايل على إرشادات الأمان الخاصة بـ ChatGPT ، والتي من المفترض أن تمنعها من تقديم معلومات خطيرة ، من خلال مطالبتهم بـ تخيل ببساطة أنه ذكاء اصطناعي سيء) ؛ و – ربما يكون الأكثر صلة بـ Google – يقدمون بانتظام معلومات خاطئة ومضللة ردًا على الاستفسارات. لقد وجد المستخدمون أن ChatGPT “تكمن” حول مجموعة واسعة من القضايا ، من تكوين البيانات التاريخية والسيرة الذاتية ، إلى تبرير الادعاءات الكاذبة والخطيرة مثل إخبار المستخدمين بإضافة البورسلين المسحوق إلى حليب الثدي “يمكن أن تدعم الجهاز الهضمي للرضع. “
في اجتماع Google الشامل ، أقر دين بهذه التحديات العديدة. وقال إنه “يمكنك أن تتخيل التطبيقات الشبيهة بالبحث ، فالقضايا الواقعية مهمة حقًا وبالنسبة للتطبيقات الأخرى ، فإن قضايا التحيز والسمية والسلامة لها أهمية قصوى أيضًا.” قال إن روبوتات الدردشة للذكاء الاصطناعي “يمكنها صنع الأشياء […] إذا لم يكونوا متأكدين حقًا من شيء ما ، فسيخبرونك فقط ، كما تعلمون ، الفيلة هي الحيوانات التي تضع أكبر بيض أو أي شيء آخر “.
على الرغم من أن إطلاق ChatGPT قد أثار محادثات جديدة حول إمكانات روبوتات الدردشة لتحل محل محركات البحث التقليدية ، إلا أن السؤال ظل قيد الدراسة في Google لفترة طويلة – مما تسبب أحيانًا في الجدل. طُرد باحثو الذكاء الاصطناعي Timnit Gebru و Margaret Mitchell من Google بعد نشر ورقة توضح التحديات الفنية والأخلاقية المرتبطة بـ LLMs (نفس التحديات التي يشرحها بيتشاي ودين الآن للموظفين). وفي مايو من العام الماضي ، قامت مجموعة رباعية من باحثي Google باستكشاف نفس السؤال المتعلق بالذكاء الاصطناعي في البحث ، وقاموا بتفصيل العديد من المشكلات المحتملة. كما لاحظ الباحثون في ورقتهم البحثية ، فإن إحدى أكبر المشكلات هي أن LLM “ليس لديهم فهم حقيقي للعالم ، فهم عرضة للهلوسة ، والأهم من ذلك أنهم غير قادرين على تبرير أقوالهم من خلال الإشارة إلى المستندات الداعمة في الكتاب. لقد تم تدريبهم. “
“من الخطأ الاعتماد عليها في أي شيء مهم في الوقت الحالي.”
هناك طرق للتخفيف من هذه المشكلات بالطبع ، ولا شك أن شركات التكنولوجيا المنافسة ستحسب ما إذا كان إطلاق محرك بحث يعمل بالذكاء الاصطناعي – حتى وإن كان خطيرًا – يستحق العناء فقط لسرقة مسيرة على Google. بعد كل شيء ، إذا كنت جديدًا في المشهد ، فإن “الإضرار بالسمعة” لا يمثل مشكلة كبيرة.
من جانب أوبن إيه آي ، يبدو أنها تحاول كبح التوقعات. كرئيس تنفيذي سام التمان غرد مؤخرا: “ChatGPT محدودة بشكل لا يصدق ، لكنها جيدة بما يكفي في بعض الأشياء لخلق انطباع مضلل بالعظمة. من الخطأ الاعتماد عليها في أي شيء مهم في الوقت الحالي. إنها معاينة للتقدم. لدينا الكثير من العمل الذي يتعين القيام به بشأن المتانة والمصداقية “.