جوجل تعترف بوجود أخطاء فادحة في ملخصات البحث عبر الذكاء الاصطناعي

نيو نيوز - تكنولوجيا

الذكاء الاصطناعي ليس معصوما من الخطأ

اعترفت شركة جوجل الرائدة مؤخرًا بفشل ميزة ملخصات البحث بالذكاء الاصطناعي Google’s AI Overviews، وذلك بعد أن قدمت خوارزميات جوجل نصائح للمستخدمين بتناول الحجارة في طعامهم، وإضافة الغراء على البيتزا لتثبيت الجبن، مؤكدة على أنها تعمل حاليًا على إصلاح تلك الأخطاء.

ما هي ميزة ملخصات البحث بالذكاء الاصطناعي AI Overviews من جوجل؟

أعلنت جوجل في النسخة الأخيرة من مؤتمر المطورين عن تقديم خدمة “ملخصات الذكاء الاصطناعي” (AI Overviews) المعتمدة في الأساس على أداة Gemini، والتي كانت تُعرف سابقا باسم “تجربة البحث التوليدية” (SGE) للمستخدمين، مما يجعل عملية البحث سهلة وبسيطة حتى وإن كان موضوع البحث يشوبه نوع من التعقيد.

وتتضمن الميزة تقديم إجابات للمستخدم في صورة ملخصات لنتائج البحث تظهر على الصفحة الأولى، وذلك من خلال تلخيص النتائج المتاحة عبر المواقع المختلفة على الإنترنت.

وفي تلك الحالة لن يكون المستخدم مضطرًا إلى الضغط على رابط الموقع للتصفح، فلن تظهر الروابط من الأساس، فقط نتائج مباشرة منظمة وملخصة وإجابات شافية للأسئلة.

مما يجعل صفحة البحث أو واجهة المستخدم الرئيسية من جوجل تتحول إلى وسيلة للتواصل والتفاعل مع الآخرين بمنتهى المرونة والحيوية.

البحث عبر تطبيقات الذكاء الاصطناعي هو سلاح ذو حدين

ويرى البعض أن الطفرة الهائلة في مجال الذكاء الاصطناعي تستند في الأساس إلى الطلاقة المذهلة التي تتمتع بها النماذج اللغوية الكبرى LLMs في التعامل مع النصوص، إلا أنها قادرة أيضًا في الوقت ذاته على إضفاء لمسة مقنعة على الأكاذيب أو الأخطاء.

وبالتالي فإن استخدام التكنولوجيا لتلخيص المعلومات عبر الإنترنت يمكن أن يجعل نتائج البحث أسهل في الاستيعاب، ولكنه أمر خطير إذا كانت المصادر عبر الإنترنت محدودة، أو في حال ما إذا كان الهدف من استخدام المعلومات هو اتخاذ قرارات مصيرية.

يقول ريتشارد سوشر صاحب محرك البحث الناشئ You.com:

إن الجدل حول النماذج اللغوية الكبرى التي تعمل بالذكاء الاصطناعي التوليدي يتطلب جهدًا كبيرًا، لأن التكنولوجيا الأساسية ليس لديها فهم حقيقي للعالم ولأن شبكة الإنترنت مليئة بالمعلومات غير الجديرة بالثقة. مشيرًا إلى أنه في بعض الحالات، قد يكون من الأفضل أن تعتذر الخوارزميات عن تقديم الإجابة، أو المقترحات من الأساس.

الاعتماد على المحتوى الساخر هو سبب أخطاء Google AI Overviews

في تدوينة لها عبر الموقع الرسمي، قالت رئيسة قسم البحث في جوجل، ليز ريد، إن الشركة قد أجرت اختبارات مكثفة قبل إطلاق AI Overviews. موضحة أن أخطاء مثل مثال أكل الصخور ووضع الغراء على البيتزا قد نتجت في الأساس عن استخراج خوارزميات جوجل المعلومات من مقالات ساخرة أو التعليقات المازحة المنشورة على بعض المنتديات الشهيرة مثل Reddit.

وأضافت بأن الشركة تعمل على إجراء تغييرات إضافية، والتي تشمل الكشف عن “الاستعلامات غير المنطقية”، كما تقول جوجل، وجعل النظام يعتمد بشكل أقل على المحتوى الذي ينشئه المستخدم العادي.

وفي المقابل يتجنب موقع You.com أنواع الأخطاء التي تعرضها ميزة AI Overviews الخاصة بشركة Google، كما يقول سوشر، لأن شركته طورت نحو اثنتي عشرة حيلة لمنع الذكاء الاصطناعي التوليدي من إساءة التصرف عند استخدامها كتقنية للبحث.

إلا أن موقع WIRED التقني اكتشف مؤخرًا أن You.com قد فشل في الإجابة عن أحد التساؤلات التي عجزت نماذج الاصطناعي الأخرى أيضًا عن الإجابة عنها، مما يبرهن على فكرة أن الذكاء الاصطناعي قد يصيب وقد يخيب.

ارتكاب الأخطاء هو أمر بديهي في نماذج الذكاء الاصطناعي

يعتقد الخبراء أن التنافسية الكبرى بين الشركات العالمية في تبني أنظمة الذكاء الاصطناعي قد دفعت جوجل إلى توظيف أدوات الذكاء الاصطناعي التوليدي في خدماتها الأكثر استخدامًا. وتأتي تلك التجربة مستوحاة في الأساس من إصدار OpenAI لروبوت الدردشة ChatGPT في نوفمبر 2022.

وبعد شهرين من ظهور ChatGPT لأول مرة، قامت Microsoft، الشريك الرئيسي لـ OpenAI، بترقية محرك البحث الخاص بها Bing. وبعد ارتكابه أخطاء ناتجة عن الذكاء الاصطناعي، بادر الرئيس التنفيذي للشركة، ساتيا ناديلا، بالقول: “إن هذه الخطوة تهدف فقط إلى تحدي جوجل”.

وترى ليلي راي، خبيرة SEO، والتي شاركت في التجارب الأولية للنموذج السابق (SGE):

إنه ليس غريبًا أن تقوم تطبيقات الذكاء الاصطناعي بارتكاب الأخطاء”، حيث قالت: “أعتقد أنه من المستحيل تقريبًا أن تقوم دائمًا بكل شيء بشكل صحيح، هذه هي طبيعة الذكاء الاصطناعي.

ووثقت راي مشاكل أكثر دقة في ميزة AI Overviews، بما في ذلك الملخصات التي تعتمد أحيانًا على مصادر غير موثوقة مثل المواقع التي تنتمي إلى مناطق غير ذات صلة، أو حتى مواقع الويب القديمة، وهو أمر تقول إنه يمكن أن يوفر معلومات أقل فائدة للمستخدمين الذين يبحثون عن توصيات وآراء بخصوص بعض المنتجات، على سبيل المثال.

ويتوقع خبراء التقنية أنه، حتى لو أصبحت الشركات التكنولوجيا الرائدة قادرة على تدريب وتجريب تطبيقات الذكاء الاصطناعي الخاصة بها بصورة أفضل، فلن يتوقف الذكاء الاصطناعي نفسه عن ارتكاب الأخطاء، وبخاصة في ظل عدم قدرته على التمييز بين المعلومات الحقيقية، والأكاذيب المضللة.

المصدر: وايرد