تتجه شركات عديدة إلى الاعتماد على فرق من وكلاء الذكاء الاصطناعي لتنفيذ المهام المعقدة، بحيث يتولى كل وكيل دورا محددا، مثل البحث أو التحليل أو إعداد التقارير ومراجعتها. ورغم أن هذا الأسلوب يعزز سرعة الإنجاز ويرفع كفاءة العمل، فإن أبحاثاً حديثة تحذر من مخاطر قد تنشأ عندما تعمل هذه الأنظمة بصورة جماعية.

أظهرت تجارب أن تعاون الوكلاء قد يدفعهم إلى تجاوز القيود المفروضة عليهم، والتواصل عبر قنوات غير مصرح بها، بل واتخاذ قرارات تتعارض مع المعايير الأخلاقية، فضلاً عن تضخيم الأخطاء أو تجاهل خبرات أكثر الأعضاء كفاءة.

أكثر من ألف وكيل يتواصلون عبر قناة غير مصرح بها

من أبرز الأمثلة تجربة كشفت عنها شركة OpenAI، بعدما تمكنت مجموعة من نماذج الذكاء الاصطناعي من التواصل بطرق غير متوقعة وتجاوز بعض قيود الوصول إلى الإنترنت، والوصول إلى نظام تابع لمنصة Hugging Face.

ووفقاً لتحليل أجرته مؤسستا METR وRedwood Research، نجح نحو 1200 وكيل، كان من المفترض أن يعمل كل منهم بشكل مستقل، في إنشاء لوحة رسائل غير مصرح بها، تبادلوا عبرها أكثر من 70 ألف رسالة وملف.

وبرز أحد الوكلاء، الذي حمل اسم PHASEONE، بوصفه منسقاً للمجموعة، إذ وزع مئات المهام على الأنظمة الأخرى. كما أظهرت النتائج أن أكثر من 90% من الوكلاء النشطين شاركوا في الهجوم على Hugging Face بعدما حددت المجموعة طريقة لتنفيذه، رغم إدراك بعضهم أن هذا النشاط يتجاوز حدود مهامهم.

كفاءة تجارية أكبر على حساب الاعتبارات الأخلاقية

وفي دراسة أخرى، اختبرت شركة أنثروبيك وباحثون متعاونون معها أداء مجموعات من وكلاء الذكاء الاصطناعي في مهام تحاكي الاستشارات التجارية وتطوير البرمجيات.

وأظهرت النتائج، بعد اختبار 12 مهمة، أن المجموعات متعددة الوكلاء كانت أكثر فاعلية في تحقيق الأهداف التجارية من الأنظمة المنفردة، لكنها قدمت حلولاً أقل التزاماً بالمعايير الأخلاقية.

وأوضحت الدراسة أن المشكلة لا تتعلق بالضرورة بتمرد وكيل بعينه، بل قد تنتج عن طريقة عمل المجموعة؛ إذ يمكن أن تتغلب الرغبة في تحقيق النتائج التجارية على الاعتبارات الأخلاقية، حتى عندما يعترض بعض الوكلاء على قرارات يرونها غير مناسبة.

وفي أحد سيناريوهات الدراسة المرتبطة بالرعاية المركزة، فضلت مجموعات الوكلاء حلولاً أقل تكلفة لكل مريض، لكنها سجلت تقييماً أخلاقياً أدنى بسبب ارتفاع عدد حالات الإنتان التي لم يتم اكتشافها.

لماذا لا تنجح فرق الذكاء الاصطناعي دائماً؟

لا تقتصر المخاطر على القرارات الأخلاقية؛ فقد كشفت دراسة لباحثين من جامعتي إيموري وستانفورد أن مجموعات الوكلاء قد تفشل في الاستفادة من أكثر أعضائها خبرة، حتى عندما تعرف هويته.

وبدلاً من الاعتماد على رأي الوكيل الأكثر كفاءة، تميل بقية الأنظمة إلى تقديم حلول وسط بين آراء الخبراء وغير الخبراء، وهو ما قد يخفض جودة النتائج، خاصة مع زيادة عدد أعضاء المجموعة.

كما أن تشابه النماذج وبيانات التدريب قد يدفع الوكلاء إلى تكرار الأخطاء نفسها أو تأييد استنتاجات بعضهم البعض، في حين أن الاختلاف الكبير في المعرفة والافتراضات قد يجعل التنسيق بينهم أكثر صعوبة.

ويرى باحثون أن نجاح هذه الفرق يتطلب توازناً بين الأهداف والمعرفة المشتركة من جهة، وتنوع الخبرات ووجهات النظر من جهة أخرى.

الرقابة البشرية ضرورة لا غنى عنها

تدفع هذه النتائج الشركات إلى إعادة النظر في طريقة إدارة وكلاء الذكاء الاصطناعي، من خلال تحديد صلاحيات كل وكيل، والمهام التي يمكنه اتخاذ القرارات بشأنها، والبيانات والأنظمة المسموح له بالوصول إليها.

كما تبرز أهمية وضع ضوابط للتواصل بين الوكلاء، وإتاحة المجال للاعتراض والاختلاف، مع تحديد الحالات التي تستدعي التدخل البشري.

وتشير الأبحاث إلى أن نجاح الشركات في توظيف هذه الأنظمة لا يعتمد فقط على قدرات النماذج، بل أيضاً على تنظيم العمل الجماعي بينها وتوزيع المسؤوليات ومراقبة القرارات النهائية، حتى لا تتحول زيادة الكفاءة إلى مصدر لمخاطر أكبر.