بسبب ثغرة: عميل يخدع روبوت دردشة ويحصل على خصم 80% في متجر بريطاني

نيو نيوز - تكنولوجيا

ثغرة تفاوضية: من حوار عادي مع روبوت دردشة إلى صفقة كارثية بقيمة خصم 80%

وبدأت القصة عندما نشر صاحب إحدى الشركات الصغيرة منشورا على منتدى r/LegalAdviceUK على موقع Reddit في فبراير 2026، حيث كان موقعه الإلكتروني مزودا ببرنامج دردشة آلي يعمل بالذكاء الاصطناعي، يتولى مهمة الرد على استفسارات العملاء بين الساعة السادسة مساء والتاسعة صباحا، إلا أن البوت الذكي لم يكن مخصصا لإدارة الأسعار أو الطلبات.

قام أحد العملاء بالاستفاضة في الدردشة مع الروبوت، وذلك من خلال طرح أسئلة غير منطقية، حيث كان يوجه البرنامج لاستعراض مهاراته في الرياضيات، وإمكانية الحصول على خصومات على طلبات افتراضية، ما دفع الروبوت لإرضاء العميل، فأنشأ كود خصم وهمي بنسبة 25%. فاستمر العميل في التفاوض، فرفع البرنامج الخصم إلى 80%.

إعلان Ad

صحيح أن الكود الوهمي لم يعمل عند إتمام عملية الشراء، إلا أن العميل المتحايل لصقه في خانة ملاحظات الطلب، بحيث يطبق الخصم يدويا على مشتريات بقيمة تزيد عن 8 آلاف جنيه إسترليني. وقال صاحب الشركة إن الوفاء بهذا الاتفاق سيكبد المتجر خسائر بآلاف الدولارات.

المسؤولية القانونية عن أخطاء الذكاء الاصطناعي

تطرح هذه القصة الجدل حول المأزق القانوني للشركات وتحمل المسؤولية عند فشل أنظمة الذكاء الاصطناعي في حماية برامج الدردشة الآلية. حيث إنه بموجب قانون حماية المستهلك في المملكة المتحدة، تتحمل الشركات عموما مسؤولية الوعود التي تقدمها أنظمة الذكاء الاصطناعي التابعة لها للعملاء.

وفي واقعة مشابهة في عام 2024، أصدرت محكمة كندية حكما ضد شركة طيران كندا في القضية الشهيرة المعروف بـ “موفات ضد طيران كندا”، حيث قدم برنامج الدردشة الآلي التابع للشركة معلومات خاطئة لأحد العملاء حول أسعار تذاكر السفر في حالات الوفاة.

وحاولت طيران كندا الالتفاف حول الأمر من خلال الادعاء بأن برنامج الدردشة الآلي كيان قانوني منفصل. إلا أن المحكمة وصفت هذا الادعاء بأنه “استدلال غريب” وأصدرت حكمها بإلزام شركة الطيران مسؤولة بتنفيذ جميع الوعود الصادرة عن برنامج الدردشة الآلي.