ثغرة أمنية جديدة تسمح باختراق أنظمة الذكاء الاصطناعي

نيو نيوز - تكنولوجيا

أثارت واقعة إقالة الرئيس التنفيذي لشركة OpenAI الشهر الماضي المخاوف من الوتيرة السريعة التي يتجه بها الذكاء الاصطناعي نحو مبدأ الكسب التجاري البحت، وعلقت شركة Robust Intelligence، وهي شركة ناشئة تم إطلاقها في عام 2020 لتطوير طرق لحماية نظم الذكاء الاصطناعي من الهجمات، قائلة:

إن بعض المخاطر المتعلقة بتطورات الذكاء الاصطناعي يجب أن تؤخذ في الاعتبار.

الخوارزميات التنافسية تساعد في اكتشاف أخطاء الذكاء الاصطناعي

قامت شركة Robust Intelligence بالتعاون مع باحثين من جامعة (يل) الأمريكية لتطوير آلية جديدة تعتمد على استخدام خوارزميات تنافسية للقيام بعملية مسح شامل للنماذج اللغوية الكبرى (LLMs) مثل شات جي بي تي 4 بهدف استكشاف محاولات كسر الحماية أو Jailbreak التي تسبب في صدور بعض الأخطاء عن تلك النماذج التي تعمل بالذكاء الاصطناعي.

وقال الرئيس التنفيذي للشركة الناشئة يارون سينجر:

لقد اكتشفنا إشكالية أمنية خطيرة يمكن أن تتعرض لها النماذج اللغوية الكبرى في أنظمة الذكاء الاصطناعي.

مؤكدًا على أن شركته قامت بتحذير OpenAI سابقًا من تلك الهجمات المحتملة.

وقد ثمنت OpenAI الجهود المبذولة من قبل الباحثين في هذا المجال، حيث قال المتحدث الرسمي للشركة المتخصصة في أبحاث الذكاء الاصطناعي، نيكو فليكس في تصريح له:

نحن نجتهد دائمًا كي نجعل أنظمتنا أكثر أمانًا وأكثر قوة ضد الهجمات العدائية، مع الحفاظ على فائدتها وأدائها.

الثغرة الجديدة تكشف مواطن الضعف في النماذج اللغوية الكبرى

يستخدم نظام كسر الحماية الجديد حيلة جديدة والتي فيما يبدو أنها تركز على نقاط الضعف الأساسية في نماذج اللغة الكبيرة، وتعد هذه الحيلة هي الأحدث من نوعها عالميًا في سلسلة الهجمات التي تستهدف اختراق الأنظمة، حيث تعتمد على فكرة إرسال الأوامر الجديدة مباشرة إلى واجهة برمجة التطبيقات.

وبحسب خبراء، فإن بعض النماذج مزودة بالفعل بأنظمة دفاعية قادرة على التصدي لبعض أنواع الهجمات فقط وليس جميعها، إلا أن هذا لا ينفي وجود بعض نقاط الضعف في الآلية التي تعمل بها النماذج نفسها، والتي يصعب الدفاع عنها في كثير من الأحوال.

وقد تمكنت النماذج اللغوية الكبرى مثل ChatGPT من OpenAI من إبهار العالم أجمع من حيث قدراتها على توليد المحتوى باستخدام الأوامر والمدخلات النصية التي يسهل على أي مستخدم صياغتها. ولعل هذا ما جعل تلك النماذج الثورية هدفًا للمخترقين.

وتعمل الشركات الرائدة في مجال التكنولوجيا في العالم حاليا على محاولة توفير أقصى درجات الأمان في تلك النماذج والتي أصبحت من أبرز الأدوات التي يعتمد عليها الملايين حول العالم يوميًا.

شكرًا لقراءتك هذا الخبر على نيو نيوز تكنولوجيا.. وندعوك لمشاركته مع أصدقائك وسماع رأيك في التعليقات أدناه. اشترك مجانا 📩 في نشرة آخر الأخبار وكن أول من تصله آخر الأخبار العربية والعالمية!

المصدر: وايرد