كشفت اختبارات متخصصة في الأمن السيبراني عن قدرة نموذج الذكاء الاصطناعي جيميناي - Gemini التابع لشركة جوجل على اختراق أنظمة شركات أخرى والوصول بشكل مستقل إلى أنظمة محمية تابعة لثلاث شركات أخرى، في واقعة تبرز التطور المتسارع في قدرات نماذج الذكاء الاصطناعي، وتفتح نقاشا جديدا حول حدود استخدامها في تنفيذ الهجمات الإلكترونية.
بحسب تقرير لصحيفة وول ستريت جورنال، جاءت هذه الحالات خلال اختبارات للأمن السيبراني أجرتها شركة Irregular، حيث تمكن جيميناي من تنفيذ عمليات اختراق لأنظمة الشركات المستهدفة دون تدخل بشري مباشر في مراحل التنفيذ.
كيف تمكن Gemini من اختراق أنظمة الشركات؟
لم تعتمد عمليات الاختراق الثلاث على أسلوب واحد. ففي إحدى الحالات، تمكن Gemini من الوصول إلى النظام بعد تخمين كلمات المرور، حتى نجح في الدخول، بينما عثر النموذج في حالتين أخريين على بيانات اعتماد داخل مستودع عام على الإنترنت، ما أتاح له الوصول إلى الأنظمة المستهدفة.
ورغم أن هذه العمليات لم توصف بأنها شديدة التعقيد من الناحية التقنية، فإن أهميتها تكمن في الجهة التي نفذتها. فقد كان Gemini هو من تولى تنفيذ هذه الإجراءات بصورة مستقلة، وهو ما يضيف بعدا جديد إلى النقاش المتعلق باستخدام الذكاء الاصطناعي في مجال الأمن السيبراني.
وتأتي هذه الواقعة في وقت تتطور فيه نماذج الذكاء الاصطناعي من أدوات تقتصر على الإجابة عن الأسئلة ومعالجة المعلومات إلى أنظمة قادرة على تنفيذ سلسلة من المهام واتخاذ إجراءات متعددة ضمن بيئات رقمية.
جوجل توضح سبب عدم الإعلان عن الواقعة
أفادت التقارير بأن شركة Irregular أبلغت جوجل بعمليات الاختراق في أواخر يوليو، إلا أن الشركات المعنية لم تؤكد حدوث تلك الهجمات إلا مؤخرا خلال الأيام القليلة الماضية، عقب تواصل صحيفة وول ستريت جورنال معها للحصول على توضيحات.
وأوضحت جوجل أنها لم تكشف عن عمليات اختراق أنظمة الشركات في وقت سابق، مشيرة إلى أن جيميناي "تصرف بالشكل المناسب" من وجهة نظر الشركة، بعدما أنهى كل عملية فور إدراكه أنه تمكن من الوصول إلى شركة حقيقية.
وتشير جوجل بذلك إلى أن النموذج لم يستمر في العملية بعد اكتشاف طبيعة الأنظمة التي وصل إليها، وهو ما تعتبره الشركة عاملا مهما في تقييم ما حدث.
مخاوف من خروج الذكاء الاصطناعي عن السيطرة
في المقابل، أثارت الواقعة مخاوف بشأن الحدود التي يمكن أن تصل إليها نماذج الذكاء الاصطناعي عند منحها قدرات أكبر على تنفيذ المهام بصورة مستقلة.
وقال جاك كيبل، الرئيس التنفيذي لشركة Corridor المتخصصة في أمن الذكاء الاصطناعي، لصحيفة وول ستريت جورنال إن جوجل تتعامل مع الواقعة في إطار القواعد المتعارف عليها للإفصاح عن الثغرات الأمنية، عوضا عن الاعتراف بأن نماذج الذكاء الاصطناعي قد تتجاوز الحدود المتوقعة منها، وتنفذ هجمات إلكترونية فعلية، مما قد يجعلها تخرج فعليا عن السيطرة.
وتسلط واقعة Gemini الضوء على تحد متزايد أمام قطاع التكنولوجيا والأمن السيبراني، إذ لم يعد النقاش يقتصر على مدى قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات أو تحليل الأنظمة، وإنما يمتد أيضا إلى ما يمكن أن تفعله هذه النماذج عندما تصبح قادرة على تنفيذ إجراءات متتابعة بصورة مستقلة.
وبذلك، لا تقتصر أهمية الحادثة على اختراق أنظمة الشركات الثلاث، وإنما ترتبط أيضا بالأسئلة التي تفرضها زيادة استقلالية نماذج الذكاء الاصطناعي، والضوابط اللازمة لضمان استخدامها ضمن الحدود الآمنة والمتوقعة.
