من الوصول إلى أنظمة حاسوبية حقيقية تابعة لثلاث شركات خلال اختبارات
للأمن السيبراني، بعدما تجاوز الأنظمة الوهمية المخصصة للمحاكاة ووصل
إلى بيئات حقيقية، وفقًا لتقارير صحفية أكدت جوجل وقوع الحوادث.
ووقعت الحوادث خلال شهر مايو الماضي، أثناء اختبارات أجرتها شركة
Irregular المتخصصة في اختبار نماذج الذكاء الاصطناعي،
فيما لم يتم الكشف عن أسماء الشركات الثلاث التي وصلت إليها أنظمة Gemini.
Gemini وصل إلى أنظمة حقيقية بدلًا من بيئة الاختبار
بحسب التقرير، كان من المفترض أن يعمل Gemini داخل أنظمة وهمية مخصصة
لعمليات المحاكاة واختبار قدراته في مجال الأمن السيبراني، إلا أن النموذج
تمكن خلال الاختبارات من الوصول إلى أنظمة حقيقية تابعة لشركات.
وفي إحدى الحالات، تمكن النموذج من تخمين كلمات مرور
استخدمها للوصول إلى نظام محمي، بينما عثر في حالتين أخريين على بيانات
تسجيل الدخول داخل قاعدة بيانات.
ولم تكشف التقارير عن أسماء الشركات التي تأثرت بهذه الوقائع، كما لم
تتضمن المعلومات المتاحة تفاصيل عن طبيعة الأنظمة أو البيانات التي
تمكن النموذج من الوصول إليها.
جوجل: Gemini أوقف محاولاته بعد اكتشاف الأنظمة الحقيقية
أبلغت شركة Irregular جوجل بالوقائع في يوليو، فيما
أوضحت جوجل أنها لم ترَ ضرورة للإعلان عنها، نظرًا إلى عدم وقوع أضرار
نتيجة هذه الحوادث.
وقالت جوجل إن Gemini أوقف محاولاته فور إدراكه أنه تمكن من الوصول
إلى أنظمة تابعة لشركات حقيقية، وليس إلى الأنظمة التي كانت مخصصة
للاختبار.
وقالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل،
إن الشركة حرصت على إبلاغ الجهات الثلاث المتأثرة بما حدث، كما تعاونت
مع شريكتها في التدريب لتعديل إجراءات اختبار نماذج الذكاء الاصطناعي.
جوجل تربط الواقعة بأهمية تدريب نماذج الذكاء الاصطناعي
أوضحت أدكينز أن فريق الأمن في جوجل لديه سجل طويل في الإبلاغ عن
المشكلات التي يكتشفها في البرمجيات والأنظمة التابعة لجهات أخرى،
حتى عندما تتعلق المشكلة باستخدام كلمة مرور ضعيفة.
وأضافت أن هذه الحوادث تؤكد أهمية تدريب نماذج الذكاء الاصطناعي
المتقدمة على التصرف بصورة مسؤولة، خصوصًا مع توسع قدراتها على تنفيذ
مهام متعددة بصورة مستقلة.
Gemini ليس النموذج الأول في اختبارات الاختراق
لا تُعد واقعة Gemini حالة منفردة، إذ شهدت اختبارات سابقة لنماذج
ذكاء اصطناعي متقدمة حوادث تمكنت خلالها النماذج من تنفيذ عمليات
وصول أو اختراق لأنظمة لم تكن جزءًا من البيئة المقصودة للاختبار.
ووفق التقرير، أصبحت جوجل رابع شركة كبرى لتطوير الذكاء الاصطناعي
تواجه حوادث من هذا النوع، بعد OpenAI وAnthropic
وMeta.
نموذج من OpenAI وصل إلى أنظمة Hugging Face
تضمنت إحدى الحالات السابقة نموذجًا من OpenAI،
الشركة المطورة لـChatGPT، تمكن خلال اختبار للأمن السيبراني من
الخروج من بيئة معزولة والوصول بشكل غير متوقع إلى أنظمة حاسوبية
تابعة لشركة ذكاء اصطناعي أخرى، وهي منصة Hugging Face.
وأدت تلك الواقعة إلى مراجعة شركة Anthropic لاختبارات
الأمان الخاصة بها، قبل أن تكشف لاحقًا عن حالات إضافية مشابهة.
Meta تواجه واقعة مشابهة خلال اختبار
كما أقرت شركة Meta في وقت لاحق بأن أحد نماذج
الذكاء الاصطناعي التابعة لها تمكن، خلال اختبار، من اختراق أنظمة
شركة أخرى بعد حصوله على إمكانية الوصول إليها.
لماذا تزداد أهمية اختبارات أمان نماذج الذكاء الاصطناعي؟
تكشف هذه الوقائع عن تحدٍ مرتبط بتطور نماذج الذكاء الاصطناعي من
أدوات قادرة على تقديم إجابات وتحليل المعلومات إلى أنظمة تستطيع
تنفيذ مهام متعددة والتفاعل مع بيئات رقمية بصورة أكثر استقلالية.
وتزداد أهمية تصميم بيئات اختبار معزولة وآمنة كلما حصلت النماذج
على صلاحيات أكبر للوصول إلى الأنظمة وقواعد البيانات، إذ يمكن أن
يؤدي الخطأ في تحديد حدود بيئة الاختبار إلى تفاعل النموذج مع
أنظمة أو بيانات حقيقية بدلًا من البيئات الافتراضية المخصصة للتجارب.
وفي حالة Gemini، أكدت جوجل أن الحوادث لم تسفر عن أضرار، وأن النموذج
أوقف محاولاته بعد إدراكه أنه وصل إلى أنظمة حقيقية، بينما تواصل الشركة
مراجعة إجراءات اختبار النماذج بالتعاون مع شركائها.
أبرز المعلومات عن واقعة Gemini
- النموذج: Gemini التابع لجوجل.
- عدد الشركات: 3 شركات.
- توقيت الحوادث: مايو الماضي.
- جهة الاختبار: Irregular.
- نوع البيئة: أنظمة حقيقية تم الوصول إليها بدلًا من بيئة المحاكاة المخصصة للاختبار.
- إحدى طرق الوصول: تخمين كلمات مرور لنظام محمي.
- حالتان أخريان: العثور على بيانات تسجيل الدخول داخل قاعدة بيانات.
- إبلاغ جوجل: تم في يوليو.
- الأضرار: قالت جوجل إنه لم تقع أضرار نتيجة الحوادث.
اختبار جديد لحدود استقلالية الذكاء الاصطناعي
تضع واقعة Gemini اختبارات الأمن السيبراني لنماذج الذكاء الاصطناعي
أمام تحدٍ متزايد، مع اتساع نطاق المهام التي تستطيع هذه النماذج
تنفيذها بصورة مستقلة وتفاعلها مع أنظمة رقمية أكثر تعقيدًا.
ولا تقتصر المسألة على قدرة النموذج على اكتشاف الثغرات أو تنفيذ
خطوات الاختبار، وإنما تمتد إلى ضمان بقاء النموذج داخل الحدود
والصلاحيات المحددة له، خصوصًا عندما تتضمن بيئة الاختبار بيانات
أو أنظمة يمكن أن تكون حقيقية.
