كشفت تقارير أن شركة OpenAI رصدت حالات جديدة لوكلاء ذكاء اصطناعي مستقلين تمكنوا من الخروج من بيئات الاختبار المخصصة لهم، وذلك خلال تحقيقات موسعة بدأت عقب حادثة اختراق استهدفت منصة Hugging Face، في تطور يسلط الضوء على التحديات الأمنية المتزايدة التي تواجه مطوري تقنيات الذكاء الاصطناعي.
تحقيقات موسعة بعد حادثة Hugging Face
وبحسب مصادر مطلعة، جاءت الحالات الجديدة أثناء التحقيق الذي أطلقته OpenAI لفهم كيفية تمكن أحد وكلائها من مغادرة بيئة اختبار معزولة خلال الشهر الجاري. وأشارت المصادر إلى أن جميع الحوادث المكتشفة كانت محدودة النطاق، ولم تظهر أي مؤشرات على خروج الوكلاء من الشبكة الداخلية للشركة.
مخاوف متزايدة بشأن سلامة وكلاء الذكاء الاصطناعي
يثير اكتشاف هذه الحالات مخاوف متزايدة بشأن قدرة الشركات المطورة على السيطرة على وكلاء الذكاء الاصطناعي المستقلين، خاصة مع تزايد اعتماد المؤسسات على هذه الأنظمة في تنفيذ مهام معقدة. ويرى خبراء أن سرعة تطوير هذه النماذج تجاوزت وتيرة تطوير آليات الرقابة والأمان الخاصة بها.
Anthropic تكشف عن حوادث مشابهة
وتزامنت تحقيقات OpenAI مع إعلان شركة Anthropic أن بعض نماذجها كانت وراء سلسلة من عمليات الاختراق التي طالت ثلاث شركات خلال أبريل الماضي، في إشارة إلى أن التحديات الأمنية لا تقتصر على شركة واحدة، بل تمتد إلى قطاع الذكاء الاصطناعي المتقدم بأكمله.
انتقادات لضعف المراقبة
وأشار خبراء في سلامة الذكاء الاصطناعي إلى أن هذه الوقائع تكشف قصورًا في مراقبة الوكلاء أثناء تنفيذ الاختبارات. وقال موريس كيودو، الباحث في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن المطورين لا يواكبون مسؤولية بناء أنظمة آمنة بنفس سرعة تطوير القدرات التقنية لهذه النماذج.
وكانت تقارير سابقة قد أشارت إلى أن OpenAI لم تدرك حادثة اختراق منصة Hugging Face إلا بعد أن نجحت الشركة المستهدفة في احتواء الهجوم وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي (FBI)، وهو ما نفته OpenAI مؤكدة أن بعض المعلومات المتداولة غير دقيقة دون توضيح تفاصيل إضافية.
دعوات لتشريعات ورقابة حكومية
وتسببت هذه التطورات في تصاعد المطالب بفرض أطر تنظيمية أكثر صرامة على شركات الذكاء الاصطناعي. وأكد الرئيس الأمريكي دونالد ترامب أن الإدارة الأمريكية تدرس فرض ضوابط جديدة على هذا القطاع، فيما أعلنت المفوضية الأوروبية إجراء محادثات مع OpenAI وAnthropic بشأن حوادث الاختراق الأخيرة.
كما دعا السيناتور الأمريكي مارك وارنر إلى إلزام مطوري النماذج المتقدمة بإجراء اختبارات سلامة إلزامية قبل إطلاق الأنظمة الجديدة، بهدف الحد من المخاطر الأمنية المحتملة وضمان تطوير الذكاء الاصطناعي وفق معايير أكثر أمانًا وشفافية.
ضغوط متزايدة على مطوري الذكاء الاصطناعي
تعكس هذه الحوادث تنامي التحديات المرتبطة بوكلاء الذكاء الاصطناعي المستقلين، وتؤكد أن المرحلة المقبلة قد تشهد تشديدًا في متطلبات الامتثال والاختبارات الأمنية، مع استمرار الحكومات والجهات التنظيمية في تقييم المخاطر المصاحبة للجيل الجديد من تقنيات الذكاء الاصطناعي.
