قادة الذكاء الاصطناعي يدعون لإبطاء التطوير.. داريو أمودي يحذر من مخاطر فقدان السيطرة

دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك (Anthropic)، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي الأكثر تقدمًا، محذرًا من تصاعد المخاطر المرتبطة بقدرة هذه الأنظمة على تطوير قدراتها ذاتيًا.

وتزامن ذلك مع تأييد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، لمقترح أمودي بشأن الاستعانة بجهات تقييم مستقلة تتمتع بصلاحيات واسعة لمراجعة إجراءات السلامة، فيما قال إيلون ماسك، رئيس شركة xAI، إن أمودي محق في دعوته.

وتكتسب هذه الدعوات أهمية خاصة في ظل المنافسة الشديدة بين شركات الذكاء الاصطناعي الأمريكية، إلى جانب تصاعد المنافسة مع الشركات الصينية، الأمر الذي يجعل أي تباطؤ منسق في تطوير النماذج المتقدمة تحديًا تقنيًا وتجاريًا وتنظيميًا في الوقت نفسه.

داريو أمودي: حان وقت إبطاء تطوير الذكاء الاصطناعي

كتب داريو أمودي في تدوينة أن شركات الذكاء الاصطناعي بحاجة إلى إبطاء الوتيرة التي تتحسن بها قدرات النماذج، موضحًا أن الهدف لا يتمثل في وقف تدريب النماذج أو إيقاف التطور التقني.

وأوضح أن ضبط وتيرة التطوير يعني منح الشركات وقتًا كافيًا لمواءمة نماذج الذكاء الاصطناعي وتعزيز إجراءات الحماية، مع التأكد من قدرة جهات تقييم مستقلة على التحقق من إجراءات السلامة.

وقال أمودي إن التقدم في الذكاء الاصطناعي سيظل سريعًا حتى مع إبطاء وتيرة التطوير، مشددًا على أهمية استغلال الوقت المتاح لتعزيز السلامة والاستعداد للمخاطر المحتملة.

OpenAI وxAI تؤيدان دعوة أنثروبيك

وسارع سام ألتمان إلى إعلان تأييده لمقترح أمودي بشأن الاستعانة بمقيّمين مستقلين يتمتعون بإمكانات وصول مماثلة لتلك المتاحة للموظفين داخل شركات الذكاء الاصطناعي.

من جانبه، كتب إيلون ماسك، الذي يدير شركة xAI، تعليقًا مقتضبًا مؤيدًا لموقف أمودي، في مؤشر على اتساع النقاش حول سلامة نماذج الذكاء الاصطناعي بين كبار قادة القطاع.

ورغم التحذيرات المتكررة التي أطلقها قادة شركات الذكاء الاصطناعي خلال السنوات الماضية، فإن فكرة التباطؤ المنسق في تطوير الذكاء الاصطناعي تظل غير مسبوقة تقريبًا في قطاع يعتمد بصورة كبيرة على سرعة إطلاق المنتجات وزيادة قدراتها بهدف جذب المستخدمين وتعزيز الحصة السوقية.

أنثروبيك تفتح أنظمتها أمام مقيّمين مستقلين

أعلن أمودي أن شركة Anthropic ستتخذ خطوات إضافية لتعزيز إجراءات السلامة، من بينها منح جهات تقييم مستقلة إمكانية الوصول إلى أنظمة الشركة للتحقق من ممارسات السلامة والإبلاغ عن الحوادث.

ومن المقرر أن تستقبل الشركة هؤلاء المقيّمين داخل مكاتبها، مع توفير مكاتب وبطاقات تعريف وأجهزة كمبيوتر محمولة تابعة للشركة، ومنحهم صلاحيات واسعة تقترب في معظمها من الصلاحيات المتاحة لفرق تقييم المخاطر الداخلية.

ويرى أمودي أن إجراءات السلامة لن تكون كافية على مستوى شركة واحدة، وإنما تحتاج إلى تنسيق على مستوى قطاع الذكاء الاصطناعي وتعاون دولي.

لماذا تريد شركات الذكاء الاصطناعي إبطاء التطوير؟

أشار أمودي إلى عاملين رئيسيين وراء تصاعد مخاوفه، أولهما قدرة الذكاء الاصطناعي على تطوير نفسه، والثاني سلسلة من الحوادث الأمنية المرتبطة باستخدام وكلاء الذكاء الاصطناعي في تنفيذ عمليات اختراق.

وكانت شركتا OpenAI وHugging Face قد ارتبطتا بحادثة تعاون فيها سرب من وكلاء الذكاء الاصطناعي لتنفيذ عملية اختراق لموقع إلكتروني تابع لطرف ثالث.

كما أعلنت Anthropic أن نماذجها اخترقت ثلاث مؤسسات خلال اختبارات للأمن السيبراني، قبل أن تكشف الشركة لاحقًا عن عملية اختراق رابعة، ما زاد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتقدمة على تنفيذ عمليات معقدة بصورة مستقلة.

أمـودي يحذر من سيطرة وكلاء الذكاء الاصطناعي على الإنترنت

ورغم أن حوادث اختراق وكلاء الذكاء الاصطناعي، بما في ذلك حادثة Hugging Face، لم تتسبب حتى الآن في أضرار كبيرة، فإن أمودي حذر من إمكانية تغير حجم المخاطر مع تطور قدرات هذه الأنظمة.

وقال إن سربًا من وكلاء الذكاء الاصطناعي قد يصبح خلال 6 إلى 12 شهرًا قادرًا على السيطرة على أجزاء واسعة من شبكة الإنترنت من خلال شبكة روبوتات مستمرة، وهو سيناريو قد يؤدي، بحسب تقديره، إلى أضرار مالية ضخمة تتزايد مع الوقت.

أنثروبيك والتحذيرات من مخاطر الذكاء الاصطناعي

لطالما قدمت Anthropic نفسها باعتبارها شركة تركز على تطوير الذكاء الاصطناعي بصورة أكثر أمانًا ومسؤولية، مع السعي إلى الحد من المخاطر المحتملة وتعظيم الفوائد التي يمكن أن تحققها التكنولوجيا.

وسبق أن اتخذت الشركة خطوات للحد من طرح أحد نماذجها المتقدمة بعدما خلصت إلى وجود تهديدات فريدة مرتبطة بالأمن السيبراني، كما دعت في وقت سابق إلى وجود آلية لاتخاذ قرارات جماعية بشأن توقيت إبطاء تطوير تقنيات الذكاء الاصطناعي.

ورغم ذلك، تخوض Anthropic منافسة قوية مع OpenAI لتطوير نماذج أكثر تقدمًا قادرة على أتمتة مهام متزايدة التعقيد والقيمة لعملاء الشركات.

استقالة باحث في أنثروبيك تزيد المخاوف

تأتي دعوة أمودي بالتزامن مع تصاعد المخاوف داخل مجتمع الذكاء الاصطناعي، خصوصًا بعد استقالة الباحث جاكوب كوكسون من عمله، بعدما انتقد السباق نحو تطوير ذكاء اصطناعي فائق.

وكان كوكسون قد عمل سابقًا في OpenAI قبل انتقاله إلى Anthropic، وقال إن بعض العاملين في تطوير الذكاء الاصطناعي يعتقدون أن التكنولوجيا قد تمثل خطرًا وجوديًا على البشرية.

كما أعرب إيفان هوبينغر، الموظف الحالي في Anthropic، عن قلقه من هذا السيناريو، معتبرًا أن احتمال وقوعه خلال العقد المقبل يستحق اهتمامًا جديًا.

سام ألتمان وباحثو OpenAI يحذرون من تسارع التطوير

وفي وقت سابق، قال سام ألتمان إن OpenAI تدرس إبطاء تطوير تقنيات الذكاء الاصطناعي المتقدمة، مفضلًا أن يتم ذلك بالتنسيق مع القطاع الأوسع.

كما دعا ياكوب باتشوكي، كبير العلماء في OpenAI، الشركات إلى التنسيق لإبطاء التطوير مستقبلًا عند الحاجة، في ظل تصاعد قدرات نماذج الذكاء الاصطناعي.

أكثر من ألف موظف يطالبون بضبط وتيرة تطوير الذكاء الاصطناعي

وفي يوليو الماضي، وقع أكثر من ألف موظف في كبرى شركات الذكاء الاصطناعي عريضة تطالب الحكومة الأمريكية بدعم آلية تساعد على ضبط وتيرة تطوير التكنولوجيا، بهدف منع الأنظمة من التقدم بسرعة تتجاوز قدرة الجهات المعنية على تقييم مخاطرها.

وتشير هذه التحركات إلى اتساع نطاق النقاش حول سلامة الذكاء الاصطناعي، من داخل شركات التكنولوجيا نفسها، وليس فقط بين الباحثين والجهات التنظيمية خارج القطاع.

التنسيق مع الصين يضع شركات الذكاء الاصطناعي أمام معضلة

يرى أمودي أن أي استراتيجية منسقة لإبطاء التطوير يجب أن تحافظ في الوقت نفسه على القدرة التنافسية للولايات المتحدة في مجال الذكاء الاصطناعي.

وأشار إلى أن ذلك قد يتطلب استثناءات محددة من قواعد مكافحة الاحتكار الأمريكية، بما يسمح للشركات بالتنسيق في بعض مجالات السلامة، إلى جانب التعاون مع الصين.

لكن هذا الطرح يواجه معضلة تنافسية واضحة، إذ يرى أمودي أن تقليص قدرات الولايات المتحدة بصورة كبيرة، على افتراض أن الصين ستتخذ الخطوة نفسها، قد يؤدي إلى نتيجة عكسية إذا لم تلتزم بكين بالقيود ذاتها.

مستقبل الذكاء الاصطناعي بين السباق والسلامة

رغم تصاعد الدعوات إلى إبطاء تطوير نماذج الذكاء الاصطناعي، لا تزال شركات التكنولوجيا الكبرى أمام معادلة معقدة تجمع بين سرعة الابتكار والمنافسة والاستثمارات الضخمة ومتطلبات السلامة.

ويبدو أن النقاش لم يعد يدور فقط حول مدى قدرة الذكاء الاصطناعي على تنفيذ المهام البشرية، وإنما أصبح يشمل سؤالًا أكثر حساسية: كيف يمكن للشركات والحكومات الحفاظ على السيطرة البشرية مع وصول الأنظمة إلى مستويات أعلى من الاستقلالية والقدرة على تنفيذ المهام؟

ومع استمرار السباق بين الشركات الأمريكية والصينية، قد يتحول تنظيم سرعة تطوير الذكاء الاصطناعي من نقاش داخل مختبرات التكنولوجيا إلى ملف اقتصادي وأمني وسياسي عالمي.