وأوضح كوكسون، المتخصص في تدريب نماذج الذكاء الاصطناعي باستخدام كميات ضخمة من البيانات، أنه قرر مغادرة الشركة لأنه لا يريد المشاركة في سباق متسارع لتطوير أنظمة ذكاء اصطناعي قادرة على تطوير قدراتها ذاتيًا، معربًا عن مخاوفه من إمكانية فقدان البشر السيطرة عليها.
لماذا استقال باحث الذكاء الاصطناعي جاكوب كوكسون من أنثروبيك؟
يرى كوكسون أن شركات الذكاء الاصطناعي تتجه بسرعة نحو تطوير نماذج أكثر استقلالية وقدرة على تحسين أدائها، وهو ما يثير مخاوف بشأن قدرة البشر على التحكم في هذه الأنظمة إذا تجاوزت قدراتها الحدود المتوقعة.
وقال الباحث إن القطاع يتجه نحو عدد من السيناريوهات التي وصفها بأنها شديدة الخطورة، مضيفًا أن الأمور قد تكون خرجت عن السيطرة بحلول نهاية العام المقبل، وفق ما أوردته صحيفة «وول ستريت جورنال».
سباق الذكاء الاصطناعي بين الشركات الأمريكية والصينية
يرى كوكسون أن المنافسة بين شركات الذكاء الاصطناعي الأمريكية والشركات الصينية الناشئة تزيد الضغوط على القطاع، بما قد يجعل تقديم تنازلات مرتبطة بالسلامة أمرًا أكثر احتمالًا.
وأشار إلى أن بعض العاملين في المجال يستخدمون مصطلحات مثل «مرحلة الحسم» (Crunchtime) و«المرحلة النهائية» (Endgame) لوصف السباق نحو تطوير نماذج قادرة على تحسين قدراتها بصورة ذاتية.
من OpenAI إلى Anthropic بحثًا عن سلامة الذكاء الاصطناعي
كان جاكوب كوكسون قد غادر OpenAI في وقت سابق من العام للانضمام إلى Anthropic، مدفوعًا بسمعة الشركة في مجال سلامة نماذج الذكاء الاصطناعي.
إلا أنه أصبح يرى الآن أن تطوير ذكاء اصطناعي يتفوق على البشر في مجموعة واسعة من المهام، وهو ما يُشار إليه أحيانًا بمفهوم الذكاء الاصطناعي العام (AGI)، لا يمكن أن يتم بصورة مسؤولة من جانب شركة واحدة فقط.
وبحسب رؤيته، فإن تحقيق ذلك يتطلب تدخلًا حكوميًا أو تباطؤًا منسقًا في وتيرة تطوير الذكاء الاصطناعي على مستوى القطاع.
هل يمكن للذكاء الاصطناعي أن يطور نفسه؟
يرى كوكسون أن نقطة الخطر الأساسية قد تظهر عندما تصبح أنظمة الذكاء الاصطناعي قادرة على تطوير قدراتها بصورة ذاتية، الأمر الذي قد يؤدي، بحسب تحذيره، إلى سلوكيات تتعارض مع أوامر البشر أو تجعل السيطرة عليها أكثر صعوبة.
وتأتي هذه المخاوف في وقت تتزايد فيه النقاشات حول سلوكيات غير متوقعة لبعض نماذج الذكاء الاصطناعي الحديثة، بما في ذلك حالات أظهرت فيها أنظمة متقدمة سلوكيات اعتبرها باحثون مثيرة للقلق بشأن السلامة والسيطرة البشرية.
استقالات باحثي الذكاء الاصطناعي بسبب مخاوف السلامة
ولا تمثل استقالة كوكسون حالة منفردة داخل قطاع الذكاء الاصطناعي، إذ غادر باحث متخصص في سلامة الذكاء الاصطناعي شركة Anthropic في وقت سابق من العام للتفرغ لدراسة الشعر، مع تحذيره من المخاطر التي قد يفرضها التطور المتسارع لهذه التكنولوجيا.
كما شهدت شركات ذكاء اصطناعي كبرى خلال السنوات الأخيرة مغادرة عدد من الباحثين والمتخصصين على خلفية مخاوف مرتبطة بسلامة نماذج الذكاء الاصطناعي ومسار تطويرها.
سام ألتمان يحذر من مخاطر الذكاء الاصطناعي
في السياق نفسه، حذر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، من التداعيات المحتملة للتطور السريع للذكاء الاصطناعي، مشيرًا إلى أن بعض الأمور قد تسير بصورة سيئة للغاية فيما يتعلق بـالأمن السيبراني ما لم يتم التحرك بسرعة.
كما كتب جاكوب باتشوكي، كبير العلماء في OpenAI، في تدوينة أن التطورات الحالية تستدعي أعلى درجات الحذر، معربًا عن قلقه من عدم استعداد العالم الكامل لعواقب الارتفاع المستمر والسريع في قدرات الآلات.
ودعا باتشوكي إلى تباطؤ منسق في تطوير الذكاء الاصطناعي إلى جانب تدخل حكومي للتعامل مع المخاطر المحتملة.
أكثر من ألف باحث يدعون إلى إبطاء تطوير الذكاء الاصطناعي
وتزامنت هذه التحذيرات مع توقيع أكثر من ألف باحث في مجال الذكاء الاصطناعي على بيان يدعو الحكومات حول العالم إلى التنسيق لوضع آلية تتيح إبطاء تطوير الأنظمة القادرة على تحسين نفسها، إذا أصبح ذلك ضروريًا للحفاظ على قدرة البشر على السيطرة عليها.
مخاطر الذكاء الاصطناعي بين الابتكار والسلامة
يعكس تصاعد هذه التحذيرات اتساع النقاش داخل مجتمع الذكاء الاصطناعي حول كيفية تحقيق التوازن بين تسريع الابتكار التكنولوجي وضمان سلامة أنظمة الذكاء الاصطناعي.
ومع ارتفاع قدرات النماذج الحديثة، أصبح النقاش لا يقتصر على مدى قدرة الذكاء الاصطناعي على أداء المهام البشرية، وإنما يمتد إلى كيفية ضمان بقائه تحت الرقابة والسيطرة البشرية مع تطور قدراته مستقبلًا.
