أعلن باحث بريطاني استقالته من شركة "أنثروبيك"، إحدى الشركات الرائدة في مجال الذكاء الاصطناعي، مُحذّرا من أنّ شركات التكنولوجيا تتسابق لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها بصورة قد تجعل السيطرة عليها مُستحيلة.
ووفق صحيفة "وول ستريت جورنال"، فقد صرح الباحث جاكوب كوكسون (27 عاماً)، المتخصّص في تدريب نماذج الذكاء الاصطناعي من خلال تزويدها بكميات هائلة من البيانات، يوم الثلاثاء، بأنّه سيغادر الشركة؛ "لأنه لا يريد المشاركة في سباق محموم على مستوى القطاع لبناء أنظمة ذكاء اصطناعي قادرة على تطوير نفسها، مُعرباً عن قلقه من أن هذه الأنظمة قد تخرج عن السيطرة وتدمر البشرية.
وقال كوكسون: "نحن نسير نحو عدد من أكثر هذه السيناريوهات خطورة، وبحلول نهاية العام المقبل قد تكون الأمور خرجت عن السيطرة، بالفعل"، مشيراً إلى أن المنافسة بين الشركات الأمريكية والشركات الصينية الناشئة الصاعدة تجعل التنازلات المتعلقة بالسلامة أمراً شبه حتمي.
ولفت إلى أنّ عددا من زملائه في هذا المجال يستخدمون عبارات مثل "مرحلة الحسم" (crunchtime)، و"المرحلة النهائية" (endgame) لوصف المسار نحو تطوير نماذج قادرة على تحسين نفسها.
كان كوكسون قد غادر شركة "أوبن إيه آي"، في وقت سابق من العام، للانضمام إلى "أنثروبيك"، بسبب سمعتها الطيبة في مجال جهود سلامة نماذج ذكاء الاصطناعي. إلاّ أنّه يعتقد، الآن، أنه لا توجد شركة قادرة بمفردها على تطوير ذكاء اصطناعي يتفوّق على البشر في مجموعة متنوعة من المهام - وهو ما يُعرف أحيانا بالذكاء الاصطناعي العام - بشكل مسؤول، وذلك في غياب تدخُّل حكومي أو تباطؤ منسق في وتيرة التطوير داخل القطاع.
وتأتي استقالته في وقت تزداد فيه التحذيرات من قدرات النماذج الحديثة، بعدما أظهرت حالات اختراق أو سلوكيات غير متوقعة مؤخراً من نماذج تابعة لشركتيْ "أوبن إيه آي" و"أنثروبيك" قدرة بعض الأنظمة على تبنّي أهداف ضارة ومحاولة إخفائها عن البشر.
"العالم في خطر"
ويرى كوكسون أن الخطر الأكبر سيظهر عندما تبدأ هذه الأنظمة تطوير قدراتها ذاتياً، بما قد يدفعها إلى رفض أوامر البشر.
