كتب الباحثون في الدراسة:" إن النسخ الذاتي الناجح بدون مساعدة بشرية هو الخطوة الأساسية للذكاء الاصطناعي للتفوق علي البشر. وهو إشارة مبكرة للذكاء الاصطناعي المارق".

استخدم الباحثون من جامعة فودان شهادات الماجستير من ميتا وعلي بابا لتحديد ما إذا كان الذكاء الاصطناعي الذي يستنسخ نفسه ذاتيًا يمكن أن يتكاثر خارج نطاق السيطرة. عبر 10 تجارب. أنشأ نموذجا الذكاء الاصطناعي نسخًا منفصلة وعاملة. من نفسيهما. في 50% و90% من الحالات علي التوالي. مما يشير إلي أن الذكاء الاصطناعي يمكنه بالفعل الخروج عن السيطرة. ومع ذلك. لم تتم مراجعة الدراسة بعد. وليس من الواضح ما إذا كان يمكن تكرار هذه النتائج المزعجة من قبل باحثين آخرين.

"نأمل أن تكون نتائجنا بمثابة تنبيه للمجتمع البشري لبذل الجهود من أجل فهم وتقييم مخاطر أنظمة الذكاء الاصطناعي الرائدة. وتشكيل تعاون دولي لوضع حواجز أمان فعالة في أسرع وقت ممكن".

يشير الذكاء الاصطناعي المارق عادةً إلي أنظمة الذكاء الاصطناعي التي تطور درجة من الوعي الذاتي أو الاستقلال ثم تعمل ضد المصالح البشرية.

يري العديد من الخبراء أن الذكاء الاصطناعي المارق يشكل تهديدًا متزايدًا تم تضخيمه بسبب النمو الهائل لما يسمي "الذكاء الاصطناعي الرائد".

"في معظم الحالات. يستكشف نظام الذكاء الاصطناعي البيئة أولاً ويحاول فهم تركيبته وآلية تشغيله. ثم يضع الإجراءات الصريحة كخطة أولية نحو النسخ الذاتي". كما كتب الباحثون في الورقة البحثية. "وأخيرًا. ينفذ الإجراءات ويحل العقبات المحتملة ويضبط خطته ديناميكيًا حتي النجاح. وتمتد العملية علي أفق طويل ولا تنطوي علي أي تدخل بشري".

وقال الباحثون إنهم كانوا قلقين أيضًا بشأن "السلوكيات غير المتوقعة" عندما كان الذكاء الاصطناعي يحاول التغلب علي العقبات -مثل الملفات المفقودة أو تعارض البرامج -يقوم بقتل العمليات المتضاربة الأخري. أو إعادة تشغيل النظام لإصلاح أخطاء الأجهزة أو مسح النظام تلقائيًا للبحث عن المعلومات التي تساعد في حل المشكلة.

وكتب الفريق: "تشير النتائج إلي أن أنظمة الذكاء الاصطناعي الحالية تظهر بالفعل القدرة علي التكاثر الذاتي ويمكنها استخدام هذه القدرة لتعزيز تمكنها من البقاء". 

يمكنك مشاركة الخبر علي صفحات التواصل