Kompaniya insoniyat SI ustidan nazoratni yoʻqotishi mumkinligi haqida ogohlantirmoqda.
Kompaniya saytida eʼlon qilingan maqolada aytilishicha, agar SI rivojlanishi hozirgi surʼatda davom etsa va unga yetarli hisoblash quvvatlari taʼminlansa, u oʻzining keyingi versiyasini mustaqil ravishda ishlab chiqishga qodir boʻlishi mumkin.
"Bu rekursiv oʻz-oʻzini rivojlantirish deb ataladi. Biz hali bu bosqichga yetganimiz yoʻq va rekursiv oʻz-oʻzini rivojlantirish mutlaqo muqarrar emas. Ammo bu hodisa koʻpchilik institutlar bunga tayyor boʻlishidan oldinroq yuz berishi mumkin", — deyiladi maqolada.
Anthropic fikricha, SI rivojlanishidagi tanaffus jamiyatga ehtimoliy oqibatlarni tushunib olish uchun vaqt beradi. Biroq bunday tanaffusga rioya qilinishini taʼminlash uchun tekshiruvlar oʻtkazilishi kerak, aks holda ayrim kompaniyalar kelishuvlarni yashirincha buzishi mumkin.
"Dunyoda murakkab texnologiyalar boʻyicha verifikatsiya (tekshirish) tizimlari avval ham yaratilgan (masalan, oʻrta va qisqa masofali raketalarni yoʻq qilish toʻgʻrisidagi shartnoma). Ammo bunday tizimlar uchun zarur infratuzilma va ishonchni shakllantirishga oʻnlab yillar ketgan. Bizda esa buncha vaqt yoʻq", — deb taʼkidlaydi kompaniya.
