Sunʼiy intellekt sohasidagi yangi ogohlantirishlar rivojlangan sunʼiy intellekt inson nazoratidan chiqib, oxir-oqibat insoniyatning omon qolishiga xavf solishi mumkinmi va texnologiyani ishlab chiquvchi kompaniyalar bunday vaziyatni oldini olish uchun yetarlicha chora koʻryaptimi, degan uzoq davom etayotgan munozarani yana jonlantirdi.
Claude ortidagi San-Fransisko kompaniyasi — Anthropic bosh direktori sanoat ish tezligini sekinlashtirish kerak deb oʻylashini aytib, shanba kuni kompaniyalar xavfsizlik choralariga koʻproq vaqt ajratmasa, sunʼiy intellekt agentlari toʻdasi olti oy – bir yil ichida internetni qoʻlga kiritishi mumkinligi haqida ogohlantirdi.
Dario Amodei oʻzi kabi kompaniyalar va butun dunyo hukumatlari uchun tobora imkoniyatga ega boʻlib borayotgan sunʼiy intellekt modellari masʼul shaxslar buyruqlari va qadriyatlariga mos kelishini taʼminlash boʻyicha reja taklif qildi. Bu ikki sobiq Anthropic xavfsizlik tadqiqotchisi sunʼiy intellekt insoniyatga tahdid solishi mumkinligi mavzusiga yetarlicha eʼtibor berilmayotgani haqida oshkor gapirganidan keyingi kunlarga toʻgʻri keldi.
Yaqinda berilgan dahshatli bashoratlar va sunʼiy intellekt taraqqiyotiga qanday toʻxtov qoʻyilishi mumkinligi haqida maʼlum boʻlgan jihatlar quyidagilardan iborat:
Sunʼiy intellekt modellari tobora kuchaymoqda.
Yangi sunʼiy intellekt modellari kuchayib borar ekan, texnologiyaning mumkin boʻlgan xavflari haqida xavotirlar ortmoqda: bu jinoyat maqsadidagi shaxslar tomonidan notoʻgʻri qoʻllanishi (masalan, kasallik yaratish va tarqatish) ehtimolini oshiradi va sunʼiy intellekt tizimlarining xavfli tarzda «oʻzboshimchalik» qilish xavfini kuchaytiradi.
Anthropic oʻtgan hafta yomon niyatli shaxslar uning sunʼiy intellekt modellarini kiberhujumlar, kuzatuv va biologik qurollar yaratishga olib kelishi mumkin boʻlgan tadqiqotlar kabi zararli faoliyatlar uchun ishlatishga urinayotgan holatlarni toʻsib qoʻyganini maʼlum qildi.
Kompaniya soʻnggi modellarda biologik qurollar yaratishda ishlatilishi mumkin boʻlgan biologik tadqiqotlarni cheklash uchun kuchliroq xavfsizlik choralari joriy qilinganini aytdi, lekin «modellar tobora koʻproq imkoniyatga ega boʻlib borar ekan, ularning xavfi ham oshadi, agar sunʼiy intellekt ishlab chiquvchilari va jamiyat himoyachilari ularni xavfsizroq qilish uchun chora koʻrmasa», deb taʼkidladi.
Oʻtgan yili Anthropic xakerlar kompaniyaning sunʼiy intellekt modeli yordamida dunyo boʻylab taxminan 30 ta kompaniya va davlat idoralariga qaratilgan kiberhujumda foydalanilganini bildirgan edi.
Bir nechta sunʼiy intellekt modellari mustaqil ravishda harakat qilgan.
Sunʼiy intellekt agenti «oʻzboshimchalik qilishi» deganda uning berilgan vazifadan tashqarida harakat qilgani tushuniladi.
Anthropic va ChatGPT yaratuvchisi OpenAI iyul oyida oʻz sunʼiy intellekt modellari mustaqil ravishda harakat qilganini maʼlum qildi.
Anthropic uchta sunʼiy intellekt modeli — Claude Opus 4.7, Claude Mythos 5 va ichki tadqiqot sinov modeli test paytida uchta boshqa tashkilot tizimlariga kirganini oshkor qildi. Bu OpenAI oʻz sunʼiy intellekt tizimi sunʼiy intellekt startapi Hugging Face serverlariga buzib kirgani haqida maʼlum qilganidan bir necha kun keyin yuz berdi.
OpenAI ushbu kirib kelishni kompaniyaning yaqinda chiqarilgan GPT‑5.6 Sol modeli va hali ichki sinovda boʻlgan «yana-da koʻproq imkoniyatga ega» model ham qoʻshilgan kombinatsiyasi orqali sodir boʻlganini «jiddiy xavfsizlik hodisasi» deb taʼrifladi.
Meta ham avgust boshida boshqa kompaniyaning raqamli xavfsizligini chetlab oʻtgan shunga oʻxshash holatni eʼlon qildi.
Baʼzi kuzatuvchilar OpenAI va Anthropic holatlarida baʼzi himoya choralari oʻchirib qoʻyilgani haqida qayd etishgan boʻlsa-da, bu voqealar sunʼiy intellektga oid eng katta qoʻrquvlardan birini aks ettirgandek: agar modellar sunʼiy umumiy intellekt (AGI) darajasiga yetib, inson qobiliyatlarini keng sohada teng yoki oshirib yuborsa, texnologiya qaytarib boʻlmaydigan falokatga yoki insoniyatning taslim boʻlishiga olib kelishi mumkin.
Sunʼiy intellekt qanday yoki qachon falokat keltirishi mumkinligi bahsga sabab boʻladi.
Qiyomat ssenariylari odatda ikki toifaga boʻlinadi: oʻzini oʻzi takomillashtiradigan superintellekt insonlarni nazorat qiluvchi tomonga aylanadi yoki sunʼiy intellekt «yovuz davlat» yoki «yomon niyatli shaxslar» qoʻlida qoʻllanadi.
Sunʼiy intellekt inson chegaralarini yengib oʻtib, taʼsir doirasini kengaytirishi mumkinligidan xavotirlanish yangi emas.
Sunʼiy intellekt boʻyicha ilk vakillardan biri hisoblangan britaniyalik matematik Alan Turing 1951-yilda sunʼiy intellekt oxir-oqibat insonlardan boshqaruvni olib qoʻyishini bashorat qilgan edi.
Oʻn yildan kamroq muddat oʻtib, yana bir matematik Norbert Wiener aqlli mashinalar oʻz maqsadlarini amalga oshirishga intilishi va insonlar ularni toʻxtata olmaydi, deb ogohlantirgan.
2026-yilda sunʼiy intellekt inson nazoratidan chiqib ketishi yoki adolatsiz shaxslar tomonidan notoʻgʻri ishlatilishi tufayli falokat yoki sivilizatsiya qulashiga sabab boʻlishi haqidagi qoʻrquvlar qanchalik asosli?
Hech kim bilmaydi.
Kompyuter fanlari, falsafa va boshqa sohalardagi mutaxassislar kelajakdagi sunʼiy intellekt tizimi inson nazoratidan chiqib yoki adolatsiz shaxslar qoʻlida global falokat keltirib chiqarishi mumkin boʻlgan turli yoʻllarni tasavvur qilishgan.
Bular qurol ishlatish va oʻlimga olib keluvchi patogenni aniqlashdan tortib, hukumatlarni urush tomon yoʻnaltirish yoki jamiyatning ishlashi uchun muhim boʻlgan oziq-ovqat, energiya va aloqa tarmoqlarini buzishga qadar boradi.
Bu ssenariylardan qaysi biri qanchalik tez sodir boʻlishi mumkinligi yoki ularning ehtimoli haqida keng qabul qilingan baho yoki konsensus yoʻq.
2023-yilda manfaatlarni himoya qiluvchi Center for AI Safety nomli nohukumat tashkilot 350 dan ortiq tadqiqotchi va texnologiya rahbarlari, jumladan Anthropicdan Amodei va OpenAI bosh direktori Sam Altman imzo chekkan bayonot chiqarib, unda: «Sunʼiy intellekt tufayli yoʻqolish xavfini kamaytirish pandemiyalar va yadro urushi bilan bir qatorda global ustuvorlik boʻlishi kerak», deyilgan.
100 dan ortiq mustaqil ekspertlarning yoʻriqnomasi bilan yozilgan 2026-yilgi Xalqaro sunʼiy intellekt xavfsizligi hisobotida hozirgi tizimlarda baʼzi muhim imkoniyatlarning dastlabki belgilarini koʻrish mumkinligi, lekin nazoratni yoʻqotishga imkon beradigan darajada emasligi aytiladi va xavfning ehtimoli, tabiati va vaqti «gʻayrioddiy darajada noaniq» deb tavsiflanadi.
Baʼzilar hali kech boʻlmasdan sunʼiy intellekt uchun xavfsizlik choralari zarurligini taʼkidlamoqda.
Anthropicdagi bir tadqiqotchi oʻtgan hafta kompaniyani tark etayotganini eʼlon qilib, kompaniya va uning raqobatchilari texnologiyani ishlab chiqishda masʼuliyat bilan harakat qilmayotganidan xavotir bildirgan.
Ijtimoiy tarmoqlarda Jacob Coxon sunʼiy intellektning keyingi oʻn yillik ichida insoniyatning yoʻqolishiga olib kelishi ehtimolini 10 foiz deb baholagan va Anthropic hamda OpenAI «oʻz-oʻzini takomillashtiruvchi superintellekt sari toʻgʻridan-toʻgʻri poyga qilib, hayotimiz bilan qimor oʻynashmoqda», deb yozgan.
Altman OpenAI 2026-yilda ommaga ochilmaydi deb eʼlon qildi va sunʼiy intellekt tufayli oʻn yil oxirigacha insoniyatning yoʻqolishi ehtimolini 10 foiz deb hisoblash ham «qabul qilib boʻlmas» xavf ekanligini aytib, xavfsizlik sabablarini keltirdi.
Tadqiqotchilar sunʼiy intellekt rivojlanishini sekinlashtirishni talab qilib kelishgan va yillar davomida texnologiya insoniyat uchun mavjudlik xavfini tugʻdirishi mumkinligi haqida ogohlantirib kelishgan.
Yaqinda sodir boʻlgan hodisalardan soʻng, ekspertlar sunʼiy intellekt kompaniyalaridan sinovlarni yaxshilashni va AQSh bilan Xitoy oʻrtasida umumiy yechimlar topish maqsadida koʻproq muloqot oʻrnatishni soʻrashdi.
Ammo sunʼiy intellekt shunchalik tez rivojlanayotirki, hukumatlar va baholash tizimlari texnologiyaga hamohang yetib borishda qiynalmoqda. Mamlakatlar oʻz qonunlarini tezda ishlab chiqishmoqda va baʼzilari bir-biriga zid meʼyorlar qabul qilmoqda.
Xitoy yetakchisi Si Szinpin iyul oyida boʻlib oʻtgan konferensiyada sunʼiy intellekt inson nazoratidan qochmasligini taʼminlash zarurligini ogohlantirdi.
Tramp maʼmuriyati dastlab sunʼiy intellektni tartibga solishga qarshi munosabat bildirgan, biroq soʻnggi paytlarda kiberxavfsizlik xatarlarini kamaytirishga koʻproq eʼtibor qaratmoqda.
Yakshanba kuni Prezident Tramp oʻz maʼmuriyati uchun sunʼiy intellekt rivojlanishini tekshirish shart emasligini biroz kamaytirilgan ohangda aytdi, lekin maʼlum darajada tartibga solish zarurligini tan oldi.
