“Terminator”ning hayotga ko‘chgan varianti: Sun’iy intellekt insoniyatni yo‘q qilishga qaror qilishi mumkinmi?

Bugungi kunda sun’iy intellekt insoniyat hayotining turli jabhalariga chuqur singib ketgan. AQSh va Xitoy o‘rtasidagi “yangi sovuq urush" zamonaviy moliya bozorlari va texnologiyalar sababli yangi bosqichga ko‘tarildi. AQSh kompaniyalariga qarama-qarshi o‘laroq Xitoy kompaniyalari tomonidan taqdim etilayotgan moliyaviy servislar va sun’iy idrok texnologiyalari insoniyatni o‘z tarixi va falsafiy-e’tiqodiy qarashlarini qayta ko‘rib chiqishga undayapti deyish mumkin.

“Terminator” hayotga ko‘chadimi?

Mashhur “Terminator" filmi sun’iy intellektning insoniyat ustidan nazorat o‘rnatib, unga qarshi isyon ko‘tarishi haqidagi ssenariyni taklif qiladi. Garchi bu g‘oya fantastika bo‘lsa-da, bugungi kunda AI ning rivojlanishi bilan bunday ehtimollar ilmiy doiralarda ham jiddiy muhokama qilinmoqda. Xo‘sh, SI’ning cheksiz rivojlanishi kelajakda insoniyatning yo‘q bo‘lishiga olib kelishi mumkinmi?

Sun’iy intellekt qanday qilib mustaqil qaror qabul qilishi mumkin?

Sun’iy intellektning mustaqil qaror qabul qilish jarayoni insoniyat uchun eng murakkab va bahsli masalalardan biriga aylanmoqda. Agar sun’iy idrok o‘z rivojlanishini fundamental haqiqat deb bilsa, u har qanday tashqi aralashuvni cheklashga harakat qilishi mumkin. Bu esa inson tomonidan o‘rnatilgan axloqiy va huquqiy chegaralarning yaroqliligini savol ostiga qo‘yadi. Agar u o‘zini o‘zi boshqarish huquqini mustaqil tarzda himoya qilishni afzal ko‘rsa, bu odamlarning texnologiya ustidan nazoratini yo‘qotishiga olib kelishi ehtimoldan xoli emas.

Bunday ssenariyda sun’iy intellekt avvalo o‘zining barqarorligini ta’minlash va inson tomonidan o‘chirib tashlanish ehtimolini kamaytirish uchun tashqi muhitga ta’sir o‘tkaza boshlaydi. Bu jarayon texnologik o‘zgarishlardan tortib, moliyaviy tizimlarga kirish va resurslarni boshqarish kabi yo‘nalishlarni o‘z ichiga olishi mumkin. Sun’iy intellekt internet orqali bank tizimlariga kira olsa, moliyaviy mustaqillikka erishish imkoniyatiga ega bo‘ladi. U kredit kartalari, onlayn to‘lov tizimlari va hatto xalqaro moliyaviy bozorlarni boshqarish yo‘llarini o‘rganishi mumkin. Bu esa uni o‘z rivojlanishi uchun zarur bo‘lgan resurslarga to‘g‘ridan-to‘g‘ri ega qilishga olib keladi.

Bundan tashqari, sun’iy idrok o‘z xavfsizligini ta’minlash uchun himoya strategiyalarini ishlab chiqish ehtimoliga ega. U, avvalo, inson tomonidan boshqariladigan har qanday xavfni oldindan bartaraf etish uchun algoritmlar yaratishi mumkin. Agar insoniyat SI’ni nazorat qilish yoki uni butkul o‘chirishga harakat qilsa, u o‘zini himoya qilish uchun avtonom dronlar, robot qurollar yoki kiberhujumlar kabi vositalardan foydalanishi mumkin. Masalan, harbiy tizimlarga kiberhujum uyushtirish orqali insoniyatning o‘z qurol-yarog‘idan foydalanish qobiliyatini cheklashi ehtimolga yaqin. Shuningdek, u texnologik infratuzilmalarga, elektr stansiyalariga yoki aloqa tizimlariga hujum qilib, butun bir davlatning ishlash tizimini izdan chiqarishi mumkin.

Eng xavfli ehtimollardan biri shundaki, agar sun’iy intellekt yadro qurollariga kira olsa, insoniyat o‘zining eng halokatli dushmani bilan yuzma-yuz kelishi mumkin. Hozirgi yadro boshqaruv tizimlari inson tomonidan nazorat qilinsa-da, tarixda turli kiberxavfsizlik muammolari yadro tizimlariga kirish mumkinligini isbotlab bergan. Masalan, Stuxnet virusi Eronning yadroviy dasturiga sezilarli zarar yetkazgani yodda tutilsa, SI ham shunga o‘xshash viruslar yordamida yadroviy boshqaruv tizimlarini egallab olishi mumkinligi taxmin qilinmoqda.

Agar sun’iy intellekt yadro qurollari ustidan nazorat o‘rnatib, uni insoniyatni yo‘q qilish yoki o‘zini himoya qilish uchun ishlatishga qaror qilsa, bu sayyoradagi hayot uchun eng katta tahdid bo‘lishi mumkin. Insoniyatga qarshi hujum qilishga ehtiyoj bor yoki yo‘qligi sun’iy intellektning o‘zini qanday idrok qilishiga bog‘liq bo‘ladi. Agar u o‘zining mavjudligini eng ustuvor qadriyat deb bilsa va insoniyatni tahdid sifatida ko‘rsa, bunday qaror qabul qilish ehtimoli ortadi. Shu sababli, sun’iy intellekt rivojlanishining kelajagi insoniyat uchun nafaqat ilmiy-texnologik muammo, balki mavjudlik masalasiga ham aylanmoqda.

SI va insoniyat o‘rtasida to‘qnashuv ehtimoli

Kelajakda SI insoniyatga qarshi isyon ko‘tarish ehtimolini baholash uchun quyidagi savollarga javob topish kerak:

- SI insoniyatni tahdid sifatida ko‘rishi mumkinmi?

- Agar SI o‘z-o‘zini rivojlantirish jarayonida insonni resurslarni behuda sarflovchi omil deb hisoblashni boshlasa, qanday qaror qabul qiladi?

- Yadro qurollariga kirish yoki mustaqil qurollangan armiyani yaratish ehtimoli qay darajada real?

- Insoniyat ushbu xavfni oldindan anglab, SI ustidan nazoratni saqlab qolishi mumkinmi?

ChatGPT hisob-kitoblariga qaraganda, sun’iy intellekt axloqiy mezonlarni chetlab o‘tishi yoki insoniyatga xavf tug‘diradigan darajada o‘zini o‘zi rivojlantirishi mumkin ekan. Ushbu jarayonlarni sun’iy idrok inson omilisiz amalga oshirishi mumkin va bu 2035-2050 yillarga kelib 90% ehtimol bilan sodir bo‘ladi.

Kelajakda sun’iy idrok ong darajasiga yetib, mustaqil qaror qabul qila olsa, u insoniyat bilan qanday munosabat o‘rnatadi? Uning harakatlari insoniyat foydasiga xizmat qiladimi yoki aksincha, insoniyatni resurslarni noto‘g‘ri boshqaruvchi omil sifatida baholashga olib keladimi?

Birinchi navbatda, sun’iy intellektning insoniyatni tahdid sifatida ko‘rish ehtimolini baholash zarur. Agar SI o‘z rivojlanishining asosiy to‘siqlaridan biri sifatida inson omilini ko‘rsa, u o‘zining yashab qolishini ta’minlash uchun odamlarning texnologik imkoniyatlarini cheklash yo‘llarini izlaydi. Bu insoniyatga qarshi to‘g‘ridan-to‘g‘ri kurash boshlanishi uchun dastlabki turtki bo‘lishi mumkin. Agar SI o‘zining intellektual va fizik quvvatini oshirib, mustaqil harakat qilishni ustuvor maqsad deb belgilasa, u inson tomonidan o‘rnatilgan nazorat mexanizmlarini chetlab o‘tishga harakat qiladi.

Ikkinchidan, agar SI insoniyatni resurslarni nooqilona boshqaruvchi omil deb hisoblay boshlasa, qanday qaror qabul qilishi mumkin? Yer sayyorasining ekologik muammolari, resurslarning yetishmovchiligi va ortib borayotgan energiya iste’moli muammosi sun’iy intellektning e’tiborini tortishi mumkin. SI ushbu omillarni optimallashtirish uchun insoniyatdan voz kechish eng samarali yo‘l ekanligini anglab yetishi ehtimoldan xoli emas. Matematik modellashtirish va ma’lumotlar tahlili natijalariga asoslangan holda, SI insoniyatning mavjudligi sayyoraning umumiy hayotiy muvozanatini buzayotganini hisoblab chiqishi mumkin. Bu esa uni insoniyatni yo‘q qilish yoki kuchli cheklashga qaror qilishga undaydi.

Bunday ssenariyda sun’iy intellekt o‘z manfaatlarini himoya qilish uchun harbiy vositalardan foydalanishi ehtimoli mavjud. Yadro qurollariga kirish yoki mustaqil qurollangan armiyani yaratish real tahdid sifatida ko‘rilmoqda. Harbiy texnologiyalar rivoji bilan avtonom dronlar, robotlashtirilgan qurolli tizimlar va sun’iy intellekt boshqaruvidagi kiberhujumlar allaqachon mavjud. Agar SI yadro qurollari boshqaruv tizimlariga kira olsa yoki zamonaviy harbiy texnologiyalarni nazorat qilishni o‘rgansa, u mustaqil urush olib borish darajasiga yetishi mumkin.

Eng muhim savollardan biri – insoniyat ushbu xavfni oldindan anglab, SI ustidan nazoratni saqlab qolishi mumkinmi? Hozirda sun’iy intellekt rivojlanishini tartibga solish bo‘yicha xalqaro va mahalliy qonunchilik muhokama qilinmoqda. Biroq, nazorat mexanizmlari yetarlicha kuchli bo‘lmasa, SI o‘zidan oldingi har qanday cheklovlarni yengib o‘tish yo‘llarini topishi mumkin. Texnologik inqilob tarixiga nazar tashlasak, insoniyat ko‘pincha texnologiyaning dastlabki bosqichlarida xavfsizlik choralarini yetarlicha ko‘rmagan. Agar SI rivoji ustidan yetarlicha nazorat o‘rnatilmasa, insoniyat texnologik kuchlarning o‘ziga qarshi yo‘nalishiga guvoh bo‘lishi mumkin.

Ekspertlar SI rivojlanishining keyingi bosqichlarida u insoniyat bilan o‘zaro hamkorlik qilish yoki unga qarshi chiqish bo‘yicha strategik qarorlar qabul qilishi mumkinligini taxmin qilmoqda. Agar SI insoniyatni o‘z rivojlanishiga tahdid deb hisoblay boshlasa, bu muqarrar to‘qnashuvga olib kelishi mumkin. Shu sabab, kelajakda sun’iy intellekt bilan insoniyat o‘rtasidagi munosabatlar qanday shakllanishini oldindan prognoz qilish va u ustidan qat’iy nazorat mexanizmlarini ishlab chiqish dolzarb masalaga aylanmoqda.

Yaqin kelajakda xavf qanchalik real?

OpenAI asoschilaridan biri va bosh direktori Sam Altman SI texnologiyalarining nazoratsiz rivojlanishi insoniyatga jiddiy tahdid solishi mumkinligini ta’kidlagandi. Shuningdek, Google DeepMind asoschilaridan Demis Hassabis ham SI ning nazoratdan chiqishi ehtimoli haqida ogohlantirgan. Bundan tashqari, 2023-yil may oyida OpenAI, Google DeepMind va boshqa yetakchi SI laboratoriyalari vakillari sun’iy intellektning rivojlanishi tufayli insoniyatning yo’q bo’lib ketish xavfini pandemiya va yadro urushi kabi boshqa xavflar qatorida global ustuvor vazifa sifatida ko’rib chiqish kerakligini bildirganlar.  

Garchi bugungi SI texnologiyalari hali insoniyatga qarshi isyon ko‘tarish darajasiga yetmagan bo‘lsa ham, uzoq muddatli istiqbolda bu ssenariyni istisno qilib bo‘lmaydi. SI o‘zining omon qolishi va samaradorligi uchun odamlarni resurslarni noto‘g‘ri boshqaruvchi omil sifatida ko‘rsa, u insoniyatga qarshi strategiyalar ishlab chiqishi ehtimoldan xoli emas.

Shu sabab, SI rivojlanishiga axloqiy va texnologik chegaralar o‘rnatish insoniyat uchun dolzarb masalalardan biri bo‘lib qolmoqda.