Sunʼiy intellekt yaqin orada inson nazoratidan chiqib ketishi mumkin: Olimlar eng kuchli SI modellarini toʻxtatishni soʻramoqda

Dunyoning eng yirik SI kompaniyalaridan biri kutilmagan bayonot bilan chiqdi. Unga ko‘ra, sun’iy intellekt yaqin kelajakda inson nazoratidan chiqib ketishi mumkin. Shu sabab kompaniya eng kuchli SI modellarini yaratishni vaqtincha sekinlashtirish yoki hatto to‘xtatish g‘oyasini ilgari surmoqda. Biroq bu fikr hamma tomonidan ham qo‘llab-quvvatlanmayapti.

Xo‘sh, SI poygasini to‘xtatish mumkinmi?

SI rivojlanishini sekinlashtirish taklifi

Claude sun’iy intellektini yaratgan Anthropic kompaniyasi eng ilg‘or SI tizimlarini ishlab chiqishni vaqtincha sekinlashtirish dunyo uchun foydali bo‘lishi mumkinligini ma’lum qildi. Kompaniyaning fikricha, texnologiya shu qadar tez rivojlanmoqdaki, jamiyat, qonunlar va xavfsizlik mexanizmlari uning ortidan yetib bora olmayapti.

Biroq Anthropic bir kompaniyaning o‘zi to‘xtab qolishi muammoni hal qilmasligini aytmoqda. Agar faqat bitta kompaniya rivojlanishni sekinlashtirsa, qolgan raqobatchilar oldinga o‘tib ketadi. Shu sababli bunday qaror AQSh, Xitoy va boshqa yirik davlatlardagi kompaniyalar tomonidan bir vaqtning o‘zida qabul qilinishi kerak. Kompaniya bunga erishish uchun xalqaro nazorat va tekshiruv tizimlari ham zarurligini ta’kidlamoqda.

Anthropicning bu chaqirig‘i hamma tomonidan birdek qabul qilinmadi. Ayrim texnologiya kompaniyalari va Oq uy vakillari kompaniya xavflarni bo‘rttirib ko‘rsatayotganini va bu orqali raqobatchilarni sekinlashtirmoqchi ekanini aytmoqda. Shunga qaramay, AQSh hukumati Anthropic yaratgan Mythos modeli juda kuchli ekanini tan olgan. Hatto uning kiberxavfsizlik imkoniyatlari sabab model hozircha keng jamoatchilikka taqdim etilmagan va faqat cheklangan tashkilotlar foydalanmoqda.

AQSh va Xitoy o‘rtasidagi SI poygasi

Sun’iy intellekt bugungi kunda dunyodagi eng muhim texnologik poygalardan biri hisoblanadi. Shu sabab AQShdagi ko‘plab siyosatchilar va texnologiya yetakchilari rivojlanishni sekinlashtirish Xitoyga ustunlik berib qo‘yishi mumkinligidan xavotirda.

Shunga qaramay, AQSh prezidenti Donald Tramp yaqinda Pekinga tashrifi chog‘ida Xitoy bilan SI xavfsizligi bo‘yicha hamkorlik masalasini muhokama qilganini aytdi. Bundan tashqari, u yangi farmonni imzolab, eng kuchli Amerika SI modellarini ommaga chiqarishdan oldin hukumatga ularni 30 kun davomida dastlabki tekshiruvdan o‘tkazish vakolatini berdi.

Anthropicning fikricha, global kelishuvsiz kompaniyalar va hukumatlar xavfsizlik masalalarini geosiyosiy va iqtisodiy bosimlar ostida hal qilishga majbur bo‘ladi. Bu esa kelajakda yanada murakkab vaziyatlarni yuzaga keltirishi mumkin.

SI o‘zini o‘zi rivojlantira boshlaydimi?

Anthropicning eng katta xavotiri sun’iy intellektning o‘zini o‘zi takomillashtirish imkoniyatlari bilan bog‘liq. Kompaniya ma’lumotlariga ko‘ra, SI allaqachon yangi SI tizimlarini yaratish jarayonini sezilarli darajada tezlashtirmoqda.

Bu esa olimlar “rekursiv o‘z-o‘zini rivojlantirish” deb ataydigan holatga olib kelishi mumkin. Ya’ni sun’iy intellekt inson yordamisiz o‘zini yanada aqlli qilishni o‘rganib oladi. Anthropic hozircha bunday bosqichga yetilmaganini va bu jarayon muqarrar emasligini tan olmoqda. Ammo kompaniya bu holat ko‘pchilik hukumatlar va institutlar kutganidan ham tezroq yuz berishi mumkinligini aytmoqda.

Anthropic bu vaziyatni yadroviy qurollarni nazorat qilish bo‘yicha xalqaro kelishuvlarga qiyoslaydi. Biroq SI bilan bog‘liq vaziyat yanada murakkabroq, chunki raketa shaxtalarini yashirish qiyin bo‘lsa, sun’iy intellektni o‘qitish jarayonlarini yashirin davom ettirish ancha oson.

Shu bois kompaniya yaqin oylarda hukumat vakillari, olimlar, jamoatchilik tashkilotlari va boshqa SI kompaniyalarini bir joyga to‘plab, xavfsiz rivojlanish qoidalarini ishlab chiqishni rejalashtirmoqda. Anthropic hisobotida sun’iy intellekt yaratish jarayonining deyarli har bir bosqichida insonning roli asta-sekin kamayib borayotgani ham ta’kidlangan. Kompaniya aynan mana shu tendensiya eng katta savollarni keltirib chiqarayotganini ta’kidlamoqda.