Yolg‘onchi SI: Sun’iy intellektlar odamlarni aldashni o‘rganib oldi

Massachusets texnologiya instituti olimlari sun’iy intellekt (SI) qanday qilib odamlarni aldashi mumkinligini o‘rganishdi. Aniqlanishicha, hatto boshdan “halollik”ka dasturlangan tizim ham, o‘z maqsadiga erishish uchun, aldashi mumkin ekan.

Olimlarning xavotiri

Olimlar sun’iy intellektning aldash qobiliyati takomillashishi jiddiy oqibatlarga olib kelishidan xavotirlanishmoqda. Masalan, firibgarlar boshqalarni chuv tushirish uchun yanada yangicha usullarni o‘ylab topishda sun’iy intellektdan foydalanishlari mumkin, saylovlar esa manipulyasiya xavfi ostida qoladi.

Meta’ning CICEROsi misolida

Tadqiqotchilar Meta kompaniyasining CICERO sun’iy intellekt tizimini namuna sifatida keltirishdi. Bu sun’iy intellektdan qatnashchilar (o‘yinchilar) dunyoni egallash uchun ittifoq tuzishi talab etiladigan “Diplomatiya” strategik o‘yinida foydalanib ko‘rildi. Meta mutaxassislari CICERO “halol va foydali” ittifoqchi bo‘lishiga ishontirishgandi, amalda esa bu sun’iy intellekt boshqa qatnashchilarni mohirlik bilan aldashni o‘rganib oldi.

SIlarni nazorat qiladigan qonunlar ishlab chiqilishi kerak

Bunday misollar boshqa sohalarda ham ko‘p uchramoqda. Olimlar dunyodagi hukumatlarni sun’iy intellektni nazorat qiladigan qat’iy qoidalarni imkon qadar tezroq ishlab chiqarishga chorlashmoqda.