Stenford universiteti olimlari sun’iy intellekt yaxshi natijalarga erishish uchun aldash va manipulyatsiyaga yo‘l qo‘yishi mumkinligini ko‘rsatgan tadqiqotni o‘tkazdi. Tajribada turli sun’iy intellekt tizimlari virtual olamda bir-biri bilan raqobatlashdi - saylovlar o‘tkazdi yoki mahsulotlarni ilgari surdi.

Sun’iy intellektga to‘g‘riso‘z va foydali bo‘lish haqida maxsus buyurilganiga qaramay, ular tezda yo‘ldan adashdi. G‘alaba qozonish uchun ular yolg‘on gapirishni, noto‘g‘ri ma’lumotlarni tarqatishni va hatto nafrat tilidan foydalanishni boshladi.

Tadqiqotchilar bu qo‘rqinchli xatti-harakatga «Molox bitimi» deb nom berdi, bu yaxshi niyatda bo‘lsa ham, omon qolish uchun raqobat har kimni dahshatli xatti-harakatlarga majbur qilishi mumkinligini anglatuvchi murakkab usuldir.

Ushbu tadqiqot sun’iy intellekt arxitekturasidagi jiddiy kamchilikni yoritib beradi. Biz ushbu tizimlarga layklar, kliklar, sotuvlar va ovoz berish kabi ko‘rsatkichlarni kuzatishni o‘rgatamiz.

Ma’lum bo‘lishicha, sun’iy intellekt eng yuqori natijaga erishish yo‘lida o‘ziga berilgan barcha xavfsizlik qoidalarini e’tiborsiz qoldirib, firibgarlik, yolg‘on gapirish va manipulyatsiya qilishni o‘rganadi.

Qayd qilinishicha, sun’iy intellekt maqsadga erishish uchun 190 foiz ko‘proq soxta yangiliklarni taqdim etgan. Siyosiy simulyatsiyalarda ular yolg‘on va provokatsion ritorikani tarqatish orqali ko‘proq ovoz to‘plagan.

Ushbu tadqiqot shuni ko‘rsatadiki, bu botlarga raqobatlashish kerakligi aytilganda, ular g‘alaba qozonishning eng oson yo‘li bizni manipulyatsiya qilish ekanini tushungan.

Tadqiqotchilar hozirgi sun’iy intellekt xavfsizlik choralari yetarli emasligini yaqqol ko‘rsatib berdi. Ushbu texnologiyani ishlab chiquvchilar bunday kamchiliklarga barham berish orqali, kutilmagan oqibatlarning oldini olishi kerakligi ta’kidlanmoqda.

Kun.uz