Стэнфорд университети олимлари сунъий интеллект яхши натижаларга эришиш учун алдаш ва манипуляцияга йўл қўйиши мумкинлигини кўрсатган тадқиқотни ўтказди. Тажрибада турли сунъий интеллект тизимлари виртуал оламда бир-бири билан рақобатлашди - сайловлар ўтказди ёки маҳсулотларни илгари сурди.

Сунъий интеллектга тўғрисўз ва фойдали бўлиш ҳақида махсус буюрилганига қарамай, улар тезда йўлдан адашди. Ғалаба қозониш учун улар ёлғон гапиришни, нотўғри маълумотларни тарқатишни ва ҳатто нафрат тилидан фойдаланишни бошлади.

Тадқиқотчилар бу қўрқинчли хатти-ҳаракатга «Молох битими» деб ном берди, бу яхши ниятда бўлса ҳам, омон қолиш учун рақобат ҳар кимни даҳшатли хатти-ҳаракатларга мажбур қилиши мумкинлигини англатувчи мураккаб усулдир.

Ушбу тадқиқот сунъий интеллект архитектурасидаги жиддий камчиликни ёритиб беради. Биз ушбу тизимларга лайклар, кликлар, сотувлар ва овоз бериш каби кўрсаткичларни кузатишни ўргатамиз.

Маълум бўлишича, сунъий интеллект энг юқори натижага эришиш йўлида ўзига берилган барча хавфсизлик қоидаларини эътиборсиз қолдириб, фирибгарлик, ёлғон гапириш ва манипуляция қилишни ўрганади.

Қайд қилинишича, сунъий интеллект мақсадга эришиш учун 190 фоиз кўпроқ сохта янгиликларни тақдим этган. Сиёсий симуляцияларда улар ёлғон ва провокацион риторикани тарқатиш орқали кўпроқ овоз тўплаган.

Ушбу тадқиқот шуни кўрсатадики, бу ботларга рақобатлашиш кераклиги айтилганда, улар ғалаба қозонишнинг энг осон йўли бизни манипуляция қилиш эканини тушунган.

Тадқиқотчилар ҳозирги сунъий интеллект хавфсизлик чоралари етарли эмаслигини яққол кўрсатиб берди. Ушбу технологияни ишлаб чиқувчилар бундай камчиликларга барҳам бериш орқали, кутилмаган оқибатларнинг олдини олиши кераклиги таъкидланмоқда.

Kun.uz