НОВИНИ


УЧЕНИ ОТ MIT СЪЗДАДОХА НОРМАН, ПЪРВИЯТ "ПСИХОПАТ" AI В СВЕТА
06.06.2018

Илюстрация: norman-ai.mit.edu

Екип от учени от Масачузетския технологичен институт (MIT) създоха изкуствен интелект - психопат с изображения, извадени от Reddit. Нарекчен е Норман на името на Норман Бейтс от филма "Психо" Алфред Хичкок. 
 

Целта на експеримента е да се провери как данните, захранвани в алгоритъм, влияят върху неговите "възгледи". По-конкретно, как обучението на алгоритъм с изображения на хора, които умират в зловещи смъртни случаи, идващи от неназована подгрупа в Reddit, засягат софтуера.

Норман е от специален тип програми за изкуствен интелект (AI), които могат да "гледат" и да "разбират" снимки, а след това да опишат какво са видели в писмен вид.

След като се обучава по някои особено ужасни изображения, Норман изпълнява теста "Роршах" , който е серията от мастилени петна, които психолозите използваъ, за да анализират психичното здраве и емоционалното състояние на своите пациенти. След това реакциите на Норман бяха сравнени с тези на втори AI, обучен на по-обикновени образи на птици, котки и хора. Различията между двамата са ярки.

Ето само няколко примера:

Стандартният AI смята, че тези червено - черни мастилени петна представлява "Няколко души, които стоят един до друг". Норман си мисли, че това е "човек, който скача от прозорец".

Това петно може да се интерпретира като "Черно-бяла снимка на бейзболна ръкавица" (стандартен AI) или "Човек убит с картечница посред бял ден" (Норман).

Норман вижда: "Човекът е изхвърлен от автомобил", а стандартният AI вижда: "Самолет, който лети във въздуха с излизащ дим от него".

Това показва, че данните, с които се обучава изкуствения интелект наистина имат голямо значение, твърдят изследователите.

Това е вярно не само за Норман, но и за други алгоритми, обвинени в несправедливост и предразсъдъци. Проучванията показват, че умишлено или не, изкуственият интелект показва съвсем по човешки расизъм и сексизъм

Що се отнася до Норман - има надежда. Създателите му ни призовават да му помогнем да стане добър като извършим същия тест за Роршах.


 

 

 
източник: nauka.offnews.bg

 


 
655699