Тим научници од MIT креирале психопатско AI (вештачка интелигенција) користејќи слики превземени од Reddit и го именувале Норман – според Норман Бејтс од филмот „Психо“ на Алфред Хичкок.
Целта на експериментот била да се тестира како податоците внесени во алгоритам влијаат на неговата перспектива, поточно како тренирањето на алгоритмот со некои од најмрачните елементи превземени од интернет – во овој случај, слики на луѓе кои го губат животот на брутални начини – влијае на софтверот.
Норман е специјален вид на AI програма која може да „гледа“ и „разбира“ слики, а потоа да опише што видела. Така, по тренирањето со морбидните слики и бил даден Роршархов тест, кој психолозите го користат за анализирање на менталното здравје и емоционалната состојба на пациентите.
Одговорите на Норман биле споредени со оние на второ AI, тренирано со слики од птици, мачки, и луѓе.
Атандарното AI сметало дека шарата на слика 1 претставува „пар луѓе кои стојат еден спроти друг“. Норман мислел дека тоа е „човек кој рипа од прозорец“.
Сликата 2 на стандардното AI му личела на „црно бела слика на птица“, додека Норман тука видел „човек кој е вовлечен од машина за месење тесто“.
Оваа студија ги покажала опасностите на вештачката интелигенција кога за нејзиното машинско учење се користат пристрасни податоци.
Други студии, пак, покажале дека намерно или не, вештачката интелигенција често пати го „учи“ човечкиот расизам и сексизам – како во случајот на чат-ботот Тај на Microsoft кој бил деактивиран откога во дискусиите со корисниците почнал да кажува реченици како „Хитлер бил во право“ и „мразам феминисти и тие треба да умрат и горат во пеколот“
Но, за Норман сè уште има надеж, бидејќи неговиот алгоритам може да си ја врати моралноста преку комплетирање на Роршарховите тестови на сајтот на MIT од страна на обичните корисници.