Тест Нормана. Разработчики создали искусственный интеллект, который мыслит как маньяк-психопат

Группа разработчиков из Массачусетского технологического института создала искусственный интеллект, который мыслит как психопат и видит вокруг только смерть, боль и разрушение. Его обучали на примере картинок одного из сабреддитов, посвящённых смерти. Инженеры назвали своё детище Норманом в честь психопата Нормана Бейтса, главного героя фильма <<Психо>>. И робот Норман, возможно, ещё хуже своего прототипа.

Разрабатывая тот или иной искусственный интеллект, его создатели обычно говорят, что хотят создать машину, которая будет приносить пользу. Ну или хотя бы развлекать. Но группа энтузиастов из MIT решила показать миру искусственный интеллект, который наверняка смог бы убить всех человеков. Итак, познакомьтесь с Норманом.

Его назвали в честь персонажа фильма Альберта Хичкока <<Психо>> Нормана Бейста, психопата и убийцы с раздвоением личности. Вокруг себя электронный Норман видит только смерть, боль и хаос, пишет BBC, даже там, где другой искусственный интеллект увидит цветы и птичек.

Норман, можно сказать, зародился благодаря Reddit, вернее, одному из сабреддитов, на который пользователи выкладывают документальные изображения чьей-либо смерти.  Название сабреддита создатели Нормана не открывают из-за его <<специфического>> контента.

Искусственному интеллекту, который умеет описывать словами увиденное изображение, начали показывать фотографии людей, умирающих при самых жутких обстоятельствах.

После этого его попросили описать словами, что он видит на изображениях из теста Роршаха. Его уже десятки лет используют для оценки психического состояния людей и проверки того, как они воспринимают мир: в положительном или отрицательном свете.

Оказалось, что Норман стал видеть смерть и на абстрактных картинках. Его результаты сравнивали с результатами других искусственных интеллектов, которых не обучали на примере жестоких кадров, а показывали им фотографии живых людей, животных и растений.

В итоге обычный искусственный интеллект увидел на картинке ниже цветы в вазе. Норман распознал застреленного человека.

Здесь <<добрый>> искусственный интеллект увидел маленькую птичку, а Норман — человека, которого затягивает в мясорубку.

<<Человек с зонтиком>>, определил эту кляксу обычный искусственный интеллект. Норман увидел здесь человека, которого убивают на глазах у кричащей от ужаса жены.

Нормана решили обучить жестокости не просто так, а для изучения процессов машинного обучения. Как рассказал профессор Массачусетского технологического института Ияд Рахван, тот факт, что Норман стал видеть только ужасы, показывает фундаментальную проблему искусственного интеллекта.

Набор исходных данных важнее самого алгоритма. Отбор информации, применяемой для тренировки искусственного интеллекта, отражается на том, как этот искусственный интеллект воспринимает окружающий его мир и к каким выводам он приходит.

Обычный искусственный интеллект увидел здесь тортик, Норман — человека, попавшего под машину.

Это уже не первый раз, когда разработчикам приходится сталкиваться с искусственным интеллектом-мизантропом. В 2016 году компания «Майкрософт» создала бота, который умел общаться с подписчиками в твиттере и параллельно обучался у них. Для того, чтобы сделать робота расистом, хамом и женоненавистником, хватило одного дня, а компании пришлось извиняться.

Эта проблема также пересекается с заявлением создателя андроида Софии, который недавно заявил, что уже к 2038 году искусственный интеллект настолько разовьётся, что начнёт требовать равных прав с человеком. И людям придётся решать, нужен ли нам рядом такой искусственный разум.