Из искусственного интеллекта сделали психопата

Специалисты по машинному обучению из Массачусетского технологического института создали Norman – нейросеть, вдохновленную хичкоковским психопатом с раздвоением личности Норманом Бейтсом, персонажем романа Роберта Блоха и одноименного фильма Альфреда Хичкока Психо.

К счастью, единственной функцией неройросети является анализ пятен Роршаха. Разработчики утверждают, что единственной целью проекта является демонстрация того, как обучающая выборка может повлиять на искусственный интеллект.

Сам тест Роршаха был придуман в начале прошлого века швейцарским психиатром Германом Роршахом. Его суть заключается в просмотре десяти изображений, на которых показаны симметричные кляксы. Пациента, проходящего тест, простят интерпретировать каждую из них, рассказав о первой пришедшей в голову ассоциации.

Роршах и его последователи считали, что с помощью этого теста можно определить психическое состояние человека, поскольку каждый, кто страдает тем или иным психическим расстройством, по-разному реагирует на формы и цвета клякс и видит в них совершенно различные фигуры и образы.

Реальная эффективность данного метода до сих пор не подтверждена, тем не менее это не мешает ему использоваться в психиатрической практике по всему миру. Пинар Янардаг и его коллеги из Массачусетского технологического института тоже взяли на вооружение тест Роршаха, ставший основой для новой нейросети, которую создали с помощью методов глубинного обучения.

В качестве базы для тематической выборки исследователи использовали описания изображений из тематического сообщества c Reddit, посвященного разговорам о смерти: из этических соображений разработчики не называют его.

На основе собранных данных нейросеть обучили анализу и интерпретации пятен Роршаха. Ответы нейросети затем сравнили с ответами, выданными нейросетью, обученной на датасете MsCOCO, собранном для распознавания изображений.

Интересно то, что результаты оказались очень разными. Нейросеть, обученная на стандартном датасете, видела в пятнах "вазу с цветами", а Norman — "застреленного мужчину".

Norman — достаточно простая нейросеть, и функций у нее немного. Ее единственным практическим применением может быть компьютерная диагностика ответов реальных людей на тест Роршаха. На деле же разработчики хотели показать, насколько искусственный интеллект может быть предвзятым в зависимости от обучающей выборки.