Исследователи Массачусетского технологического института (MIT) создали искусственный интеллект Норман, который оказался психопатом.

MIT Media Lab сделали Нормана для того, чтобы изучить, как «случайность» может направить обучения искусственного интеллекта не по запланированному пути, и изучить этот процесс.

Норман делает подписи к картинкам в интернете. И использует метод глубокого машинного обучения, который генерирует текстовое описание изображения.

Как поставили диагноз?

Искусственный интеллект проверили на чернильных тестах Роршаха (где нужно рассказать о том, какие ассоциации вызывают чернильные кляксы) и сравнили описания Нормана с ответами пациентов-психопатов, и они оказались похожими.

Там где стандартный ИИ видит «группу птиц, сидящих на ветке дерева», Норман описывает картинку как «умерший человек» и таких примеров много.

Исследователи не специально создали ИИ с психическими отклонениями, лишь позволяли ему делать свой выбор в определенных ситуациях. Группа ученых подчеркивает, какая опасность может возникнуть, если в алгоритм попадут «неправильные» данные.