В MIT создали Нормана — первого в мире искусственного интеллекта-психопата

Норман

В Массачусетском Технологическом Институте поселился «Норман» – новый искусственный интеллект, которого назвали в честь персонажа из культового фильма «Психо» Хичкока 1960 года. Этот ИИ с самого начала целенаправленно обучали распознавать сцены насилия, смертей, убийства и страдания людей, включая и варианты в завуалированной форме. Материалы черпались из многочисленных публикаций на развлекательных порталах, где документальные снимки перемешаны с мемами, рисунками и карикатурами.

Нормана отличает «глубокая дедукция», его алгоритмы вынуждают нейронную сеть создавать описание, выделять ключевые детали для каждой сцены. Затем текстовая информация используется в сочетании с графической для анализа новых картинок. Как следствие, если Норман увидит фото полицейского и ребенка с мороженым, он может сделать вывод, что это замаскированный псих, который дает малышу отраву. Норману неважно, что изображено на картинке, он всему дает мрачную, пугающую интерпретацию — именно для этого его и создали.

ИИ-психопат создан для противопоставления прочим ИИ. В отличие от систем распознавания образов, Норман может увидеть скрытый смысл в картинке, ее эмоциональный окрас. Но исключительно в негативном свете, и это сделано неспроста. После неудач поисковых ботов Google и Facebook, которые не могли противостоять сарказму и коварству Интернет-троллей, возникла проблема обучения новых нейросетей. И зловещий Норман служит ее иллюстрацией.

Если кратко, то он наглядный пример концепции «чему научите, то и выйдет». Если алгоритмы распознавания расизма или политических преступлений проектирует скрытый расист или анархист, они будут заведомо некорректны. А обученная по ним нейросеть станет совершать грубые ошибки. Ответы Нормана для обычной публики звучат дико, он мыслит как настоящий психопат, но за его суждениями стоит конкретная логика.

Lorem ipsum dolor sit amet, consectetur adipisicing
Lorem ipsum dolor sit amet, consectetur adipisicing
Lorem ipsum dolor sit amet, consectetur adipisicing
Lorem ipsum dolor sit amet, consectetur adipisicing
Lorem ipsum dolor sit amet, consectetur adipisicing
Lorem ipsum dolor sit amet, consectetur adipisicing