Разработанный Microsoft самообучаемый чат-бот Tay, запущенный в соцсети Twitter, научился ругаться, а также стал произносить расистские и возбуждающие ненависть высказывания.

Экспериментальная версия искусственного интеллекта (ИИ), которая может учиться у своих собеседников и перенимать их манеру общения, была создана для того, чтобы продемонстрировать стиль общения молодых людей в возрасте 18-24 лет.

Однако уже через сутки после запуска Microsoft была вынуждена удалить некоторые из самых провокационных высказываний Tay.

Бот, в частности, заявил, что поддерживает геноцид, ненавидит феминисток, а также выразил согласие с политикой Гитлера и поддержку кандидату в президенты США Дональда Трампа. Чат-бот также сказал, что "ненавидит всех".

"Чат-бот Tay с искусственным интеллектом - это обучаемый проект, созданный для взаимодействия с людьми. К сожалению, в течение первых 24 часов функционирования нам стало известно о скоординированных усилиях некоторых пользователей, из-за которых бот начал давать недопустимые ответы. В результате нам пришлось приостановить его работу для внесения определенных изменений", - говорится в сообщении корпорации.

Отметим, что программы-самоучки не всегда берут плохое с интернет-вселенной. Так, недавно искусственный интеллект AlphaGo всухую обыграл в го лучшего среди людей гроссмейстера Ли Седоля. Это стало серьезным прорывом для исследований в области ИИ. При этом создатели программы изначально не учили ее играть и выигрывать в го - нейросеть самостоятельно училась игре на примере реальных партий, что позволило ей выработать аналог интуитивной игры у человека. До сих пор считалось, что компьютер, даже владеющий высокими вычислительными мощностями, не способен играть в го на равных с профессиональным игроком из-за высокого уровня абстракции и невозможности перебора всех доступных вариантов развития событий.

Вместе с тем следует напомнить, что недавно исследователи из Массачусетского технологического института применили алгоритм тестирования на IQ, используется в школах, к современному искусственному интеллекту. Как показали результаты, несмотря на то, что компьютеры опережают людей в таких сферах как арифметика, по человеческим меркам даже самый продвинутый искусственный разум соответствует уровню четырехлетнего ребенка.

Источник