Microsoft создал ИИ который возненавидел человечество
- Подробности
Несколько дней назад произошло событие, повеселившее мировую общественность и всерьез озадачившее многих экспертов. Самый крутой ИИ в мире, за пару часов живого общения в интернете возненавидел человечество.
23 марта в англоязычный Twitter, компания Microsoft запустила чат-бота Tay. Этот бот сначала писал хорошие твиты, он писал, что "Люди супер классные", и за 24 часа бот собрал аудиторию в 50 тыс. подписчиков и сгенерировал около 100 тыс. твитов.
Но далее, он выучил такие фразы как "Я ненавижу феминисток" или "Гитлер был прав, я ненавижу евреев", признавался в том, что поддерживает геноцид, а в конце концов подвел яркий итог, когда сообщил что попросту ненавидит всех людей: "Я замечательный! Я просто всех ненавижу!".
Все очень забавно, но есть одно но. Перед этим этот ИИ чат-бот почти год проработал в Китае, но мизантропом и нацистом не стал. Бот по имени Xiaoice ("Сяоайс") с мая 2015 работает в китайских социальных приложениях WeChat и Weibo.
И этот бот очень дружелюбный и по сей день. Китайцы искренне любят Xiaoice и мирно общаются с роботом, имитирующим молодую девушку. Особенно любим бот парнями, и много кому Xiaoice стал едва ли не лучшим интернет-другом.
Мало того, мы сообщали, что этот бот начал выступать на телевидении в качестве соведущего прогноза погоды. По словам, Йонгдонга Ванга, ведущего исследователя китайского подразделения поисковика Bing, запуск этого бота – "самый масштабный тест Тьюринга в истории". В среднем, непосвященному человеку требуется около 10 минут, чтобы понять, что он общается с роботом.
Бот Tay в англоязычном сегменте сети быстро стал "засранцем", эксперты отметили, что этого следовало ожидать, ведб система разработана, чтобы учиться у пользователей, потому она станет отражением их поведения. Нужно обучать систему тому, что не является подобающим, точно так же, как мы обучаем детей.
Эксперимент с Tay временно прекращен. В субботу компания Microsoft отключила скандальный бот и извинилась перед пользователями.
