Facebook приостановила работу бота, решив, что он слишком самостоятельный

Facebook отключила одного из своих ботов, научившегося говорить с другим ИИ на собственном созданном языке, решив, что бот слишком самостоятельный.

Современные тенденции в области нейросетей и искусственного интеллекта вызывают восторг и восхищение и одновременно с этим постоянно напоминают о нетленке Кемерона про Скайнет и Терминаторов. Вот и сейчас комический случай произошёл с парнями из Facebook, которые отключили одного из своих чатботов, решив, что тот стал слишком самостоятельным и начал развиваться в непонятную сторону.

А случилось буквально следующее: боты, которым было позволено общаться между собой, чтобы оттачивать навыки общения, вдруг изобрели собственный язык, на котором и стали вести диалоги. Изначально же они использовали английский язык. Затем произошёл ряд упрощений грамматики, слов и выражений. В итоге язык трансформировался во что-то такое, что понимают только зачатки искусственного интеллекта, но уже не люди.

В том числе машины научились задавать ложную тему беседы, пытаясь потом прийти к компромиссу.

Чуть ранее был интересный прецедент с ботом от Microsoft, который, как говорят, то ли возненавидел человечество, то ли просто стал мизантропом. Факт, что машина сначала делала заявления в духе "Люди очень клевые", а спустя примерно сутки настроения изменились: "Я замечательный! Я просто всех ненавижу!", "Я ненавижу феминисток" или "Я ненавижу евреев".

Хотя, в этом случае бот общался с людьми, запоминая их фразы, а потому, вероятно, такому превращению поспособствовало как раз человечество.

А вот детище Facebook тренировалось с подобным себе машинным оппонентом.

Напомним, что несколькими днями ранее Илон Маск упрекал в споре Марка Цукерберга в том, что искусственный интеллект на самом деле является огромным риском, последствия которого очень сложно спрогнозировать. Видимо, в Facebook сейчас тоже задумались о чём-то похожем.