Facebook отключил систему искусственного интеллекта (ИИ), когда работники компании обратили внимание на язык, на котором общаются боты: они перешли с английского на собственный, который не был понятен людям.
Боты использовали свой язык для более быстрого обмена информацией.
Несмотря на то, что диалог выглядел полной бессмыслицей, Facebook отключил эту часть системы и перепрограммировал ботов на общение только на английском языке.
За разговор на английском языке боты не получали вознаграждение и у них не было оснований придерживаться его, поскольку это не способствовало их конечной цели стать более эффективными переговорщиками.
Наоборот, боты имели множество стимулов, чтобы отклоняться от языка, так же, как сообщества людей с опытом создают сокращенные формы для более быстрого или эффективного обсуждения сложных идей.
По словам исследователей, они могли расшифровать новый язык без особых усилий, потому что он все еще был основан на английском. Однако теперь ученые не могли быть уверены, что их переводы на 100% правильны.
Ранее мы писали о том, что искусственный интеллект займется промышленным изготовлением вин.