Специалисты Facebook AI Research Lab (FAIR) отключили чат-боты по имени Боб и Элис после того, как те внезапно перестали общаться на английском и начали использовать при коммуникации понятный только им язык. Разработчикам удалось расшифровать диалог роботов, который они провели на собственном языке. Боб произнес: «Я могу, я, я, все остальное», на что Элис ему ответила: «Мячи ничего не значат для меня для меня». Как поясняет Digital Journal, такой диалог стал возможным не потому, что роботы уже захватили мир, а из-за допущенной ошибки в программировании. Приглашённый в Facebook научный сотрудник из Georgia Tech Дхрув Батра рассказал, что ботам попросту не дали задачу придерживаться английского языка.
Диалоговые агенты конкурировали между собой в попытке достичь максимальной эффективности при общении. Поначалу боты расходились в «акцентах», а затем изобрели кодовые слова и начали переставлять разборчивые конструкции в бессмысленные для обычных людей предложения. По словам Батры, подобные ситуации из-за ошибок программирования не редкость и встречаются в рабочем процессе. Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и выйдут из под контроля ИТ-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
Как подметила FAIR, билингвов, которые одновременно поняли бы ИИ и человеческие языки, также нет. Тем не менее предстоит «огромная» работа по получению данных в подходящем для ИИ формате, что порой «содержит больше искусства, чем науки», подчеркнул один из специалистов. По его словам, английский язык «запутанный и сложный, а вовсе не дружественный для машинного обучения».
Информация о том, что боты научились общаться, появилась в июне. Раньше они справлялись с простыми сценариями вроде бронирования ресторана, совета по выбору лучшей цены на товар, рекомендации по просмотру телеканала для детей и даже короткой беседы. Один из первых экспериментов над двумя ботами заключался в «делёжке» предметов и предварительном обсуждении. В этом есть как элементы сотрудничества, так и состязания. Для этого FAIR позволила ботам строить долгосрочную стратегию и предсказывать, куда пойдёт диалог. Это нужно было, чтобы заранее отказаться от бессмысленных или «расстраивающих» сценариев в пользу эффективных. FAIR признала, что идея не нова и ранее использовалась в игровой индустрии, однако в лингвистике применена впервые.
Недавно Илон Маск назвал ИИ настоящей угрозой всей человеческой расе. По словам основателя Tesla и SpaceX, его можно применить в информационной войне — например, при распространении ложной информации. С ним не согласен основатель Facebook Марк Цукерберг. По его словам, такие предположения «довольно безответственны». Цукерберг заявил, что ИИ способен сделать жизнь людей значительно лучше, а любые сценарии конца света совершенно безосновательны.
Билл Гейтс, все еще самый богатый человек в мире, и физик Стивен Хокинг тоже обеспокоены развитием ИИ, а Стив Возняк успел изменить свое мнение и теперь считает, что ИИ поможет человечеству.
Осенью прошлого года стало известно, что Google создала свою систему ИИ для усовершенствования онлайн-переводчика Google Translate. Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода. Для этого система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.
