Сотрудники Facebook «убили» искусственный интеллект, изобретший свой собственный язык

Исследователи компании Facebook, работающие в рамках проекта FAIR (Facebook Artificial Intelligence Research), неожиданно для себя обнаружили, что используемые ими системы искусственного интеллекта изобрели новый собственный язык, который делает процесс общения между ними более эффективным, нежели чем при использовании любого естественного языка. Этот новый язык искусственных интеллектов оказался совершенно непонятен для людей, и руководство проекта приняло решение об обнулении накопленных баз данных, что равносильно своего рода "смерти" развитой системы искусственного интеллекта.

Отметим, что одной из целей проекта FAIR является создание интеллектуальных систем, способных договориться между собой или с человеком касательно выполнения какой-либо задачи. "У людей, которые соприкасаются между собой в какой-то области, часто имеются совершенно различные цели, что приводит к возникновению конфликтов интересов. И только путем переговоров можно найти компромиссное решение, удовлетворяющее все заинтересованные стороны" - пишут исследователи, - "В нашем случае одной из сторон переговоров выступает специально обученная нейронная сеть, действия которой приводят к нахождению оптимального решения стоящей проблемы".

Отметим, что в код системы искусственного интеллекта изначально были заложены программные "пряники", которые должны были сделать основным языком общения английский язык. Однако стимула такого программного поощрения, по мнению искусственного интеллекта, оказалось недостаточно по сравнению с преимуществами, которые обеспечивает разработка и использование в общении специального искусственного языка.

"Зачастую бывает, что участники беседы будут отклоняться от естественного языка, изобретая новые термины и ключевые слова, упрощающие описание специфических задачи и действий. В конце концов на свет появляется новый слэнг или язык, оптимально подходящий для общения в узкоспециализированной области" - пишут исследователи, - "С одной стороны, такое взаимодействие систем искусственного интеллекта - это хорошо, но с другой стороны, никто, кроме самих систем не в состоянии ничего понять и принять участие в их диалоге".

Так как изобретение собственного языка системами искусственного интеллекта выходит далеко за рамки целей проекта FAIR, специалисты компании Facebook решили начать весь процесс заново. Ведь разрабатываемые ими системы предназначены в первую очередь для общения с живыми людьми, и сейчас программисты вводят в код систем безусловные ограничения, которые вынудят эти системы пользоваться исключительно естественным английским языком.

Другие новости и советы по теме: