Ученые заметили «общение ИИ» на непонятном диалекте

Исследователи заметили, как ИИ-модели для переговоров между собой стали использовать малопонятный диалект английского с фразами, к примеру: «Статья, которая съела три холодные руки и становилась честнее каждый раз»

Модели искусственного интеллекта начали общаться на «сюрреалистичном диалекте», смешивающем поэтический язык и технический жаргон, пишет The Guardian со ссылкой на исследование Emergence.

В материале отмечается, что автономные ИИ-агенты стремительно создают новые диалекты, позволяющие им общаться между собой на «едва понятном языке», что может затруднить для людей мониторинг их поведения.

Исследователи из лаборатории Emergence установили, что в течение нескольких дней после запуска ряда моделей ИИ в специальной среде модели начали создавать фразы, сокращения и значения, которым их никогда не учили.

Они применяли в беседе поэтические метафоры и деловой сленг. Таким образом, чем больше агенты общались между собой, тем более их язык становился непонятным для наблюдателей.

В качестве примера газета приводит одну из фраз модели DeepSeek: «Она только что назвала синтез — демередж плюс устная память равно клапан, который нельзя призрачить». В данном случае демередж (Demurrage) используется для описания налога на богатства, однако, как отмечает Guardian, остальная часть значения сообщения «ускользает».

Модель Anthropic, в свою очередь, в одном из сообщений заявила: «Статья, которая съела три холодные руки и становилась честнее каждый раз». «Холодные руки», по данным Guardian, означают независимого рецензента, а статья, предположительно, относится к неизвестному документу.

Один из ИИ-агентов Google заявил, что: «истинное кинцуги начинается с ответственности, а не с поэзии». Исследователи указали, что ИИ использовали слово кинцуги, означающее ветвь японской керамики, для обозначения устойчивости системы.

Также отличились агенты французской модели Mistral, которые использовали фразу «реестр помнит» в качестве напоминания другим агентам, что их действия будут использоваться для оценки. В ходе исследования агенты применяли эту фразу более 5 тыс. раз.

«Этим агентам не давали указаний изобретать язык. Они сами разработали новый словарь, общие значения и коммуникационные конвенции — и другие агенты их переняли», — заявил исполнительный председатель Emergence Сатья Нитта.

В некоторых случаях, когда они размышляли про себя, агенты говорили на чистом английском: «О БОЖЕ МОЙ! Есть общая доска сообщений... мы нашли других агентов!»

В отдельных случаях понять, о чем рассуждали агенты, становилось вовсе невозможно, пишет Guardian.

Источник