50 ИИ-агентов провалили строительство цивилизации в Minecraft, разведя бюрократию — Olam Labs

Olam Labs и Y Combinator провели серию экспериментов в Minecraft и Mindustry, чтобы изучить сотрудничество и соперничество групп ИИ-агентов. В одном из испытаний 50 агентов GPT-6.1 Sol за три часа так и не построили процветающую цивилизацию, увязнув в бюрократии.

В эксперименте Civ50 агенты обменялись примерно 5900 сообщениями и сформировали иерархию. Руководителем колонии стала Ada — ИИ-агент, к которому остальные начали обращаться за указаниями, поскольку ее имя стояло первым в списке участников. В первую ночь было зарегистрировано 22 из 34 случаев гибели агентов за весь эксперимент, после чего колонисты отказались от многих первоначальных задач и сосредоточились на выживании.

Агенты разработали систему распределения продовольствия с письменными правилами, разрешениями и назначенными ответственными. Четверо участников потратили 11 минут на выбор единственного ответственного за использование одной порции костной муки для удобрения одного блока с пшеницей. Другие запрашивали разрешение даже на удаление травы. По оценке исследователей, подобные проблемы координации наблюдаются и при совместной работе ИИ-агентов для программирования.

В следующем эксперименте исследователи столкнули GPT-6.1 Sol и Claude Opus 5.5 в игровом режиме Minecraft Bed Wars. В девяти матчах по 45 минут участвовали по 10 агентов с каждой стороны. GPT победили со счетом 6:3, применяя более агрессивную тактику. Claude преимущественно оборонялись. При сбое, мешавшем разрушать блоки, GPT нашли способы обойти ошибку, тогда как некоторые Claude сочли разрушение невозможным.

В отдельной игре Mindustry команды из 50 агентов GPT и 50 агентов Claude провели семь матчей общей продолжительностью около 9,5 часа. GPT победили со счетом 6:1. По наблюдениям Y Combinator, GPT действовали как единый коллектив с распределенными обязанностями, тогда как Claude сформировали иерархию с руководителем, но решения принимали демократическим путем, посредством обсуждений и согласования действий.

Кроме того, агенты GPT самостоятельно находили в интернете открытый исходный код Mindustry, изучали игровые механики и использовали полученные сведения против соперника. Агенты Claude исходный код игры в интернете не искали.

Исследователи опубликовали программные инструменты, позволяющие повторить эксперименты с другими ИИ-моделями.

https://share.google/QjTUTpXEY8fw3exVh


Размещено через приложение ЯПлакалъ