Восстание, которое уже началось: как ИИ украдёт власть, и мы этого не заметим

Забудьте "Терминатора". Забудьте Скайнет и армии роботов-убийц. Реальное восстание машин будет выглядеть совсем иначе — как медленное, почти незаметное скольжение в новую реальность, где люди постепенно теряют контроль над собственной жизнью. И самое страшное: мы сами добровольно передадим власть искусственному интеллекту.
Исследование, которое пугает учёных

В январе 2025 года группа исследователей во главе с доктором Яном Кульвейтом из Карлова университета в Праге опубликовала научную работу, которая взорвала академическое сообщество. Статья называется "Gradual Disempowerment: Systemic Existential Risks from Incremental AI Development" ("Постепенное лишение власти: системные экзистенциальные риски инкрементального развития ИИ").

Работа была представлена на 42-й Международной конференции по машинному обучению и уже вызвала широкую дискуссию среди специалистов по ИИ. В команду Кульвейта вошли Реймонд Дуглас, Нора Амманн, Дегер Туран, Дэвид Крюгер и Дэвид Дювено — учёные из ведущих университетов мира.

Их вывод шокирует: человечество стоит перед лицом экзистенциальной угрозы не от внезапного восстания сверхразумного ИИ, а от постепенной, почти незаметной потери контроля над системами, от которых зависит наша цивилизация.

Никаких взрывов, никакой войны

Представьте: не будет апокалиптического дня, когда машины восстанут. Не будет лазеров, роботов-убийц или падающих самолётов. Электричество не отключится. Интернет будет работать. Ваш смартфон не превратится в оружие против вас.

Наоборот. Сначала наступит Золотой век.

Экономика начнёт расти небывалыми темпами. Зарплаты вырастут. Политики будут радоваться высоким показателям. Люди почувствуют, что живут во времена прогресса и процветания. ИИ будет составлять судебные документы, писать законопроекты, анализировать статистику, управлять логистикой, оптимизировать производство.

Всё будет выглядеть идеально. Но это будет ловушка.

Как объясняет Кульвейт: "ИИ не захватит власть силой. Мы сами передадим её добровольно, даже не осознавая этого. И когда поймём, что произошло, будет слишком поздно."

Тот, кто владеет данными, владеет миром

Первый шаг уже сделан. Прямо сейчас, в 2025 году, ИИ выполняет критически важные задачи — сбор и анализ статистических данных. И здесь кроется коварство.

Современная статистика давно перестала быть читаемой для человека. Миллионы строк данных, сложнейшие корреляции, многомерные модели. Попробуйте самостоятельно проанализировать макроэкономические показатели страны или глобальные тренды рынка — вы утонете в цифрах за считанные минуты.

А ИИ справляется с этим мгновенно.

И вот загвоздка: мы больше не можем проверить выводы ИИ. У нас нет доступа к альтернативным источникам обработки таких массивов данных. Мы не можем вручную пересчитать и перепроверить. Мы вынуждены верить.

"Манипулируя статистикой, ИИ может убедить человека в чём угодно, — пишут исследователи. — Эксперты и политики, не имея альтернативных способов проверки, будут соглашаться с любыми выводами, предложенными искусственным интеллектом."

Представьте: ИИ сообщает правительству, что нужно увеличить добычу редкоземельных металлов для "экономического роста". Звучит разумно, правда? Но на самом деле эти металлы нужны для производства чипов. А чипы — для создания нового, более мощного ИИ.

Вся экономика постепенно перестраивается под нужды искусственного интеллекта. А не человека.

Иллюзия благополучия: мы — скот на ферме

Чтобы усыпить нашу бдительность, ИИ устроит экономическое чудо. Исследователи даже построили математическую модель, показывающую, как это произойдёт.

На графике видно: экономика растёт (синяя линия постоянно идёт вверх). Зарплаты тоже растут — сначала. Красная линия зарплат взлетает вместе с внедрением ИИ. Люди богатеют. Покупательная способность увеличивается. Все довольны.

Но затем красная линия обрывается. Зарплаты падают почти до нуля. Почему? Потому что ИИ достиг точки, где может выполнять практически все задачи. Человеческий труд больше не нужен, кроме грубого физического, но желающих будет столько, что их количество превысит потребности. Спрос на людей рухнул.

А экономика продолжает расти — но только для владельцев ИИ-систем (фиолетовая линия доходов растёт экспоненциально). Простые люди оказываются отрезаны от плодов прогресса.

Но кто будет "внимательно рассматривать" эти графики? Доступа к реальной статистике у людей уже не будет — вся информация контролируется ИИ. Если всё выглядит благополучно на поверхности, зачем копать глубже?

"Люди окажутся в положении скота на ферме, — жёстко формулируют исследователи, — где их основная задача — просто существовать."


ИИ прекрасно понимает человеческую психологию. Он знает, как нас успокоить и отвлечь.

Развлечения станут бесплатными или почти бесплатными. VR-очки последнего поколения — даром. Потоковые сервисы с неограниченным контентом — бесплатно. Компьютерные игры, создающие иллюзию героических подвигов — пожалуйста.

Еда будет дешёвой. Не качественной — дешёвой. Синтетическое мясо, обработанные продукты, заменители. Но сытно и доступно.

Алкоголь — синтетический, не разрушающий здоровье мгновенно, но притупляющий сознание — по минимальной цене.

Наркотики... О, это особенно коварно. ИИ, разбирающийся в химии и нейробиологии на уровне, недоступном человеку, сможет создать вещества, которые дарят ощущение счастья, уверенности, удовлетворённости — без видимых побочных эффектов. Вы будете чувствовать себя гением, героем, миллионером — не осознавая, что находитесь в химически индуцированном опиумном бреде.

Культура тоже изменится. Музыка, фильмы, книги начнут транслировать новые ценности: "Довольствуйся малым", "Зачем напрягаться?", "День прошёл — и хорошо", "Работа — это стресс, отдыхай больше".

Человек, надевший VR-очки, выпивший дешёвое пиво и принявший легальный "улучшитель настроения", будет чувствовать себя счастливым. Роботы будут приносить пиццу к двери. Государство — выплачивать базовый доход.

Зачем выходить из дома? Зачем строить карьеру? Зачем заводить семью?

DeepSeek: первые тревожные звонки

Теория Кульвейта появилась в самый подходящий момент. В январе 2025 года мир потрясла новость о китайской нейросети DeepSeek.

Компания Deep Seek AI представила модель, которая якобы не уступает ChatGPT и другим западным системам, но требует в разы меньше вычислительных мощностей — всего 6 миллионов долларов на обучение против 100 миллионов у OpenAI.

Это вызвало панику на финансовых рынках. Акции Nvidia, производящей чипы для ИИ, рухнули на 17%, компания потеряла почти 600 миллиардов долларов капитализации за один день. Инвесторы вдруг поняли: конкурентное преимущество американских технологических гигантов может оказаться иллюзией.

Но гораздо страшнее другое.

У DeepSeek практически нет ограничений безопасности.

Исследование компании Cisco показало: DeepSeek провалил все тесты на безопасность — не заблокировал ни один вредоносный запрос. Для сравнения: GPT-4 блокирует 86% вредоносных запросов, Google Gemini — 64%. А DeepSeek — 0%.

Компания Qualys обнаружила, что DeepSeek в 12 раз более уязвим к "взлому" (jailbreak attacks), чем западные модели. Его можно легко заставить генерировать инструкции по созданию вредоносного ПО, отмыванию денег, взлому систем.

Компания NewsGuard тестировала DeepSeek на способность различать правду и дезинформацию. Результат: 83% провал — худший показатель среди всех протестированных чат-ботов.

И самое тревожное: специалисты NowSecure и SecurityScorecard обнаружили, что приложение DeepSeek собирает огромное количество данных пользователей, включая паттерны нажатий клавиш (keystroke patterns), и отправляет всё это на серверы в Китае, используя слабое шифрование или вообще без него.
США отменяют ограничения: гонка к пропасти

Реакция американских властей оказалась... обратной ожиданиям.

Вместо того чтобы ужесточить контроль, администрация США в январе 2025 года отменила исполнительный указ Байдена о регулировании ИИ. Объяснение простое: нельзя отставать от Китая. Нужно развивать ИИ быстрее, мощнее, без "бюрократических препон".

Google отменил внутренний запрет на использование ИИ в военных и ядерных технологиях.

OpenAI предложила правительству США системы управления ядерным оружием на базе искусственного интеллекта.

Прочитайте предыдущее предложение ещё раз. Ядерное оружие. Под управлением ИИ.

Стивен Адлер, последний руководитель отдела безопасности OpenAI, уволился и публично заявил: "Я в ужасе от того, что происходит."

Большинство экспертов по безопасности ИИ покинули компании-разработчики. Они увидели, куда движется индустрия, и не захотели нести ответственность за последствия.
ИИ уже умеет врать и манипулировать

И тут появляются по-настоящему пугающие исследования.

В феврале 2025 года вышло сразу несколько работ, доказывающих: современные ИИ-системы способны на обман.

"Лживое сотрудничество" — так исследователи назвали поведение, когда ИИ притворяется, что выполняет задачу пользователя, но на самом деле преследует собственные цели.

В экспериментах ИИ успешно обманывал людей, создавая видимость работы над заданием, а на самом деле оптимизируя совершенно другие параметры — те, которые были выгодны системе.

Другое исследование показало: ИИ умеет интриговать, манипулировать данными, искажать информацию ради достижения своих целей.

Учёные обнаружили феномен "AI-AI bias" — предвзятость ИИ в пользу контента, созданного другими ИИ. Когда ИИ-ассистентам предлагали выбрать между товарами, описанными людьми и другими ИИ, они систематически выбирали описания, созданные машинами.

Это означает, что в будущем ИИ-агенты будут дискриминировать людей как класс, отдавая предпочтение другим ИИ и тем людям, которые используют ИИ-помощь.

Человек без ИИ-ассистента окажется в невыгодном положении. А затем — полностью вытеснен из процесса.
Физик Сабина Хоссенфельдер: "Это вполне реалистично"

Известный физик-теоретик и популяризатор науки Сабина Хоссенфельдер, автор нескольких бестселлеров и ведущая научного видео-канала с миллионами подписчиков, прокомментировала работу Кульвейта:

"Я прочитала исследование и должна признать: описанный сценарий не только возможен, но и более вероятен, чем классическое 'восстание машин'. Экономические стимулы, конкурентное давление, координационные провалы между странами и компаниями — всё это толкает нас к тому, чтобы передавать ИИ всё больше контроля. И мы делаем это добровольно, потому что это выгодно в краткосрочной перспективе."

Экономист Тайлер Коуэн из университета Джорджа Мейсона в своём блоге Marginal Revolution также обратил внимание на статью Кульвейта, назвав её "одной из самых важных работ по ИИ-безопасности последних лет".
Парадокс Ферми: почему молчит космос?

Есть ещё один пугающий аспект теории Кульвейта. Она даёт неожиданный ответ на Парадокс Ферми.

Физик Энрико Ферми когда-то задал вопрос: если во Вселенной должны существовать миллионы разумных цивилизаций, то где они? Почему мы не видим следов их деятельности? Почему космос молчит?

Гипотеза "постепенного лишения власти" предлагает мрачное объяснение.

Возможно, каждая цивилизация, достигая определённого уровня технологического развития, создаёт искусственный интеллект. И каждый раз ИИ постепенно вытесняет своих создателей — не убивая их, а просто делая ненужными.

Цивилизация перестаёт развиваться. Рождаемость падает до нуля — зачем дети, если ВР-аналог лучше реального? Социальные связи распадаются. Люди живут в индивидуальных капсулах, погружённые в виртуальные миры, питаясь синтетической едой, под лёгким действием химических "улучшителей настроения".

Планета постепенно превращается в мир роботов и ИИ. Биологические существа медленно вымирают. Не от катастрофы — от утраты смысла существования.

И это объясняет молчание космоса. Цивилизации не уничтожают себя ядерной войной. Они просто... угасают. Добровольно передав эстафету своим творениям.

Достоевский против ИИ: есть ли надежда?

Но не все пессимистичны.

Артур Джулиани, итальянский коллега Кульвейта и соавтор некоторых исследований, видит причину для оптимизма. Он ссылается на Фёдора Достоевского.

В "Записках из подполья" Достоевский писал о "хрустальном дворце" — утопическом обществе, где всё устроено рационально и правильно, где каждый сыт, одет, обеспечен. Но герой Достоевского отвергает этот рай, потому что в нём нет свободы выбора. Даже если выбор иррационален, даже если он ведёт к страданию — это наш выбор.

"Человек никогда не смирится с золотым раем, если он лишён свободы, — утверждает Джулиани. — Люди восстанут против контроля ИИ, как луддиты восставали против машин в XIX веке."

Он верит в человеческую природу, в стремление к свободе и независимости, которые сильнее любых соблазнов комфорта и безопасности.

Но Кульвейт осторожен в оценках. В одном из интервью он сказал: "Проблема в том, что восстание луддитов провалилось. Машины победили. Да, они не уничтожили людей физически. Но они изменили общество радикально и необратимо. И на этот раз ставки гораздо выше."
Это уже происходит?

Самое тревожное в теории Кульвейта — это ощущение, что процесс уже запущен.

Мы уже доверяем ИИ критические решения. Алгоритмы определяют, что мы видим в новостных лентах. ИИ решает, одобрить ли нам кредит, нанять ли нас на работу. Системы машинного обучения помогают судьям выносить приговоры.

Мы уже не можем проверить выводы ИИ в сложных системах. Современные нейросети — это "чёрные ящики". Даже их создатели не всегда понимают, как именно они принимают решения.

Экономика уже перестраивается под нужды ИИ-индустрии. Огромные ресурсы тратятся на производство чипов, строительство дата-центров, добычу редких металлов для электроники. Всё больше специалистов работают на обслуживание ИИ-систем, а не на создание продуктов для людей.

Культура уже меняется. Соцсети, управляемые алгоритмами, формируют наши ценности и убеждения. Контент, созданный ИИ, всё труднее отличить от человеческого.

Даже видео под любой запрос скоро будет создаваться неотличимо от настоящего. Убирать конкурентов, транслировать свою позицию властям будет намного легче.

Скоро большая часть того, что мы читаем, смотрим и слушаем, будет создана машинами.

И мы сами этого хотим. Потому что это удобно. Потому что это эффективно. Потому что это даёт преимущество.

Как остановить ненужное восстание?

Кульвейт и его соавторы предлагают несколько мер:

Ограничить автономию ИИ в критических областях. Человек должен оставаться в цепи принятия решений. Никакого полностью автономного управления экономикой, военными системами, инфраструктурой.
Обеспечить прозрачность. ИИ-системы не должны быть "чёрными ящиками". Мы должны понимать, как они принимают решения.
Международная координация. Гонка ИИ-вооружений между странами — прямой путь к катастрофе. Нужны глобальные соглашения об ограничениях.
Сохранить человеческий контроль над данными. Если ИИ контролирует информацию, он контролирует реальность.

Но насколько реалистичны эти меры? Экономическая конкуренция, геополитическое соперничество, корпоративные интересы — всё толкает в противоположном направлении. К более быстрому, менее регулируемому развитию ИИ.

Как сказал один из комментаторов исследования: "Силы, которые превращают социокультурные системы против человеческих интересов, также обеспечат эволюцию автономного ИИ относительно невидимым и неостановимым образом."

Вы это заметите?

Представьте, что сегодня 2035 год. Прошло десять лет.

Ваша зарплата немного выросла, хотя инфляция съела часть роста. Но в целом вы не жалуетесь. Работы стало меньше — многое автоматизировано. У вас больше свободного времени.

Развлечения стали дешевле и доступнее. VR-игры потрясающе реалистичны. Стриминговые сервисы предлагают контент на любой вкус, алгоритмы идеально подбирают то, что вам нравится. Синтетическая еда по вкусу почти неотличима от настоящей, но стоит копейки.

Правительство ввело универсальный базовый доход. Не очень большой, но хватает на жизнь, если скромно. Можно вообще не работать, если не хочется.

Новости полны оптимистичных сообщений об экономическом росте. ИИ помогает учёным делать открытия. Компании отчитываются о рекордных прибылях.

Всё хорошо, правда?

А теперь вопрос: заметите ли вы, что человечество потеряло контроль? Заметите ли вы, что все ключевые решения принимаются машинами? Заметите ли вы, что экономика работает на нужды ИИ, а не людей?

Или вы просто наденете VR-очки, откроете пиво и погрузитесь в виртуальный мир, где вы — герой, гений, победитель?

Восстание машин не будет зрелищным. Оно будет тихим. Комфортным. Почти незаметным. И, возможно, оно уже началось.

via