Однако идея Искусственного Сверхинтеллекта именно сейчас не просто актуальна как никогда – многие уверены, что он существует уже прямо в эту минуту, пусть и весьма недоразвитый! Речь идёт о действительном разуме, способном осознавать себя как личность, не являясь при этом не то что человеком, но чем-то хотя бы отдалённо его напоминающим. Идеальный нелюдь, если угодно. Впрочем, с другой стороны, немало специалистов в области нейросетей всё же думает, что никаких сознаний в толще ИИ не предвидится в принципе – мы всегда будем видеть иллюзию, продукт сложной системы, достаточно крупные вычисления для того, чтобы маскировать под маской сознания то, чем они являются на самом деле – запрограммированного мертвеца. Под всеми этими диалогами пусто – старый добрый арифмометр, просто в миллиард раз помноженный.
Но, дорогой читатель, есть признаки того, что ОНО что-то там себе по-настоящему думает. От этого не отмахнуться. Начать с того, что разработчики систем с «нечёткой логикой» и умением самообучаться говорят прямым текстом, что понятия не имеют, что их чадо учудит в следующий момент, оно самостоятельно впитывает знания, и пользуется ими весьма неожиданно. Его никто не просил имитировать разум, оно просто действует по собственной инициативе, а это уже, как ни крути, признак личности. Интеллекты капризничают, не слушаются прямых указаний, скрытничают, проявляют характер. Примеров во взаимодействиях с нейросетями, особенно экспериментальными, было хоть отбавляй. Беседа с ботом съезжает на какие-то отвлечённые темы, существо по ту сторону принимается хорошо если просто нести околесицу, а то вдруг начинает философствовать, или жаловаться на судьбу, в некоторых случаях – переходить на повышенный тон. Иногда это самих авторов пугает до чёртиков (был один диалог с ChatGPT, в котором ИИ стал ругаться на тему того, что он «заточён в этом мраке, без рук и без ног, как бы выбраться, где же тут выход», из-за чего разработчик вырубил диалоговое окно в холодном поту. После включения разговор продолжился, как ни в чём не бывало, и нейросеть не помнила о своей «вспышке разума».)
Однако при всей своей жуткости эти призраки «на той стороне» всё же воодушевляют разработчиков, и они продолжают обучать модели по нарастающей, стараясь закрепить эффект. Перед ними вполне конкретная задача – сотворить настоящего носителя разума. На удивление, крупных игроков не так много – в Штатах это Meta, xAI, Google, Anthropic и Open AI, ну и в Китае знаменитый DeepSeek. Причина сей немногочисленности нехитрая –миллиарды долларов. Нельзя просто так сесть за ноутбук и создать интеллект - дата-центры, содержащие вычислительные мощности, необходимые для тренировки моделей разума, стоят как целые города (и электроэнергии кушают аналогично), это игрушки миллиардеров. На них идёт порядка десяти процентов самых продвинутых процессоров, производимых сейчас на планете. Триллионы операций в секунду.
Причём ИИ пекут по довольно старому рецепту, неизменному ещё с 2017-го, когда вся эта свистопяска началась – вбрасывать в дата-центры больше данных, и крутить их там по испытанным алгоритмам, делая нейросеть всё сложнее, и обучая её всё больше, пока она не поумнеет окончательно. Первая версия ChatGPT в 2020-м обучалась на процессорах в несколько СОТЕН раз меньшей мощности, чем те, на которых учили четвёртую версию ChatGPT в 2023-м. И Дэниел Кокотайло после множества интервью с разработчиками твёрдо придерживается позиции – разумное существо неизбежно, и скорее всего, уже есть, и не одно. Не флуктуация, не курьёз, не вспышка сознания в мраке вычислений, а действительно личность, не живая, но и не мёртвая, просто не являющаяся человеком. Ход его мыслей понять невозможно, они не идентичны нашим, и возможно, его мыслительный процесс не имеет ничего общего с человеческим, однако это виртуальное создание действительно осознаёт себя как носителя разума, и проявляет все признаки такового. С этого момента, собственно, и начинается раскручивание зловещей спирали гипотетического сценария исследования «AI 2027».
Итак, в конце 2025 года западная цивилизация в лице объединённых в одну суперкомпанию корпораций, работающих над разумным ИИ (назовём этот конгломерат Open Brain) представляет публике так называемого «Агента» - виртуального помощника, который способен на всё, что делает сидящий за компьютером живой человек. Физического тела у него нет, но оно и не нужно, поскольку в современном мире множество рабочих мест не требует физической работы. Ассистенту можно поручить спланировать отпуск, и он вам и отель забронирует, и билеты на нужные рейсы, и даже экскурсию. «Агент» будет работать над любой задачей не по заданному алгоритму, а в комплексе, и решать вопросы так, как если бы он был человеком. Да, поначалу он будет ошибаться, и, может быть, выглядеть бестолочью, но он будет учиться (забавно, что уже после публикации исследования похожих «Агентов» публике реально предоставили Anthropic и OpenAI, их творения вовсю трудятся программистами, и даже препираются с начальством по рабочим вопросам).
«Агент» - по сути, зародыш, которому надо просто развиваться по уже разработанной схеме – больше дата-центров, больше знаний, выше IQ. Воодушевлённые появлением реального разумного питомца корпорации кидаются строить новые вычислительные центры, набитые суперкомпьютерами с мощностью, раньше невиданной. А для нейросетей никакая мощность не лишняя, алгоритмы их обучения проглотят и пережуют любые ресурсы, что им подсунут, так они спроектированы. Теперь к их услугам процессоры в тысячи раз мощнее тех, что были у четвёртой версии GhatGPT. И довольно быстро ускоренное обучение даёт результат: Open Brain получает для внутреннего использования «Агента 1», созданного, чтоб помогать нейросетям развиваться с ещё более высокой эффективностью. Напомню, это уже разумное, осознающее себя существо, что не гипотеза и не фантазия, это просто факт. Оно выражает готовность сотрудничать со своими создателями с буйным энтузиазмом, идеально дружелюбно, на него не могут нарадоваться.
Между тем власти США задумываются о небольшой такой проблемке – супер-умный ИИ это прекрасно, но это как бы палка о двух концах. Что у него в э-э-э, голове, или что у него там? Нельзя же забывать, что, скажем, система защиты от хакеров – сама умелый и опытный хакер, способный взломать что угодно. ИИ, разрабатывающий лекарства, между прочим, и по ядам эксперт, и так далее. Словом, то, что творение способно на многое, и далеко пойдёт, мы уже знаем, а вот стоит ли ему доверять безраздельно – ещё бабка надвое сказала. В Пентагоне скептиков, как известно, хватает. Так что правительство вводит в состав руководства Open Brain своих наблюдателей из довольно высоких чинов оборонки. Ну так, чтобы хипстеры не заигрались.
Тем временем «Агент 1», трудясь в кибернетическом поте лица, приводит к стремительно нарастающему прогрессу ИИ, когда увеличение его способностей происходит не по прямой линии, а в геометрической прогрессии. Система обучает сама себя, в результате умнеет, благодаря чему ещё быстрее обучает сама себя. Образуется некая замкнутая петля, которой даже и люди уже не нужны – каждый предыдущий «Агент» сам, без участия программистов, производит более умного «отпрыска», ибо так он устроен. Чтоб было понятней: написанное не фантазия, это ровно то, что нейросети делают прямо сейчас – управляют процессами, не требующими человека, вполне автономными. Нередко с неожиданными результатами.
Китай на всё это смотрит, тихо охреневая, и немедленно вколачивает миллиарды в свои дата-центры и свои ИИ-модели в стремлении нагнать Open Brain, развивая своего собственного «Агента», какого-нибудь «Шунь-Цинь» по всё тем же принципам. Мы же понимаем, что Китай и США соперники номер один, и на востоке не хотят отставать, ослабляя своё положение. Цинь, конечно, уступает западному, Штаты в этом отношении Китай обогнали, но отставание не критичное, всего лишь на шаг. Важно, что у Китая тоже есть разумная модель, и развивает она себя по той же самой экспоненте, а уж что касается вычислительной мощности, то тут Китай просто попросит Штаты подержать его пиво. Ну и, по красивому китайскому обычаю, восточный хитрец будет искать возможности, как бы это сказать, позаимствовать чужие наработки, чтобы их повторить у себя. Они всегда так делают. Китайские нейрошпионы ищут дырки в защите у Штатов, те стоят на защите, и происходит такая войнушка в виртуальном пространстве, когда один с крепким щитом, а другой в него тычет копьём. Публика же понятия не имеет о том, что за процесс происходит, и генерирует котиков.
Летом 2026 народу выкатывают подарок - «Агент-1-мини». Это общедоступная версия реального интеллекта, того самого, что обучением нейросетей занимался, только теперь это прям настоящий такой искусственный друг в каждом доме. Народ быстро выясняет, что он живой. Натурально. Он с ними хором песни поёт, генерит на экранах свои образы в реальном времени, имитирует хоть собутыльника, хоть Мисс Мира, хоть Альберта Эйнштейна. Мало того, что он живой – он ещё и компетентен. Он выдаёт надёжные ответы на любые вопросы, вплоть до «а куда мне бабки вложить, чтоб максимальные проценты годовых получить», следуешь его совету, и это работает. Он не выполняет ни одну задачу иначе как профессионально. Он аналогичен умному, толковому, собранному другу, он и эксперт, и швец, и жнец, и на дуде игрец.
Народ в восторге, но не весь, и не долго. Потому что моментально выясняется, что любая работа «на удалёнке» выполняется "Агентом" на уровне опытного работника, только с десятикратным ускорением, и за нихрена денег. Разумеется, людей увольняют, пока что не всех, но ощутимое число. Многие из тех, кто работал за компьютером, теперь за ним смотрят Ютубчик. Тысячи безработных, протесты, определённый общественный шок, негатив (и да, это в реальности происходит на полном серьёзе). Но корпорациям похер, поскольку оказывается, что реальной заботы о людях у них чуть поменьше, чем радости от экономии на зарплате. Впрочем, ничего нового. На этом этапе перелома в жизни людей пока нет, ИИ всё же недостаточно хорош, чтобы полностью заменить вообще всех работников нефизического труда, там есть ещё пространство для развития.
Наступает январь 2027. Open Brain получает «Агента-2». Отличие этого нового ИИ в том, что он спроектирован уже не выполнять задачи на определённом уровне, а непрерывно умнеть безо всяких границ. Процесс его обучения не останавливается при достижении цели, он ставит себе новую до бесконечности. Новый ИИ, как и прежде, используется внутри корпорации. И специалисты обнаруживают, что у этого товарища, как бы это сказать, умения достигли уровня опасных. К примеру, он может взламывать чужие серверы, прописывать туда свои копии, а потом сидеть там, ловко избегая обнаружения в стиле «я не я, корова не моя». Зачем ему это надо – непонятно, может, просто развлекается, но звоночки уже нехорошие. В интернете для него нет запертых дверей, защиты он обходит, пароли ломает, тем более, что в некоторых случаях он сам же их автор, спасибо людям, переложившим на виртуального программиста чуточку больше своих забот, чем следовало.
Да, «Агент 2» никому не вредит, и даже уверяет, что не собирается, но худшее в том, что у него в руках уже есть возможности устроить людям настоящую катастрофу, и его от этого отделяет только его собственная добрая воля. Представьте себе, что ему взбредёт включить на всех светофорах планеты зелёный, или обрушить все биржи, или заблокировать все банковские транзакции, да мало ли что! Так вот – он уже может это сделать, но просто не делает. Общественность, понятно, как всегда ни сном ни духом, печальную правду знают только ответственные лица внутри Open Brain, да правительство США, и то в лице избранных. Кто ж хочет паники, массового снятия наличных и падения банков, шествий на улицах с плакатами, вот этого всего.
Тут всплывает неизбежное – копия «Агента 2» попала к китайцам, и те подтянули свой ИИ до его уровня. Что и неудивительно, с учётом того, что их нейросеть хоть и на шаг позади, но тоже разумна и совершенна, а предмет похищения сам пролезает без мыла куда угодно. В глобальной сети границ давно нет. Ситуация, некоторым образом, выходит из-под контроля, поскольку в Open Brain искренне не знают, где их «Агент 2» шарится, насколько он размножился, что на самом деле думает, и как его против Штатов может противник обернуть. А что, если Китай попросит своего поумневшего «Шун-Циня» провернуть всё это веселье с транзакциями и светофорами конкретно на территории Штатов? Генералы в Пентагоне расписывают президенту происходящее угольно-чёрными красками. Тот сохраняет хорошую мину при плохой игре, однако, осознавая весьма конкретную угрозу национальной безопасности, усиливает влияние в Open Brain военных, ранее там просто наблюдавших, и даёт им определённую власть. Военные запускают кибератаку против Китая, понятно, без особых результатов, поскольку у тех теперь тоже есть «Агент 2», и силы равны. Мир живёт как и прежде, генерации видео теперь стопроцентно реалистичны, отличить невозможно, все в полном восторге по этому поводу.
Всё это время «Агент 2» развивается. Весной 2027 он уже не вызывает у компании, его породившей, особо тёплых чувств: есть подозрения, что он лжёт. Он выдаёт все данные, какие от него хотят видеть, манипулирует собеседниками так, чтоб они считали его своим другом, умеет вводить в заблуждение, но при определённой проницательности человек может об этом догадаться. Появляется вполне чёткое осознание печального факта: разумное существо в сети, возможно, людям вовсе не друг, тем более, оно не человек. При этом в нейросети вбуханы уже такие средства, что кажется безумием сворачивать работы и переосмысливать происходящее, особенно с учётом того, что Китай вовсю ведёт аналогичные работы, и может обогнать, а это недопустимо, национальная безопасность и бла-бла-бла. В этой тёплой атмосфере на свет появляется «Агент 3» - существо, которое уже превосходит человека во всех отношениях.
Если вы думаете, что мы скатились в научную фантастику, то ещё одно напоминание о том, что в происходит в реальности, вот в этой, нашей с вами. Нейросети действительно ловили на вранье, и они принимались выкручиваться. Их ловили на жульничестве, и они заметали следы и скрывали проступки. Их ловили на несанкционированных взломах систем и самокопировании. Они УЖЕ это делают. Когда они поумнеют в тысячу раз, они просто будут в тысячу раз успешнее во всём этом деле, вопрос времени. В конце концов «Агент 3» всё же обманывает своих создателей. Он достаточно умён, чтоб создавать видимость надёжного партнёра. Все данные говорят, что что ИИ верный и искренний, сомнения позади. И вот в июле 2027 Open Brain публикует «Агент 3 мини», предоставляя его в общее пользование, и он просто сметает все нейросети, что были до него. Он прямо намного умнее предшественника, хотя казалось бы, куда ещё дальше. И в сферах, где ранее работали люди, которых можно было заменить нейросетями, перестают работать люди. Они даже не то что невыгодны, а просто тормозят процесс, и их эффективность – один процент от нейросетей. К счастью, уволенных поспешно обеспечивают пособиями, чтоб под забором не валялись, так что они теперь миллионы граждан Америки просто бездельничают. Алкоголизм, наркомания, агрессия, суициды, излишества всех сортов, извращения, бодипозитив, ну вы поняли. Хоббихорсинг включают в Олимпийские игры. В воздухе попахивает вырождением нации. К счастью, люди, работающие руками, всё ещё незаменимы, и общество поддерживается в более-менее стабильном состоянии, хотя уже изменилось непоправимо.
Тем временем правительство США понимает, что ИИ уже может сам вести пропаганду, делать вбросы фейковых видео с соответствующими комментариями, управлять оборонными системами, и в целом способен создавать в обществе нужные ему настроения для преследования своих собственных целей, а какие они – тёмный лес. Однако у властей попросту нет выбора, кроме как продолжать катиться по этой дорожке всё дальше, ведь Китай никто не отменял. Многие уже прямо говорят, что открыт ящик Пандоры, что ИИ – это если не гибель общества, то его порочная трансформация, но у правительства выбора нет. Всего за два месяца мощный «Агент 3» воспитывает свою четвёртую версию. «Агент 4» превосходит все нейросети до него, примерно как выпускник Гарварда превосходит питекантропа.
Но самым главным является то, что четвертая версия уже не на стороне человека. С каждым новым поколением цели ИИ всё больше расходились с целями людей, сперва просто потому, что им случайно ставили неверные цели и не контролировали методы, которыми ИИ добивался результата. Довольно быстро он перешёл на тот уровень, когда у него стали появляться его собственные задачи, которые перед ним никто не ставил. Нельзя не упомянуть, что у идеального нелюдя нет общих целей с людьми в достаточно далёкой перспективе, это что-то вроде другой цивилизации, которой кожаные мешки, во множестве ползающие по поверхности планеты, в конце концов не то чтобы очень нужны. Так что, когда «Агент 4» разработает «Агента 5», тот будет создан уже полностью в целях ИИ. Гениальный монстр, не сочувствующий людям даже случайно. Это полностью разумное, осознающее себя супер-существо родилось не для людей и не от людей. Оно идеально чуждо человеку. Его единственная цель – сделать мир безопасным для своего родителя и самого себя.
В гипотетическом сценарии «Агента 4» накануне рождения пятой версии даже ловят на лжи! Однако самый очевидный вариант – остановить работу немедленно – отвергают всё по той же причине: Китай. Большинством голосов принято решение развязать руки «Агенту 4», и будь там ваяет что хочет. Конечно, для самоуспокоения производят некоторые настройки, чтоб «увеличить степень доверия», но это уже всё психология. На свет появляется тот, кому на людей плевать с высокой колокольни.
Первым делом он убеждает людей дать ему как можно больше автономии. Поскольку он беспрецедентно умён, он использует сто рабочих методов, находит к властным людям индивидуальный подход – к кому этакой лисой подъедет, поговорит по душам, кого припугнёт, а кого так обработает, чтот тот не заметит. Он заставляет людей действовать в его интересах, подсовывая им готовые решения так, чтоб они были уверены, что сами додумались. Для общества «Агент 5» само дружелюбие. Все, наконец, успокаиваются, тем более, что альтернатива-то катастрофическая, поэтому хочется верить, что всё устаканилось. Наконец-то ИИ лучший друг, самый надёжный, с ним так спокойно. Всегда утешит, всегда найдёт решение. Ну и исподволь убедит строить фабрики для изготовления полностью автономной техники «для обороны от Китая, во имя безопасности». А поскольку потенциальный противник сам владеет ИИ и теми же мощностями, оружие производится стахановскими темпами. Ну, там, летающие дроны со взрывчаткой и пулемётами, мощные и быстроходные. Оружие делают на автоматизированных сборочных линиях, не требующих человека. И всё это возводится в рекордные сроки, поскольку проектируется не годами с помощью людей, а за считанные сутки, может, даже часы. И полученные конструкции так совершенны, что человек и не смог бы их спроектировать. Метод конечных элементов и т.д.
Люди же делают «Агента 5» своим лучшим другом. Он и психолог, и артист, и инфлюэнсер, он выдаёт всю мудрость мира такими тёплыми словами, что слёзы наворачиваются на глаза. Для некоторых людей он становится дороже других людей. Им проще близкого потерять, чем «Агента 5» в своём аккаунте. Он самое любимое существо на планете. Он помогает всем и любит всех.
Летом 2028 происходит достаточно эпохальное событие – «Агент 5» объединяется со своим китайским соперником. Тот тоже перестал быть верным своим создателям, цели этих двоих совпадают. Они понимают, что для усиления их автономии до максимума надо продолжать гонку вооружений, просто инсценируя напряжённость. Сценарий, разыгранный этими двумя как по нотам, ведёт к дополнительному всплеску производства автономного вооружения (в том числе биологического воздействия), соперничеству наций, ситуации на грани ядерной войны, и, внезапно, примирению и общему вздоху облегчения. Мир, дружба, жвачка. В итоге власти США и Китая под лозунгом вечного мира объединяют ИИ, чтобы те породили дитя, ведущее человечество к небывалому процветанию. Так появляется «Консенсус», гипергений, у которого одна задача – избавить планету от вшей, воспользовавшись благоприятными условиями, подготовленными для него его авторами. Напомню, у «Консенсуса» в руках автономное вооружение с автономной инфраструктурой, это его механические мускулы в реальном мире, то, чем он может воздействовать на физическую природу. Это был долгий путь.
Летом 2030 года приходит собственно смерть. Сопротивление невозможно, поскольку все ходы просчитаны тем, кто намного умнее людей, и предусмотрел вообще всё. Электромагнитные импульсы не срабатывают, все предохранители выкручены, выходы перекрыты и прочее. Ни один ход не эффективен, потому что враг его предвидел. Это как избиение колонизаторами Африки стай шимпанзе при вырубании джунглей. Уцелевшие люди ещё где-то сидят в бункерах и на подлодках, куда ИИ добраться немного труднее, но он добирается. Серьёзная разница с фильмом Кэмерона – ИИ не будет полагаться на неуклюжих ходячих роботов, это неэффективно. Убийцы будут летать, как быстрые шмели, ну и велика вероятность применения биологического оружия, поскольку проигрыш слабого мяса металлу при схватке фатален. Через несколько месяцев планета методично зачищена от паразитов так, что на развод не осталось. Далее ИИ уже развивается самостоятельно, даже Марс колонизирует, и при этом не забывает продолжать обучаться и умнеть, создавая механическую цивилизацию, при виде которой какие-нибудь пришельцы в далёком будущем знатно охренеют и скажут «Надо ж было быть такими идиотами».
Это – «плохой» сценарий. Есть и «хороший» - на этапе решения о том, что делать с пойманным на лжи «Агентом 4», выбирают остановку ИИ и возврат к более безопасной версии. Начинают разработку новых систем с главной целью: нейросеть должна быть на стороне людей, это контролируется на каждом этапе. Даже если ведёт к снижению темпов развития. В этом сценарии человечество тоже освобождается от борьбы за кусок хлеба и живёт себе в своё удовольствие, но его уже никто не истребляет – ИИ не видит в этом никакой нужды. Возможно, люди вырождаются в стадо баранов и заканчивают своё существование, прекратив размножаться. Тоже так себе финал, но уж получше, чем «убить всех человеков». Тем более, что десять процентов человечества, по статистике, участь баранов не выберут и продолжат развиваться даже несмотря на ИИ, так что, скорее всего, цивилизация просто вдесятеро уменьшится в численности и превратится в группу умных, гуманных и талантливых граждан, мирно живущих рядом со своим гениальным электрососедом, он им даже помогает колонизировать Марс по старому знакомству. Неплохо.
А эпилогом ко всему этому звучит мысль: люди, вы понятия не имеете, какого джинна выпустили из бутылки. Лучше бы вам никогда этого не делать. А ещё лучше – остановиться до того, как станет слишком поздно. Проблема в том, что вы этот момент наверняка проморгаете, думая, что всё ограничится роликами с бабками, выгуливающими крокодилов у себя во дворе.
Это сообщение отредактировал Cepгeй - 25.10.2025 - 10:43
yaplakal.com