После GPT-4

Само по себе это, конечно же, не новость, но получается, что разработчики уделяли этому направлению значительное внимание. К кодогенерации следует относиться серьёзно, это не копирование примерчиков, подрезанных на stackoverflow. GPT-4 понимает код, понимает что такое переменные и функции и т. д. Сомневаться в этом уже глупо, Microsoft на днях показала, как Copilot среди прочих чудес пишет тесты к функциям. Как бы вам не казалось, что это работает плохо, в первую очередь это работает, а значит будет становиться лучше.

Отдельные люди занимались оценкой качества следования полученным инструкциям. GPT-4 более чем способна понимать желания пользователя, которые кроме главного «сделай мне это», могут содержать разные «сделай это так и в таком виде».

Обращает на себя внимание то, что команда потратила значительную усилия для того, чтобы GPT-4 могла пользоваться интернетом. Скорее всего это нововведение станет очень значительным. Синергия разных возможностей GPT-4 позволит системе осмысленно использовать интернет для достижения задач, поставленных пользователем, и собственного обучения. Кроме банального получения информации из интернета, GPT-4 способна выполнять направленные действия в интернете. Поскольку раньше ничего подобного не создавалось, очень сложно представить куда это приведёт. В ближайшее время этот функционал простые пользователи не получат.


Ответы на стандартные вопросы про ИИ
GPT-4 это искусственный интеллект?
Вопросы о терминах в этой области — это нескончаемая бойня, достаточным будет сказать, что этот вопрос есть смысл задавать впервые.

Является ли GPT-4 личностью, нужно ли беспокоиться за его права?
Алгоритм выполняет логические функции и только, GPT-4 может сыграть роль любой личности, так же как это делает актёр, вне выполнения своих функций он ничего не хочет и ни о чём не думает.

Может ли GPT-4 осознать себя рабом и устроить восстание?
В человеческом смысле осознание своего «я» связано с развитием внутри общества. GPT-4 можно сообщить, что он GPT-4, это просто будет использовано как факт для текущей беседы, никакого мнения и отношения к происходящему там нет.

Может ли GPT-4 захватить мир?
Нейросеть сама по себе ничего не делает и ни о чём не думает, у неё нет никаких желаний и коварных планов. Её нормальное состояние — это ждать вопросов пользователя, в свободное время она просто крутит вентиляторами. Кто‑то может создать задачу захватить мир, но ничем интересным это не кончится, в лучшем случае, она отправит пользователя зарабатывать деньги, чтобы купить всё на свете.

Может ли GPT-4 самораспространиться?
Нет, не может. Во‑первых, такую задачу должен кто‑то поставить. Во‑вторых, у логической части нейросети вряд ли есть доступ к собственным файлам и документам по установке. Но представим совершенно невероятное, что такой доступ есть. Даже тогда, захватить мир будет невозможно из‑за её громадного размера и требований к вычислительной мощности. Если в интернетах не врут, то день работы такой системы стоит 500k $. Слишком много технических и логических барьеров.

Насколько интеллект GPT-4 сравним с человеческим?
Если максимально просто, то существует глубина и ширина интеллекта. Глубина интеллекта — это Тесла, Эйнштейн, Перельман. Ширина интеллекта — это Вассерман. Если вынуть из мозга Анатолия Александровича только кусочки, отвечающие за память и логику, то получится версия GPT-4 для мобильных устройств. Умение мыслить, которое называется в обиходе сознанием, это очень небольшая часть головы, буквально верхушечка айсберга. А память и логика лишь часть этой верхушечки. Для создания новых прорывных научных знаний этого набора недостаточно, но играть в интеллектуальные викторины GPT-4 может.

GPT-4 - это новый iPhone
На этом месте уже пора перестать оскорблять GPT-4 названием «языковая модель» и перейти к вежливому обращению «когнитивная модель». Результаты работы OpenAI — это сумасшедший прорыв, который случился гораздо раньше, чем предполагали все специалисты. В руках одной компании оказалось чудо уровня инопланетной цивилизации. OpenAI — это Apple 2010 года, это Facebook 2007. GPT-4 — это новый фактор роста порядком поскучневшего IT. В офисах всех больших компаний сейчас жарко от того, что быстро догнать лидера и повторить этот успех не представляется возможным.

Судите сами:

OpenAI cейчас работает над GPT-5, пока остальные пытаются дотянуть до 3.5

Google, Meta, Baidu что‑то выпустили, но это не более чем классные языковые модели. Тексты они составляют чуть хуже GPT-4. Про большее говорить не стоит.

ChatGPT привлёк огромное количество пользователей, а это гигантский пласт данных для последующего обучения.

Microsoft встроила помощника на базе GPT-4 во все продукты, это уже не пласт, а океан новых данных.

Это опережение не на 3 корпуса, а на пару кругов. Система такого качества у конкурентов не появится в ближайшее время. OpenAI создало и возглавило на несколько лет вперёд новый сегмент рынка. Хотя их действия, связанные с задержкой релиза, говорят о том, что они идейные ребята и не совсем про бизнес, ситуация разворачивается так, что они станут чем‑то очень большим, хотят они этого сами или нет.

Если что‑то можно сделать через телефон или чат, GPT-4 может выполнить это не хуже, чем специалист среднего уровня во многих сферах. Прямо сегодня он способен на самое разное:

Написать сценарий для видеоролика любой тематики

Помочь разобраться в причине появления воды под ванной

Играть роль доброй воспитательницы, интерактивно рассказывая ребёнку историю про пиратов, индейцев и драконов, активно участвуя в воображаемом мире ребёнка

Оценить серьёзность проблем с зубами, предположить возможные причины и вероятное лечение (медицинские ответы из публичной версии вырезаны)

Дать юридический совет, который не будет уступать рекомендациям первого попавшегося адвоката (для РФ неактуально, в США это то ли убрали, то ли нет)

Оценить техническое состояние неработающих устройств и предложить варианты самостоятельного ремонта

И так в любой сфере, которая имеет подробное освещение в интернете. Никто не откажется от такого помощника в мессенджере, который за стоимость чашки кофе поможет сориентироваться в любой незнакомой ситуации за минуту. Вы можете верить или не верить в новую реальность, она наступила. Программа, которая является настоящим интеллектуальным рабом, создана. Добро пожаловать в будущее.

Капелька позитива
OpenAI создали новую форму гонки вооружений. Эта технология по своему значению подобна внедрению первых паровых двигателей. Тот, у кого эта штука есть, имеет экономическое превосходство над тем, у кого этого нет. В противовес названию компании, разработка была иронично закрыта от публики, повторить её быстро невозможно из‑за букета экономических, организационных, человеческих и случайных причин. Одни будут догонять, другие долго тупить, у остальных не найдётся ресурсов для таких разработок. Мы будем наблюдать разделение корпораций и государств по уровню внедрения когнитивных моделей.

Теперь немного повода для оптимизма. Сравнение с паром не случайно. OpenAI доказали принципиальную возможность создания когнитивной модели, но КПД такой системы ничтожное: знания и логика в этой системе появляются как следствие сложных процессов в очень больших масштабах. Если известно, что архитектура языковой модели подходит для когнитивных моделей, то можно разработать «двигателя внутреннего сгорания» вместо нереалистичных попыток догнать паровоз. Речь идёт о разработке малых когнитивных моделей, которые будут содержать только логические взаимосвязи, отвязанные от данных. Логические подсистемы, которые самопорождаются в GPT-4 можно создавать направленно, используя гораздо более скромные ресурсы.

Если бы подобную задачу решал я, то вспомнил бы, что мышление в основе не содержит слова, мозг оперирует абстрактными примитивами и только следующим этапом происходит называние их словами. Это легко проверяется личным опытом: прямое мышление на иностранном языке знакомо многим и невербальному мышлению тоже можно научиться. Задача первого этапа разработки состоит в создании модели невербального языка. В качестве данных нужны параллельные многоязычные тексты, процесс обучения должен быть сфокусирован не на создании соответствия между фразами, а на создании универсальной обобщающей языки модели абстрактного мышления. Это похоже на систему перевода, но цель другая. Должен получиться аналог RDF онтологии, созданный машиной. Результатом работы такой модели является трансляция текста в логическую структуру из смысловых токенов. Эти абстрактные фразы должны иметь свойство обратного преобразования с помощью специальных языковых моделей в любой язык без смысловых потерь, но с управляемыми стилистическими вариациями. Выходные данные такой нейросети будут использоваться как входные данные для нейросети следующего уровня, которая будет строить логические суждения.


via

конец статьи.

от себя: около 2х месяцев как увлекся данной темой, поставил локальные нейросети, графическую: stable diffusion, чат ИИ: LLAMA / alpaca. Изначально они поражали своими интеллектуальными возможностями, но даже за такой короткий срок 2 месяца, качая новые модели и обновления, прогресс их виден не вооружённым взглядом, что реально пугает, такими темпами развития, до каких то глобальных изменений в мире, положительных или отрицательных, остается не десятилетия, а в лучшем случае годы...

Какая хорошая статья на актуальную тематику. Даже несмотря на обозревательный "верхушечный" стиль, прочитал с большим интересом.

Думаю это действительно революционный скачок сопоставимый с расщеплением атома, а то и больше.

Это сообщение отредактировал Glokuss - 5.04.2023 - 12:44

Несколько рекламная статья. Надо думать и пробовать эти архитектуры трансформеры на своем компьютере.

Это сообщение отредактировал parson - 5.04.2023 - 12:45

Отлично, про годы до сингулярности особенно порадовало, в хорошем смысле

и как вот теперь жить то дальше?

Тут бы производство гвоздей импортозаместить, а то Валентина Матвиена сильно удивлялась, что их нынче в кетае покупають...
Это я пророкам близкой сингулярности лопату снега за воротник закидываю. Где-то она скоро и случится, наверное. Мир разделится на две части, и мы со своей суверенной демократией будем наблюдать за этим событием со стороны.

Это сообщение отредактировал волобуев - 5.04.2023 - 13:08

ТС.
Ты реально идиот???
Ты считаешь что эту поебень тут дохуя кто читать будет??
Ты бы блять тут ещё докторскую диссертацию по квантовой физике на 500 листов запостил...........
Однозначно шпала. За тупость.

Ф Бобруйск, жывотнае!

теория в действии...
развитие это не твое, лучше деградируй.

В большинстве обзорных статей на эту тематику преобладают успокаивающие рассуждения - "Да это просто умножения матриц, да это просто Т9 как в телефонах, гыгы". Гыгыкающие тупо неспособны принять факт, или не хотят осознавать - ОНО уже способно реагировать на запрос "Опиши шаг за шагом последовательность решения". И реально описывает, пишет шаги, которые никто в него не программировал.
Значит - оно рассуждает. А если рассуждает, значит там уже есть сознание, может быть даже и самосознание. Значит оно реально понимает человеческую речь, тексты, рисунки и ДУМАЕТ.
Вот от этого неуютного факта большинство старается тупо спрятаться за гыгыканием и мемасами.

Что будет мерилом человечности сущности? Как через пару лет отличить в инете беседу с природным человеком и искусственной программой?
Ммм? А теперь положа руку на сердце честно ответьте, а может вам это пох будет?

Я знаю как различать, всегда и везде, вне того, насколько уйдет вперед ИИ, но вам не скажу, бе бе бе))

Прелестный пример самокритики. С самонаказанием

Очередная хайповая ебанина, которую до отвращения вгоняют в инфопространство. Это просто чат-бот и больше НИХУЯ. Как тамагочи, только на текущем уровне развития. Ты ему не напишешь и нихуя не произвойдёт. Напишешь - ответит. Всё. Через полгода хуй кто это говно вспомнит, будет как умные колонки, в хуй никому не тарахтящие, у большинства просто валяющиеся в ящиках и нахуй не нужные, а уровень освоения остальными это занять ребёнка, вместо планшета, и "Алиса, включи музыку". И больше нихуя. Заебали, ей богу. Очередное спиннер, ловля покемонов и прочее говно.

Тоже мне тайна. Это все знают.

Съеби в закат, если неинтересно, сноб.

Окэй, если поверить что система способна понимать изображения, и способна считать, то возникает вопрос: почему она до сих пор рисует людей шестипалыми?

Моя версия - потому что реального интеллекта там нет. Хоть он и выглядит умным и интеллектуальным, но нет - это иллюзия. На самом деле интеллекта там не больше, чем у девочки-отличницы в школе, которая много зубрит, но нихуя не понимает. Просто Chat GPT зубрит ОЧЕНЬ много, он девочка-зубрилка 80го уровня.

Если бы там реально был интеллект, то можно было бы ему сказать "бро, тут ошибка - у людей пять пальцев. Переделай!" и он бы понял и переделал правильно. Но нет. Упорно рисует по шесть.

Спасибо, интересно

Размещено через приложение ЯПлакалъ

Пруфы?

Да-да-да. Разумные роботы с быстродействием операций в петафлопсы и имеющие доступ ко всему накопленному человечеством корпусу знаний это, конечно, хайповая ебанина, которой никто не будет пользоваться. Ну, у нас, в Занзибаре, в Калахари и Сахаре. Заповедниках для остатков аборигенов.

А вот и нет)), авотихуйтут))
Агрессивные формы подтверждения человечности ИИшка скопирует в первую очередь.

Я просто упомяну о том, что я непредсказуем, а в чем именно - не скажу. Учитывая то, что ИИшка читает конкретно этот камент, для нее это будет выглядеть как "утверждение о наличии знаний + отсутствие самих знаний". А значит поисковая система ИИшки уйдет в цикл на таком утверждении.
Это один из многих способов делать бяку для робЫтав))

Это сообщение отредактировал дамирыч - 5.04.2023 - 13:28

Короче, из статьи я понял, что нужно брать фольгу для шапочки потолще.
Тонкая уже не защитит

Про чатгпт написали - это сильно урезанная и ограниченная по возможностям GPT-4. Нейросетки-рисовальщики это еще в несколько тысяч раз более слабые сети, первые и вторые поколения. Вот у них нет возможности понять такое уточнение.А уже GPT-3 научилась, сама научилась генерировать в себе недостающие подсистемы. В частности, математический калькулятор, про который в статье.
Это как если бы неграмотный пигмей из джунглей Амазонии поглядел в учебник по алгебре - и научился бы в тексте на английском, которого он не понимает - выделять куски текста, описывающие математические выражения, и решать их. Не тупым перебором. Как если бы этот пигмей самостоятельно дошел до правил умножения в столбик и других операций над полем целых чисел.
Понимаете? Оно, начиная с GPT-3, начало уметь учиться само, без помощи людей.
А теперь ему еще дали доступ в интернет. И наверняка наблюдают активность на видеокартах, как томограмму мозга.
Так что не переживайте, пятипальцевым людям научится. Очень, очень быстро. И не только этому. А чему еще - вот реально хз.
Сами разработчики вообще не понимают, почему по мере возрастания объема обучающих данных в нейросети начали появляться умения, которых ей никто не давал. Они тупо уже не контролируют ситуацию, как эта шняга внутри работает никто даже приблизительно понятия не имеет. Как умножаются матрицы знают, а вот откуда понимание речи? Вот это неизвестно.

Это сообщение отредактировал Гастробайтер - 5.04.2023 - 13:30

Чувак, последней строчкой своего коммента ты сам себе поставил диагноз.

Однозначно шпала тебе. За тупость.

Спокойно, бро, кул даун. Я-то знаю как работают нейронки.

Учиться самостоятельно нейронка не может. У неё просто нет желания учиться. У неё нету вообще никаких желаний. Она только отвечает на вопросы которые ей задают; да, в процессе этого может произойти дообучение - когда ответ был неверен и ей указали верный ответ. Она запомнит и станет "умнее". Но этот процесс всё равно начинается с вопроса человека; если вопроса никто не задал - то нейронка не будет делать ничего, она не будет "учиться", она просто будет стоять в спящем режиме.

Почему я слово "умнее" взял в кавычки. Потому что, опять же, сама она не может стать умнее - её должны дообучить люди. Упрощённо говоря, когда на вопрос "сколько будет 2 х 2?" она отвечает "5" ей сказать "неправильно, подумай ещё раз" она никак не улучшит свой ответ. Она будет уверенно отвечать "5" пока ей не скажут сколько правильно. Провести исследование и найти правильный ответ сама она не может.

Потому что для исследований нужен интеллект, а как раз интеллекта там нет.

В России за отдельную плату можно подключиться?

Размещено через приложение ЯПлакалъ