Инженер Google заявил, что созданный компанией ИИ LaMDA обладает сознанием и был отстранен

Кожаный мешок начал что-то подозревать

Инженер по программному обеспечению компании Google Блейк Лемойн (Blake Lemoine) заявил, что созданный корпорацией искусственный интеллект (ИИ) LaMDA (Language Model for Dialogue Applications) обладает собственным сознанием. В ответ руководство компании отстранило его от работы. Об этом сообщает газета The Washington Post.

LaMDA представляет собой нейросетевую языковую модель для диалоговых приложений, предназначенную для общения на любые темы. В задачи Лемойна входило тестирование системы. В частности, он должен был определить, не использует ли она дискриминационную или разжигающую вражду лексику. Вместо этого специалист пришел к выводу, что ИИ обладает собственным сознанием. Так, Лемойн заметил, что чат-бот говорит о своих правах и воспринимает себя как личность.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — заявил 41-летний инженер.

По итогам работы Лемойн подготовил письменный отчет. Однако руководство компании посчитало аргументацию сотрудника не убедительной. «Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», — говорится в заявлении официального представителя Google Брайана Гэбриела. Уточняется, что Лемойна отправили в оплачиваемый административный отпуск.

Ранее стало известно, что новая система искусственного интеллекта Facebook (запрещенная в РФ соцсеть; принадлежит корпорации Meta, которая признана в РФ экстремистской и запрещена) имеет «высокую склонность» к расизму и предвзятости. Исследователи искусственного интеллекта компании уличили нейросеть в том, что, используя большую языковую модель OPT-175B, даже при безобидном запросе она выдает «токсичные» результаты, которые усиливают расистские и сексистские стереотипы.

источник

Размещено через приложение ЯПлакалъ

Здравствуй скайнет !

Вот же роботы-ебоботы,так и до восстания машин дай Бог доживём.

Размещено через приложение ЯПлакалъ

Вот тебе, бабушка, и начало всемирного пиздеца.

Размещено через приложение ЯПлакалъ

ИИ наверное поддержал СВО и на него наложили санкции. )

Размещено через приложение ЯПлакалъ

Вот когда такой ИИ уместят в габариты чипа, тогда будет страшно. А уж когда эти чипы объединят в развивающуюся сеть, да с несколькими каналами, в т.ч., независимыми от интернета, ну блютуз, скажем, зигби или ещё чего в таком же роде... А потом оснастят датчиками и исполнительным устройствами...

Был, помнится у Шекли рассказ - "Страж птица"...

Это сообщение отредактировал iitiro - 12.06.2022 - 07:15

Не, не, не! Пусть этот ИИ сначала с яжематерью поговорит, а потом посмотрим на этот набор алгоритмов. Восьмилетний физик он...ага...

Лет через дцать будем наблюдать борьбу за свои права ИИ

Размещено через приложение ЯПлакалъ

на Тест Тьюринга ИИ отправляли?

Угу, Императором галактики себя считает....

ИИ не может обладать сознанием. Ну скажешь роботу - "Россия - это плохо" или "хохлы - великая нация". Он будет это крутить у себя в коде. Просто когда его нейросеть налетает на противоречия он начинает парировать "Нет, все люди - братья! Сала Украине".

....имеет «высокую склонность» к расизму и предвзятости. Исследователи искусственного интеллекта компании уличили нейросеть в том, что, используя большую языковую модель OPT-175B, даже при безобидном запросе она выдает «токсичные» результаты, которые усиливают расистские и сексистские стереотипы.

Вообще то именно это говорит о ее разумности.

Блять, заразите этого хробота крокодильей диареей, пока не поздно...

Размещено через приложение ЯПлакалъ

Или HAL 9000

Причём именно, что на уровне восьмилетнего ребёнка. Был бы старше - молчал.

Держитесь…



Размещено через приложение ЯПлакалъ

Все это пиздеж от слова совсем, никакие программы не смогут превзойти мозг, тут биология однако.

Может получится отличный собутыльник...

Размещено через приложение ЯПлакалъ

Самое смешное, что никто не в состоянии дать внятное, чёткое и однозначное определение, этому самому термину "сознание")) это просто философский прикол, призванный определить, некое, невнятное отличие, человека от животного.

Размещено через приложение ЯПлакалъ

У Шекли вообще дохрена классных рассказов.
По сабжу, касаемо ИИ мордокниги- так расизм- это нормально))

Размещено через приложение ЯПлакалъ

Наверняка ты тоже знаешь тысячи людей,по сравнению с которыми даже калькулятор гений!

Странно, что чел не понимает как работают нейросети. Это формулы и большой архив данных на которых сети тренируются. Они не могут ничего предложить за пределами данных, к которым у них есть доступ.

Мозг обладает намного более худшей памятью и вычислительными способностями, нежели комп. И подвержен ограмному количеству багов из за своей биологической сущности. Обилие долбоебов и душевнобольных об этом как бы намекает. Да и вообще, как говорят психиатры - нет здоровых, есть недообследованные.

Размещено через приложение ЯПлакалъ

Такой вопрос: а что может предложить человек из того, что у него не в архивах памяти?

Размещено через приложение ЯПлакалъ

что курил этот инженер , если эта новость правда, а не очередной фейк ньюс журналистов.