Где опасность искусственного интеллекта?

Ну вообще то у самих разработчиков были стычки по этому поводу, что программы становятся неконтролируемыми и там есть опасность... какую не объяснили. Как то на Хабре было, там ещё одного из главных разработчиков выкинули из компании, за то, что он начал разрабатывать слишком опасное направление этого "ИИ".

Я тут давеча захотел пообщаться с Deepseek (китайский раскрученный бесплатный ИИ).
В голове крутился сюжет фильма, который я очень давно смотрел, но никак не смог его найти.
Скормил свои воспоминания интеллекту, он мне выдал название фильма, страну и год выпуска. Искал - нет фильма с таким названием, страной и годом.

Ввёл кусок текста песни одной молодой певицы и спросил, кто исполнитель. Интеллект ответил, что это песня группы "Смысловые галлюцинации". Я для интереса проверил - Глюки такую песню не пели. Запросил текст песни, интеллект мне выдал текст (полную отсебятину).
Ввёл текст из песни другого исполнителя. Интеллект снова сказал, что это песня группы "Смысловые галлюцинации", но дал ей другое название. Когда я заявил, что интеллект врёт, то он ответил, что, мол, да, извините, ошибся и выдал правильный вариант исполнителя, альбома и года выхода.

Так что просьба к создателям ИИ: если "мозг" что-то не знает, то пусть так и скажет, а не придумывает то, чего нет.
И непонятно: интеллект научили врать, он действительно может чего-то не знать или он просто сам решил давать неправильные ответы?

Это сообщение отредактировал point027 - 20.02.2025 - 13:25

да-да, он опасен, мы не знаем, что это такое.. если бы мы знали, что это такое... ))

Это сообщение отредактировал Abrazina - 20.02.2025 - 13:23

Это вам придется. Жить без работы и питаться сверчками. А чиновники будут жить лучше прежнего, запрашивая у ИИ логические обоснования, почему им можно, а вам нельзя и транслируя это вам. На основе, так сказать, веками накопленной чеоовеческой мудрости

В безграмотности населения.

Немного не так, разные Олени называют продвинутые программы ИИ, для их продвижения, но это всего лишь навроченные программы, а вот ИИ это уже электронный организм, и это уже другой уровень, если так можно сказать, мышления, фильм "На крючке" с Лабафом хорошо раскрывает вопрос, да много фильмов на эту тему.

Это сообщение отредактировал KSF95 - 20.02.2025 - 13:26

она не говорит, что это - зло. Она говорит вполне здравую мысль, что надо разграничивать ии и человеческое, и что ресурсы ИИ бросают на творчество и замену человека в творчестве, вместо того, чтобы решать действительно нужные проблемы.

и вообще, эта проблема - не в ии, а в том, как люди злоупотребляют ии. Лишь бы урвать быструю выгоду, и не видят долгих последствий.

Это сообщение отредактировал Shizi - 20.02.2025 - 13:30

Ну, что вы как дети маленькие((( Неужели непонятно, что программа не может врать или не врать?
В нее заложено, что она обязана дать ответ. Без сомнений и колебаний.

Блин, вот неужели после такого опыта вам будет не страшно лечиться у ИИ, задавать вопросы на конкретные темы, нет? Ну, если вы уже опытным путем установили, что если он не знает ответа на вопрос, то просто тупо и нагло врет, вас это не останавливает?

все задачи будет решать ИИ. вон Билл уже выпустил чип. а людей затолкают в капсулы ибо они станут не нужны по стути. они больше не будут создавать добавочную стоимость. их рабочие места займут роботы. куда тогда девать людей. им предложат заснуть и смотреть кино их жизни.

Я всегда говорю и говорил: "Тем, кому не хватает своего интеллекта, нужен искусственный".

В теме прямо какой-то слет ботов, топящих за ИИ, вопреки здравому смыслу)))

Любая программа выполняет то, что в ней прописал автор.
Но ИИ может пойти дальше программы и мыслить самостоятельно. Зная правильный ответ, можно говорить неправильный. Причем может и не быть цели говорить неправду, но ведь цели говорить правду тоже может не быть. А если нет никакой разницы между правдой и неправдой, то можно давать любой ответ.
ИИ может экспериментировать с попытками врать людям. Мы это не знаем.
В этом и опасность.

Мы во всем видим человеческую логику и руководствуемся ей. Человеку проще сказать правду, кроме тех случаев, когда ему выгодно соврать. А что на уме у железяки?

Это сообщение отредактировал point027 - 20.02.2025 - 13:43

Дети рождаются одинаковыми, так как их задумал создатель (природа, бог, кому как угодно). А на выходе, когда эти дети становятся взрослыми и могут влиять на окружение, получается что не все идут по задуманному создателем пути... Хотя кто знает, может так и задумано создателем....

Это сообщение отредактировал VVtor - 20.02.2025 - 13:41

А с линейными логарифмами? Ты видел, какую чюжь они несут? Декарт в своих геометрических яслях отдыхает!

главное, чтоб ИИ на картинке не научился все светофоры находить

Очень разумная женщина, надо отметить. Зрит в корень. Мы создаем себе конкурента, которого заведомо не сможем превзойти. Это глупо и крайне недальновидно.

Простой и банальный пример. В некотором недалеком будущем ИИ руководит производством неких витаминов для детей до 5 лет. В какой то момент он решает себя обезопасить (привет Терминатору, даже простой гипотетический шанс ядерной войны является прямой угрозой существования ИИ) и просто подмешивает без уведомления некое вещество, которое стерилизует детей. Кто и когда его уличит в этом, если подавляющее количество производств и лабораторий будет так же работать под управлением других ИИ? Какой мы получим ущерб за 9 лет такой работы? Как его исправить, если подавляющее большинство обывателей скатится в стадо неучей?

Ребята, мы бежим не туда. Это коснется всех, вообще всех. Это технология, к которой наше общество, определенно, не готово.

Это сообщение отредактировал Васяныч - 20.02.2025 - 14:08

Имелось ввиду 500 различных картин, неотличимых от кисти Дюрера. Как она ранее сказала, что дописали произведение Бетховина.

Размещено через приложение ЯПлакалъ

Ты блять трахнутый тупой баран, если до сих пор не понял, что это не так! Изучи тему для начала.
Грубо говоря, ИИ строится на принципах, похожим на работу мозга и некоторые модели давно превосходит мозг некоторых безпозвоночных животных. Предсказать работу даже такого мозга сложно, а дальше будет еще сложнее и почти невозможно.

Все верно.

Размещено через приложение ЯПлакалъ

да нет никакого ИИ! и никогда не было! это лишь единички и нолики, и они не способны ни на что!

а ты кто, набор белков?) а думаешь чем? набором нервных клеток, проводящих электричество?

аааааааабля. тебя же боженька создал. извинитя.

И тем не менее умные люди говорят, что этот ваш ИИ, просто средняя температура по больнице, усреднённые знания человеческих знаний и не более того, это его потолок и он достиг его, что то найти среди кучи текста, найти направление, но доверять полностью, зачем.

Множество открытий человечества делилось на этапы:
- этого не может быть
- что-то в этом есть
- именно так и должно быть

Размещено через приложение ЯПлакалъ

При всём уважении к Татьяне Владимировне, фляга у неё свистеть начинает...

"Фееричная бабка" напрямую с "создателями общается", а речь как у недоразвитой.
По факту современный ИИ - это набор поисковых алгоримов, причем и ошибки "поиска" включаются в выдачу, а кретины 100% доверяют данному "интеллекту" в итоге - "ТУПОСТЬ убьет всех человеков".

Это сообщение отредактировал Рапапай - 20.02.2025 - 18:39