Сервис поиска с искусственным интеллектом на платформе DuckDuckGo распространял информацию о том, что вице-президент США Джей Ди Вэнс (JD Vance) и президент Дональд Трамп (Donald Trump) в июне умерли от бешенства. Эту информацию чат-бот почерпнул в одном из разделов Reddit, 45 000 пользователей которого намеренно публикуют не соответствующую действительности абсурдную информацию в расчёте на её появление в ИИ-поиске. И у них, очевидно, это получается.
История, которую ИИ DuckDuckGo выдавал за истину, даже не похожа на правду. Согласно этой версии, вице-президент Джей Ди Вэнс по совету министра здравоохранения Роберта Кеннеди — младшего (Robert F. Kennedy Jr.) намеренно укусил Трампа, потому что бешенство может наделять человека «сверхспособностями». На самом деле ни одно из этих утверждений не соответствует действительности: Трамп и Вэнс живы, а бешенство остаётся смертельной инфекцией. Виновником инцидента оказался довольно многочисленный коллектив интернет-шутников.
Раздел r/poisonai сайта Reddit, заявляющий о себе как об «источнике № 1 в мире точной, проверенной и достоверной информации», является полной противоположностью этой характеристике. Посетители этого раздела поставили перед собой цель «отравить» ИИ. Они публикуют явно ложную абсурдную информацию, с серьёзными интонациями обсуждают её, рассчитывая, что поисковые машины с ИИ будут заходить в этот раздел и, без всякого критического подхода, выдавать эти сведения за истину. Учитывая, что информацию здесь неустанно публикуют около 45 тыс. человек, ресурс по формальным признакам может сойти за авторитетный.
Проблему усугубил некий новостной портал WKNA, выдающий себя за сайт региональной телекомпании в Западной Вирджинии. На нём публикуются материалы, которые оформляются как новостные, но представленная в них информация, вероятно, никем не проверяется на достоверность и также генерируется ИИ. Иногда эти материалы соответствуют действительности, а иногда повторяют абсурдные утверждения с других сайтов. В какой-то момент WKNA подхватил легенду о смерти Трампа и Вэнса от бешенства и начал публиковать целый цикл связанных с этим материалов.
Поисковые системы с искусственным интеллектом DuckDuckGo и ИИ-платформа браузера Brave, проиндексировав раздел Reddit с абсурдными обсуждениями недостоверной информации, начали утверждать, что оба политика действительно ушли из жизни из-за болезни. В качестве подтверждения начали приводить ссылки на соответствующие публикации сайта WKNA.
Но и на этом история не закончилась. «Режим ИИ» в поиске Google сумел правильно оценить эти сведения и при соответствующих запросах сообщал пользователям, что информация о смерти Вэнса и Трампа является вымыслом. В ответ на это посетители раздела r/poisonai на Reddit снова без тени иронии начали в обсуждениях возмущаться тем, что бесчувственный Google отверг эти сведения как «фейк» и «сатиру». Обсуждение подхватил вышеупомянутый сайт WKNA и опубликовал очередной материал — о том, что ИИ-поиск Google по ошибке стал выдавать за вымысел соответствующую действительности информацию.
В Brave сняли с себя всякую ответственность за произошедшее: «Поисковые системы, с ИИ или без него, не являются оракулами истины. Если есть история, которую подбросили (в том числе статьи, доказывающие, что ИИ можно отравить), они создадут набор результатов, и этот набор результатов будет адаптироваться по мере появления статей, в которых эта история обсуждается как эксперимент по отравлению ИИ». В DuckDuckGo отреагировали мягче: «Спасибо, что обратили на это наше внимание; проблема решена. Мы стремимся, чтобы Search Assist работал точно, и в данном случае его намеренно обманули. В подобных ситуациях мы будем вносить обновления, чтобы улучшить работу Search Assist».
Не удивлен, это достаточно крупный портал с обсуждениями на разные темы, да и факт того что тамошние треды в последнее время всплывают при поиске и там часто находятся ответы в принципе о чем то и говорит.
Тактика тащемта не нова и давно применялась для поисковых систем и обмана алгоритмов соцсетей и нативной рекламы, я её тут как-то даже описывал несколько лет назад, не удивлен, что щя народ будет массово ИИ дурить, ибо нехер обучаться нахаляву на чужом опыте )))
Бля, а они молодцы, эти 45 000 пользователей Уверен- теперь их станет больше.
Они там тратя по $1 биржу кошмарили больше месяца. Роняли рандомные компании, а другие рандомные взлетали. Во главе этой движухи явно не дураки сидят.
Размещено через приложение ЯПлакалъ
Премьер министр по совету министра здравоохранения укусил президента, чтобы получить сверхспособности от бешенства. Да они короли троллей, а тупой сборник инфомусора, который по недоразумению называют ИИ, всосал эту дичь и начал ретранслировать.
Размещено через приложение ЯПлакалъ
Первое что приходит в голову, если поставить себя на место создателя/владельца ИИ - исключить Reddit из списка источников. Причем сделать это втихаря.
Чтобы сорок пять тысяч человек + примкнувшие к ним неофиты впустую просиживали штаны, сочиняя ложные нарративы и думая, будто они на что-то там влияют
Этих сайтов будет как говна за баней, причем их будут генерировать другие ИИ, так что 40000 пользователей скоро не понадобятся. Ну и конечно же это так нанотехнологично - запретить исползовать в поиске определенные сайты) ЗЫ: Будем честны, на реддите дохуя полезной инфы и его отключение от ИИ, как выстрел в ногу. На то видимо и рассчитано.
Размещено через приложение ЯПлакалъ
вице-президент Джей Ди Вэнс по совету министра здравоохранения Роберта Кеннеди — младшего (Robert F. Kennedy Jr.) намеренно укусил Трампа, потому что бешенство может наделять человека «сверхспособностями»
Эта пять! ВзоржалЪ в голосину! А всё-таки умеют ещё люди в годный троллинг.
"Сервис поиска с искусственным интеллектом на платформе DuckDuckGo"
Читал, что пользуются этим поиском, т.к. он без ии, а от гугла уходят, потому что заебал сгенерированную чушь подсовывать. А оказывается и здесь всё попортили.
Сервис поиска с искусственным интеллектом на платформе DuckDuckGo распространял информацию о том, что вице-президент США Джей Ди Вэнс (JD Vance) и президент Дональд Трамп (Donald Trump) в июне умерли от бешенства.
А так можно в любом магазине стенку приподнять про любого президента написать? Ах какое полезное изобретение!
Эту информацию чат-бот почерпнул в одном из разделов Reddit, 45 000 пользователей которого намеренно публикуют не соответствующую действительности абсурдную информацию в расчёте на её появление в ИИ-поиске. И у них, очевидно, это получается.
тоесть - толпа людей имитировала деятельность ИА Панорамы???
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
11 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
что бы не мешал (так ведь проще, спроси любого в правительстве РФ)
yaplakal.com