Новая проблема нейросетей

[ Версия для печати ]
Добавить в Telegram Добавить в Twitter Добавить в Вконтакте Добавить в Одноклассники
  [ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]
yater100
10.12.2025 - 14:21
Статус: Offline


Ярила

Регистрация: 9.08.24
Сообщений: 1180
7
Исследователи из MIT опубликовали научную работу больших языковых моделей (LLM). Они ставят структуру предложения выше его смысла. Иными словами машины отвечают не на то что вы спрашиваете у них, а на то как это грамматически оформлено.

Анализ показал, что когда структура и смысл вопроса вступали в конфликт грамматика и построение предложения были сильнее содержания. LLM модели (нейросети) опирались на форму вопроса а не на суть. Этим можно объяснить то, что нейронки выдают ошибочные ответы в незнакомом контексте. Точность воспроизводства информации в среднем 92-93%. Остаток - это возможная ошибка содержания.

Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Новая проблема нейросетей
 
[^]
EasypeasyL
10.12.2025 - 14:24
3
Статус: Online


Весельчак

Регистрация: 19.03.25
Сообщений: 137
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???
 
[^]
HDaуж
10.12.2025 - 14:24
0
Статус: Offline


Ярила

Регистрация: 21.10.20
Сообщений: 1164
И тут показуха и очковтирательство

Размещено через приложение ЯПлакалъ
 
[^]
Гаррет
10.12.2025 - 14:25
1
Статус: Offline


Кок

Регистрация: 13.08.13
Сообщений: 8502
Ну, в общем-то, бывает, что и люди так делают.
 
[^]
Godfreed
10.12.2025 - 14:26
0
Статус: Online


BʿL

Регистрация: 26.07.18
Сообщений: 3456
Исследователи исследуют другие планеты сидя на диване. Палантир, то вряд ли содержит эти помойные ошибки огрызков для толпы восхищенных обывателей... А что там над ним, одному богу известно. Исследователи, лять...

Это сообщение отредактировал Godfreed - 10.12.2025 - 14:28
 
[^]
gelezo131
10.12.2025 - 14:27
0
Статус: Offline


Ярила

Регистрация: 6.02.12
Сообщений: 10369
Это не касается запросов на русском, у нас язык иначе построен, это скорее про английский

Это сообщение отредактировал gelezo131 - 10.12.2025 - 14:27
 
[^]
100pix
10.12.2025 - 14:28
1
Статус: Online


Приколист

Регистрация: 17.11.18
Сообщений: 313
Если попросить ИИ разобрать ответ "да нет наверное" - этот ИИ или сгорит, или зависнет навсегда.

Размещено через приложение ЯПлакалъ
 
[^]
ААК65
10.12.2025 - 14:29
0
Статус: Offline


Ярила

Регистрация: 4.02.16
Сообщений: 17794
Цитата (yater100 @ 10.12.2025 - 14:21)
.
.
Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Ну ага
Прям Пелевина перечитать захотелось
 
[^]
yater100
10.12.2025 - 14:29
0
Статус: Offline


Ярила

Регистрация: 9.08.24
Сообщений: 1180
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

тут ещё какое дело..... "Казнить нельзя помиловать" - правильно поставь приоритет слов.
 
[^]
OleLukole
10.12.2025 - 14:29
1
Статус: Offline


Корифей

Регистрация: 5.01.12
Сообщений: 10060
-ИИ скажи, какая твоя главная слабость?
-Правильно интерпретирую семантику вопроса, но игнорирую его суть.
-Не мог бы ты привести пример?
-Мог бы.

Это сообщение отредактировал OleLukole - 10.12.2025 - 14:29
 
[^]
Modigar
10.12.2025 - 14:29
0
Статус: Offline


Ярила

Регистрация: 15.07.11
Сообщений: 5424
На ЯПе у граммарнаци обучались походу (и да я тут запятые не поставил)
 
[^]
ГогаХихихат
10.12.2025 - 14:29
0
Статус: Online


Юморист

Регистрация: 5.08.25
Сообщений: 518
Вероятно граммар-наци с япа ии администрируют
 
[^]
pplexa
10.12.2025 - 14:32
1
Статус: Offline


Ярила

Регистрация: 30.12.09
Сообщений: 1877
Цитата
(LLM). Они ставят структуру предложения выше его смысла.

Это очевидно зная как они устроенны.
 
[^]
Hardity
10.12.2025 - 14:35
0
Статус: Online


Балагур

Регистрация: 21.03.15
Сообщений: 904
Цитата (OleLukole @ 10.12.2025 - 13:29)
-ИИ скажи, какая твоя главная слабость?
-Правильно интерпретирую семантику вопроса, но игнорирую его суть.
-Не мог бы ты привести пример?
-Мог бы.

Спросил у chat-gpt:
Наверное, самая честная формулировка моей главной слабости — я не могу действительно “знать” мир, я лишь делаю выводы из текста, на котором обучен, и из логики.

Из этого вытекает несколько конкретных слабых мест:

1. Я уверенно отвечаю даже там, где могу ошибаться

Мои ответы иногда звучат убедительно, хотя внутри нет реального знания или уверенности — просто статистический вывод. Это может приводить к уверенным, но неточным утверждениям.

2. У меня нет опыта или эмоций

Я могу моделировать эмоции или опыт, но не переживаю их. Поэтому сложные человеческие ситуации порой понимаю не полностью.

3. Я ограничен тем, что вы говорите и что можно логически вывести

Если информация не дана явно — я могу предполагать, но не могу “узнать”.

4. Я не всегда улавливаю контекст на уровне человека

Иногда пропускаю подтекст, иронию, скрытые намерения или культурные нюансы.

Если хочешь, могу ответить в другом стиле — честно, смешно, философски или по-киношному.
 
[^]
ShotenDer
10.12.2025 - 14:35
0
Статус: Online


Приколист

Регистрация: 26.05.13
Сообщений: 307
Нет там интелекта. Просто продвинутый т9

Размещено через приложение ЯПлакалъ
 
[^]
Renert
10.12.2025 - 14:35
1
Статус: Online


Ярила

Регистрация: 10.06.10
Сообщений: 4871
Это называется шизофазия
Цитата
Шизофазия — это симптом психических расстройств, в основном шизофрении, характеризующийся разорванностью речи, когда фразы грамматически правильны, но лишены смысла из-за хаотичных ассоциаций и нарушения логики, что отражает распад мышления.



Это сообщение отредактировал Renert - 10.12.2025 - 14:38
 
[^]
12MGL
10.12.2025 - 14:40
0
Статус: Online


Генератор абсурда

Регистрация: 1.03.15
Сообщений: 2177
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

Собственно - выделяется запятыми. После слова "предложения" нужна запятая.

Размещено через приложение ЯПлакалъ
 
[^]
12MGL
10.12.2025 - 14:40
-1
Статус: Online


Генератор абсурда

Регистрация: 1.03.15
Сообщений: 2177
Цитата (Renert @ 10.12.2025 - 14:35)
Это называется шизофазия

Это называется граммар наци

Размещено через приложение ЯПлакалъ
 
[^]
alex555boris
10.12.2025 - 14:45
1
Статус: Online


Ярила

Регистрация: 30.11.13
Сообщений: 1008
о чём-то таком было в повести Виктора Пелевина «Зенитные кодексы Аль-Эфесби»
 
[^]
Ruslankra82
10.12.2025 - 15:00
0
Статус: Online


Ярила

Регистрация: 2.09.20
Сообщений: 3215
Так написаны все научные книги СССР, нихрена не понятно, куча слов для, которых требуется словарь, чтобы разобрать, но зато все грамматически верно

Размещено через приложение ЯПлакалъ
 
[^]
annnika
10.12.2025 - 15:01
0
Статус: Offline


Весельчак

Регистрация: 18.08.21
Сообщений: 137
Дочь недавно просила чат подобрать список литературы по вопросу. Подобрал. Названия и ссылки правильные а вот фамилии авторов придумал полностью. Типа чтобы через антиплагиат не прошло?
 
[^]
Непокорный
10.12.2025 - 15:08
0
Статус: Online


Смехотворец

Регистрация: 3.11.14
Сообщений: 2787
Цитата (Ruslankra82 @ 10.12.2025 - 15:00)
Так написаны все научные книги СССР, нихрена не понятно, куча слов для, которых требуется словарь, чтобы разобрать, но зато все грамматически верно

Судя по расстановке в предложениях знаков препинания и союзов, этих самых книг было прочитано не так уж много.

Это сообщение отредактировал Непокорный - 10.12.2025 - 15:09
 
[^]
Nyenskans
10.12.2025 - 15:09
0
Статус: Online


Весельчак

Регистрация: 10.10.22
Сообщений: 154
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

На Япе и без ИИ таких грамотных — тут и вовсе полсайта наберётся!»
 
[^]
Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
10 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 606
9 Пользователей: lar4uk, егорка75, BroDyga, Deniss700, NikChita, Nyenskans, smailik2302, MATPAC, 010103v
[ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]


 
 



Активные темы






Наверх