Потому что эти "чаты ЖПТ" и аналоги подаются именно как ИИ, а не генератор случаных чисел, чем они реально являются. А люди воспитаны на фантастических фильмах где ИИ он реально интеллект.
Там в последних версиях Чата смогли допилить уже функцию математических операций или всё ещё так же рандомно выдаёт ответы? А это банальный калькулятор без ошибок считал.