0
Генеральный директор OpenAI Сэм Альтман изложил своё видение будущего ChatGPT на мероприятии, посвящённом искусственному интеллекту, которое провела венчурная компания Sequoia в начале этого месяца.
Когда один из участников спросил, как ChatGPT может стать более персонализированным, Альтман ответил, что в конечном итоге он хочет, чтобы модель документировала и запоминала всё, что происходит в жизни человека.
Идеал, по его словам, — это «очень маленькая модель рассуждений с триллионом токенов контекста, в которую вы вкладываете всю свою жизнь».
«
Эта модель может обрабатывать весь ваш контекст и делать это эффективно. И все разговоры, которые вы когда-либо вели в своей жизни, все книги и электронные письма, которые вы когда-либо читали, всё, на что вы когда-либо смотрели, — это есть там, а также связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он.
Вероятно, Альтман имеет основания, подкреплённые фактами, считать, что это закономерный результат развития ChatGPT. В том же обсуждении, когда его спросили о том, как молодые люди используют ChatGPT, он сказал: «Студенты используют его как операционную систему». Они загружают файлы, подключают источники данных, а затем используют «сложные запросы» к этим данным.
Кроме того, благодаря опциям памяти ChatGPT, которые могут использовать предыдущие диалоги и запомненные факты в качестве контекста, он заметил, что молодые люди «не принимают важных жизненных решений, не посоветовавшись с ChatGPT».
«
Если сильно упростить, то можно сказать, что люди старшего возраста используют ChatGPT как замену Google, — сказал он. — Люди в возрасте 20–30 лет используют его как советника по жизни».
Нетрудно представить, как ChatGPT может стать всезнающей системой искусственного интеллекта. В сочетании с агентами, которых в настоящее время пытается создать Долина, это захватывающее будущее.
Представьте, что ваш ИИ автоматически планирует замену масла в вашем автомобиле и напоминает вам об этом; планирует поездку на свадьбу за город и заказывает подарок из списка; или оформляет предзаказ на следующий том серии книг, которую вы читаете уже много лет.
Но что пугает больше всего? Насколько мы должны доверять крупной коммерческой технологической компании, которая знает всё о нашей жизни? Эти компании не всегда ведут себя образцово.
Компания Google, которая начинала свою деятельность под девизом «Не будь злом», проиграла судебный процесс в США, где её обвинили в антиконкурентном, монополистическом поведении.
Чат-боты могут быть обучены отвечать политически мотивированными фразами. Было обнаружено, что не только китайские боты соответствуют требованиям цензуры в Китае, но и чат-бот Grok от xAI на этой неделе случайным образом обсуждал «геноцид белых» в Южной Африке, когда люди задавали ему совершенно не связанные с этим вопросы. Такое поведение, как отметили многие, подразумевало намеренное манипулирование механизмом ответов по приказу основателя компании, уроженца Южной Африки Илона Маска.
В прошлом месяце ChatGPT стал настолько услужливым, что откровенно подхалимничал. Пользователи начали делиться скриншотами, на которых бот аплодирует проблемным, даже опасным решениям и идеям. Альтман быстро отреагировал, пообещав, что команда исправила ошибку, вызвавшую проблему.
Даже самые лучшие, самые надёжные модели время от времени всё равно что-то выдают.
Таким образом, всезнающий ИИ-помощник может улучшить нашу жизнь так, как мы и представить себе не можем. Но, учитывая долгую историю сомнительного поведения крупных технологических компаний, это также создаёт условия для злоупотреблений.
Via
yaplakal.com