Цель Сэма Альтмана — чтобы ChatGPT запомнил «всю вашу жизнь» — одновременно захватывающая и тревожная

Генеральный директор OpenAI Сэм Альтман изложил своё видение будущего ChatGPT на мероприятии, посвящённом искусственному интеллекту ^[1], которое провела венчурная компания Sequoia в начале этого месяца. ^[2]

Когда один из участников спросил, как ChatGPT может стать более персонализированным, Альтман ответил, что в конечном итоге он хочет, чтобы модель документировала и запоминала всё, что происходит в жизни человека.

Идеал, по его словам, — это «очень маленькая модель рассуждений с триллионом токенов контекста, в которую вы вкладываете всю свою жизнь».

«Эта модель может обрабатывать весь ваш контекст и делать это эффективно. И все разговоры, которые вы когда-либо вели в своей жизни, все книги и электронные письма, которые вы когда-либо читали, всё, на что вы когда-либо смотрели, — это есть там, а также связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он.

Вероятно, Альтман имеет основания, подкреплённые фактами, считать, что это закономерный результат развития ChatGPT. В том же обсуждении, когда его спросили о том, как молодые люди используют ChatGPT, он сказал: «Студенты используют его как операционную систему». Они загружают файлы, подключают источники данных, а затем используют «сложные запросы» к этим данным.

Кроме того, благодаря опциям памяти ChatGPT ^[3], которые могут использовать предыдущие диалоги и запомненные факты в качестве контекста, он заметил, что молодые люди «не принимают важных жизненных решений, не посоветовавшись с ChatGPT».

«Если сильно упростить, то можно сказать, что люди старшего возраста используют ChatGPT как замену Google, — сказал он. — Люди в возрасте 20–30 лет используют его как советника по жизни».

Нетрудно представить, как ChatGPT может стать всезнающей системой искусственного интеллекта. В сочетании с агентами, которых в настоящее время пытается создать Долина, это захватывающее будущее.

Представьте, что ваш ИИ автоматически планирует замену масла в вашем автомобиле и напоминает вам об этом; планирует поездку на свадьбу за город и заказывает подарок из списка; или оформляет предзаказ на следующий том серии книг, которую вы читаете уже много лет.

Но что пугает больше всего? Насколько мы должны доверять крупной коммерческой технологической компании, которая знает всё о нашей жизни? Эти компании не всегда ведут себя образцово.

Компания Google, которая начинала свою деятельность под девизом «Не будь злом», проиграла судебный процесс в США, где её обвинили ^[4] в антиконкурентном, монополистическом поведении ^[5].

Чат-боты могут быть обучены отвечать политически мотивированными фразами. Было обнаружено, что не только китайские боты соответствуют требованиям цензуры в Китае ^[6], но и чат-бот Grok от xAI на этой неделе случайным образом обсуждал «геноцид белых» в Южной Африке ^[7], когда люди задавали ему совершенно не связанные с этим вопросы. Такое поведение ^[8], как отметили многие ^[9], подразумевало намеренное манипулирование механизмом ответов по приказу основателя компании, уроженца Южной Африки Илона Маска.

В прошлом месяце ChatGPT стал настолько услужливым, что откровенно подхалимничал ^[10]. Пользователи начали делиться скриншотами, на которых бот аплодирует проблемным, даже опасным ^[11] решениям ^[12] и идеям ^[13]. Альтман быстро отреагировал, пообещав, что команда исправила ошибку ^[14], вызвавшую проблему.

Даже самые лучшие, самые надёжные модели время от времени всё равно что-то выдают. ^[15]

Таким образом, всезнающий ИИ-помощник может улучшить нашу жизнь так, как мы и представить себе не можем. Но, учитывая долгую историю сомнительного поведения крупных технологических компаний, это также создаёт условия для злоупотреблений.

Пользуясь случаем, хочу порекомендовать BotHub  ^[16]— платформу, где можно протестировать все популярные модели без ограничений. Для доступа к сервису не требуется VPN и можно использовать российскую карту. По ссылке ^[17] вы можете получить 100 000 бесплатных токенов для первых задач и уже сейчас начать работать!

Источник ^[18]