ИИ может уничтожить человечество с вероятностью выше 10%. Чего именно боятся исследователи
9 сентября руководитель Alignment Science в Anthropic Эван Хубингер написал довольно безумную для человека на такой должности вещь: лично он оценивает вероятность того, что AI убьёт всех людей в течение ближайших десяти лет, выше 10%.Поводом стало увольнение его коллеги Джейкоба Коксона. Тот три года занимался обучением моделей в OpenAI и Anthropic, а уход объяснил тем, что считает нынешнее направление развития AI слишком опасным.Через несколько дней похожее заявление сделал
Есть два стула: зачем Google вышел из гонки ИИ, пока OpenAI и Anthropic ставят на неё всё
Куда мы идём?Я уверен, вы тоже начали забивать на чтение новостей про очередную вышедшую модель от китайцев или OpenAI, а статьи про то, что Сэм Альтман лично парсит интернет и взламывает мировые платформы вроде HuggingFace, вы воспринимаете с улыбкой. Но мир искусственного интеллекта не зависит от нашей скуки и интенсивности скроллинга новостей — по крайней мере пока. Поэтому хочется резюмировать: а куда мы, или, если быть точнее, западные гиганты Google, OpenAI и Anthropic, движутся? Какова их конечная цель, кроме как обкешиться на IPO до глобального ресета рынка?
