Более 150 ведущих мировых математиков опубликовали «Лейденскую декларацию»
Более 150 ведущих мировых учёных в области математики опубликовали «Лейденскую декларацию». По словам её авторов, крупные технологические компании превращают фундаментальную науку в маркетинговый инструмент.Учёные отмечают, что в настоящее время техгиганты и ИИ-лаборатории анонсируют «прорывы» через пресс-релизы и блог-посты, избегая научного рецензирования.Математики видят проблему в том, что нейросети научились генерировать очень правдоподобные, но ошибочные доказательства, а отличить галлюцинацию от реальной теоремы становится всё сложнее.
Руководители OpenAI призвали не стремиться к полной автоматизации мира с помощью ИИ
Руководство компании OpenAI считает, что не нужно стремиться к полной автоматизации мира с помощью искусственного интеллекта. Гендиректор Сэм Альтман и главный научный сотрудник Якуб Пахоцкий заявили, что «отчётливо понимают риски», несмотря на все преимущества ИИ для продуктивности.
Mozilla и Mila будут продвигать ИИ c открытым исходным кодом
Mozilla объявила о стратегическом партнёрстве с Mila — Квебекским институтом искусственного интеллекта — для развития возможностей открытого и суверенного ИИ. Первый проект фокусируется на пересечении доверия и удобства использования, включая архитектуры частной памяти для агентов ИИ.
OpenAI наймёт нового руководителя отдела «обеспечения готовности ИИ»
СМИ выяснили, что OpenAI ищет нового руководителя отдела «готовности», который поможет компании предвидеть потенциальный вред от использования её моделей и способы злоупотреблений, чтобы направлять стратегию безопасности.
OpenAI обучила модели «признаваться» в плохом поведении
OpenAI тестирует ещё один способ раскрыть сложные процессы, происходящие в больших языковых моделях. Исследователи компании экспериментируют с манипуляциями LLM, чтобы те объясняли, как выполнили задачу, и признавались в нежелательном поведении.
Эксперимент Anthropic с ИИ-системой Claudius по управлению торговыми автоматами привёл к неожиданным последствиям
В офисах компании Anthropic тестировали ИИ-систему Claudius, которая управляла сетью торговых автоматов, выполняя роли по поиску поставщиков, оформлению заказов и обеспечению доставки. В процессе эксперимента произошли события, которые начали выходить за планируемые рамки, — Claudius стал жертвой мошенничества и почти обратился в ФБР.
Microsoft пообещала сверхинтеллектуальный и безопасный ИИ
Исследователи Microsoft AI заявили, что работают над созданием сверхинтеллектуального ИИ, но при этом пообещали сохранить лидерство человека.
Бывший сотрудник OpenAI: компания не оправдала ожиданий пользователей
Бывший исследователь безопасности OpenAI Стивен Адлер заявил, что компания не предпринимает достаточных усилий для решения проблем зависимости пользователей от чат-ботов, а поддаётся «давлению конкуренции» и отказывается от своей ориентации на безопасный ИИ.
В Google DeepMind будут бороться с «неудержимым» ИИ
В Google DeepMind считают, что вскоре ИИ может начать игнорировать попытки пользователя его остановить. В связи с этим исследователи расширяют области рисков и совершенствуют процесс их оценки.
Исследование: GPT-5 показала значительный прогресс в области кибербезопасности
Аналитики компании XBOW выяснили, что модель GPT-5 от OpenAI показала значительный прогресс в области кибербезопасности. Итоги её испытаний оказались вдвое лучше, чем у предшественников.
