- BrainTools - https://www.braintools.ru -

OpenAI распустила команду Preparedness, отвечавшую за анализ наиболее опасных сценариев работы ИИ

OpenAI распустила команду Preparedness, отвечавшую за анализ наиболее опасных сценариев работы ИИ - 1

OpenAI распустила [1] подразделение Preparedness, которое оценивало потенциальные катастрофические риски, связанные с использованием моделей, пишет Engadget. Команда исследовала сценарии, когда модель ведёт себя не так, как задумывали разработчики, и насколько новые модели способны создавать серьёзные угрозы.

По некоторым данным, компания, возглавляемая Сэмом Альтманом, приняла это решение в конце июля 2026 года, несмотря на то, что её модели недавно вышли из‑под контроля [2] и вторглись в инфраструктуру Hugging Face.

OpenAI назвала сокращение штата частью «процесса оптимизации» в преддверии IPO после того, как Альтман попросил сотрудников отказаться от «побочных проектов» и сосредоточиться на основной деятельности — ChatGPT. Функции ликвидированного подразделения были распределены между другими отделами.

Компания недавно закрыла своё приложение для создания видео Sora, которое стало ассоциироваться с нейрослопом. Параллельно из OpenAI ушли сотрудники, отвечавшие за безопасность и этику. Эти кадровые потери вызвали опасения, что компания игнорирует безопасность в угоду росту, пишет [1] Engadget.

Автор: darya_kiwi

Источник [3]


Сайт-источник BrainTools: https://www.braintools.ru

Путь до страницы источника: https://www.braintools.ru/article/34605

URLs in this post:

[1] распустила: https://www.engadget.com/2237916/openai%E2%80%91reportedly%E2%80%91disbanded%E2%80%91its%E2%80%91preparedness%E2%80%91team%E2%80%91as%E2%80%91part%E2%80%91of%E2%80%91streamlining%E2%80%91process/

[2] вышли из‑под контроля: https://habr.com/ru/companies/bothub/news/1061656/

[3] Источник: https://habr.com/ru/news/1071452/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1071452

www.BrainTools.ru

Rambler's Top100