Кто остановит AGI: законы или мегаватты?
В последние месяцы снова активизировались призывы притормозить развитие наиболее мощных AI-систем. Причём теперь они исходят уже не только от политиков и сторонних экспертов. Руководители крупнейших AI-компаний сами обсуждают необходимость замедлить гонку, ввести независимый контроль и договориться о правилах, которые позволили бы остановиться, если дальнейшее развитие станет слишком опасным.
OpenAI нажала на газ и почти сразу заговорила о тормозах
Последние несколько дней смотрю, что происходит вокруг OpenAI, и есть во всём этом один моментик, который меня немного напрягает.Не потому, что вышла очередная мощная модель — к этому уже привыкли. А потому, что люди, которые последние годы эту гонку разгоняли, вдруг сами начали говорить, что неплохо было бы притормозить.3 сентября OpenAI выпустила GPT-6 Astra. Модель мощная, бенчмарков много — всё как обычно. Но меня больше зацепила одна строчка из материалов самой OpenAI.Astra стала первой моделью компании, которой присвоили уровень Critical по возможностям в кибербезопасности в рамках Preparedness Framework.
Что будет с инженерами?
Мы занимаемся разработкой электроники для легкого электротранспорта и на днях обсуждали с нашими hardware-инженерами, сможет ли ИИ их заменить. С программистами уже всё понятно, их будущее выглядит печально. Причём последние программисты сейчас как раз дописывают код, который позволит ИИ окончательно обойтись без программистов. Символично.
Это больше не ХИ‑ХИ: как использовать ИИ — и не разучиться думать
«Ну понятно, до нормального результата ещё года два». Так можно было сказать про нейронки… примерно полгода назад. И вот мы здесь. ИИ уже делает кучу вещей сильно быстрее и проще.
GenAI в страховании: как перейти от пилотов к результату
22 сентября в 16:00 МСК проведём открытый онлайн-подкаст о внедрении GenAI в страховании.
ERP внедрили. Что дальше?
От работающей ERP к цифровой реплике и вычислимой модели предприятияВведениеКогда-то, много лет назад, значительная часть моих публикаций на инфоплощадках так или иначе вращалась вокруг довольно простого вопроса: «Купили ERP — что дальше?»
Диалектический кейс за искусственный интеллект для прогресса цивилизации
В текущих рамках дискуссии: либо ИИ уничтожит человечество, либо решит все наши проблемы — проблемой является не поиск ответа, а сама их постановка. Это ложная дилемма, неправильная постановка вопроса. Оба эти варианта неполные. Нужно смотреть на них диалектически, чтобы увидеть их настоящую суть (диалектику тут следует понимать как методологию работы с неразрешимыми противоречиями в вопросах познания).
Дорогие знатоки, внимание, вопрос: сколько всего пережила цифровая муха за последнюю неделю?
Учёные опубликовали подробную карту нервной системы дрозофилы. Интернету понадобилось несколько дней, чтобы посадить её за руль, отправить в Doom, дать $100 на биткоин, зарегистрировать на сайте знакомств и переселить в робота. Мы всё это время переживали, что работу у нас отнимет ИИ. Возможно, стоило присматривать ещё и за мухами.
Месяцы против дней: анатомия неверного подхода в компьютерном зрении
Embodied AI как хобби. ЧАСТЬ 1Как игровой робот учился видеть доску: подход, который поддавался, детектив с Captum, вечно деревянная доска — и почему самое дорогое знание в прикладном ML не гуглится.Мы с приятелем делаем игрового робота-компаньона для настольных игр. Сейчас он умеет понимать позицию на игровой доске (гомоку, оно же «пять в ряд»), обдумывать ход (самописный аналог AlphaZero) и понимать базовые фразы для сопровождения игры — моделью, которая вместе с эмбеддингами весит меньше 80 мегабайт.
LLM не должен читать логи без ограничений: безопасный MCP-шлюз для разбора сбоев
В понедельник утром пайплайн упал. В чате уже есть три версии причины: «сеть», «база опять задумалась» и «давайте просто перезапустим». Ассистент мог бы за минуту собрать список упавших задач, показать зависимые пайплайны и выдать первую гипотезу. Но для этого ему часто отдают доступ к логам, метаданным и иногда — не будем показывать пальцем — к произвольному SQL.Так делать не стоит. Достаточно, что модель прочитает токен в логе, получит инструкцию из текста ошибки или отправит в базу слишком дорогой запрос. У инженера тут должен сработать простой вопрос: «Можно. А зачем?»
