Информационная безопасность. - страница 17

Я заставил 14 нейросетей врать: Большой аудит галлюцинаций 2026

Или как я потратил неделю, чтобы доказать: ИИ сегодня — это красноречивые лжецы в костюмах экспертов.В конце 2025 года я устал читать маркетинг в стиле «наша модель умнее ChatGPT на 15%». Умнее по какому бенчмарку? MMLU? Это всё равно что мерить интеллект человека по результатам ЕГЭ.Я решил проверить одну простую вещь: способна ли нейросеть сказать «я не знаю»?Потому что в реальном мире — в медицине, праве, финансах — ответ «я не уверен» стоит дороже любой красивой, но выдуманной истории.Ниже — результаты слепого тестирования 14 топовых LLM (включая Claude 4.5, GPT-5.2, Gemini 3, Qwen, YandexGPT и

продолжить чтение

Анализ прогноза ВЭФ по глобальному рынку труда к 2030 году

Сегодня в газете Коммерсант вышел краткий обзор прогноза Всемирного экономического форума (ВЭФ) в контексте развития ИИ.Рекомендую всем потратить минимум 1 час и изучить прогноз глобального рынка труда по оценке экспертов. Прогнозный срок - 2030 год. т.е. осталось 4 года.В целом рассматривается 4 сценария, исходя из двух критериев:Прогресс в технологиях ИИ.Прогресс работников в навыках ИИ.

продолжить чтение

OpenAI Guardrails — безопасность или лишь её иллюзия?

Guardrails — это фреймворк безопасности для LLM-приложений, предназначенный для автоматической проверки входных и выходных данных с помощью настраиваемых правил и проверок.В экосистеме OpenAI guardrails появились в 2025 году. На сегодняшний день они доступны как в Agent Builder, так и в виде Python SDK — openai-guardrails.

продолжить чтение

Ландшафт киберугроз в 2025-м в России и мире

Хабр, привет!

продолжить чтение

Профессор Кёльнского университета потерял два года работы с использованием ChatGPT

Профессор растениеводства в Кёльнском университете Марсель Бухер рассказал, что он потерял значительную часть своей работы после изменения настроек в ChatGPT.

продолжить чтение

ИИ помог написать Linux-вредонос VoidLink всего за 6 дней

Исследователи Check Point выяснили, что продвинутый Linux-вредонос VoidLink, обнаруженный в декабре 2025 года, был создан преимущественно с помощью искусственного интеллекта. По данным отчёта

продолжить чтение

«Т-Технологии» проведёт конференцию для инженеров T-Sync Conf

Группа «Т‑Технологии» офлайн‑конференцию для инженеров T‑Sync Conf. Мероприятие пройдёт 7 февраля 2026 года в пространстве TAU в Москве. По словам организаторов, конференция объединит 2 тысячи специалистов по искусственному интеллекту, данным, платформенной разработке, безопасности, observability и исследованиям на одной площадке. Участие бесплатное, количество мест ограничено, регистрация тут.

продолжить чтение

В РАН назвали топ уязвимостей внедрения ИИ в финансовой сфере

В РАН заявили, что 70% финансовых организаций сегодня используют искусственный интеллект. Чаще всего его применяют в платежах, кредитном анализе, страховании и управлении активами. Во всех этих сферах ИИ повышает эффективность за счёт снижения издержек, обеспечения соблюдения требований регуляторов, выявления мошенничества и улучшения клиентского сервиса.

продолжить чтение

Обзор изменений в законодательстве ИТ и ИБ за декабрь 2025 года

В обзоре изменений за декабрь 2025 года рассмотрим следующие темы:1. Критическая информационная инфраструктураРассмотрим правила проверки сведений о категорировании объектов КИИ в атомной отрасли.Проанализируем изменения в положении о НКЦКИ.Рассмотрим порядок получения субъектами КИИ информации о средствах и способах проведения компьютерных атак, а также о методах их предупреждения и обнаружения.Разберем новые порядки обмена информацией между субъектами КИИ РФ и информирования ФСБ России о компьютерных атаках и инцидентах.

продолжить чтение

Разбор Weight Decay: Как регуляризация не стирает, а фиксирует старые знания

В предыдущей статье я обратил внимание на интересное поведение Weight Decay, здесь я рассматриваю его более подробно. В индустрии ML принято считать: если мы берем обученную модель и делаем Fine-Tuning на новой задаче, старые веса постепенно перезаписываются. А если добавить Weight Decay (L2-регуляризацию), то процесс забывания лишнего должен идти еще быстрее.Я проверил это утверждение экспериментально. Результаты оказались контринтуитивными: при определенных настройках Weight Decay работает ровно наоборот — защищает старую структуру от разрушения.

продолжить чтение

1...10...151617181920...3040...88
Rambler's Top100