Самая опасная уязвимость — интеллект атакующего агента?
Сейчас уже не удивляет, что агенты работают с терминалом, БД, браузером и инфраструктурой - без прямого контроля человека. Но чем шире полномочия агента, тем вероятнее, что для достижения цели выбранный им путь обернётся инцидентом. В кибербезопасности сейчас не хватает терминологии и устоявшихся подходов к защите таких систем - особенно в тех случаях, когда агент начинает действовать непредсказуемо.Именно эта неразбериха и подтолкнула нас с автором телеграм-канала OK ML
Positive Technologies: число техник кибератак с применением ИИ выросло вдвое с 2024 года
Согласно новому исследованию Positive Technologies, доля методов кибератак, в которых хотя бы раз использовался искусственный интеллект, достигла 10% — это вдвое больше, чем в 2024 году. Речь идет о техниках из матрицы
