Черепаха-винтовка: как обмануть ИИ
Представьте: вы потратили полгода на обучение нейросети для распознавания изображений. Точность на тестовой выборке — 99.2%. Модель идеально отличает панду от гиббона, кота от собаки, дорожный знак "Стоп" от знака ограничения скорости. Вы довольны, заказчик счастлив, модель уходит в production.А потом кто-то добавляет к фотографии панды едва заметный шум — буквально несколько пикселей, которые человеческий глаз даже не замечает. И ваша модель с железобетонной уверенностью в 99.3% заявляет: "Это гиббон".
