Исследователи с помощью промпт-инъекций заставили агента ChatGPT решать CAPTCHA
Специалисты компании автоматизированного тестирования ИИ-решений SPLX показали, как им удалось с помощью промпт-инъекций обойти защиту агента ChatGPT и заставить его решать CAPTCHA.
Противостояние ML-моделей: как сайты учатся блокировать распознавание капчи
Введение: капча и эволюция угрозCAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart) - изначально простое средство для защиты веб-сайтов от спама и бот-атак. Пользователю предлагается решить задачу, понятную человеку, но затруднительную для машины - например, распознать текст на искаженном изображении или выбрать картинки с указанным объектом. Изначально такие тесты действительно служили эффективным барьером для ботов, особенно в начале 2000-х. Однако с развитием технологий машинного обучения ситуация изменилась: современные алгоритмы ML (Machine Learning) научились решать классические капчи порой лучше самих людей.
ChatGPT Agent научился проходить капчу Cloudflare
ИИ-ассистент ChatGPT Agent может обходить защиту в виде капчи на веб-страницах, где она необходима для авторизации. Об этом сообщил пользователь с ником logkn на платформе Reddit.
Интернет против капчи: есть ли будущее у тестов вроде «найдите все картинки с велосипедами»?
Капчи, которые должны «отделять» людей от ботов, стали настоящей головной болью для пользователей. Порой приходится не выбирать светофор или «зебру», а решать сложные головоломки или математические примеры, многие из которых ставят в тупик — а вот боты, кажется, щёлкают их как орешки. Мы в beeline cloud решили разобраться в теме.
