Security Week 2520: ИИ-отчеты о выдуманных уязвимостях
На прошлой неделе создатель и ведущий разработчик популярной утилиты cURL Дэниел Стенберг поделился примером бессмысленного отчета о несуществующей уязвимости, очевидно сгенерированного при помощи искусственного интеллекта. Стенберг раскритиковал подобную тактику; отметил, что он и его команда буквально завалены такими фейковыми отчетами, на которые приходится тратить время; и пообещал банить ИИ-исследователей в будущем, добавив: «Мы еще не видели ни одного реально полезного отчета, созданного с помощью ИИ». Хотя примеры эффективного использования ИИ для поиска уязвимостей существуют (вот относительно свежий пример от Microsoft), в данном случае речь идет о феномене, известном как AI Slop: когда ИИ используется бездумно. Ответ на запрос типа «вот код, найди в нем уязвимость» с наибольшими шансами приведет к тому, что нейросеть просто придумает несуществующую проблему. Пример от разработчиков cURL представляет интерес тем, что один из таких отчетов выложили в общий доступ.
Мы в ответе за тех, кого сгенерировали
Весна 2025 года — отличное время, чтобы оживить мой проект Econet, который посвящён проблемам цифрового мусора, современным подходам к работе с данными и инфраструктуре информационных систем.
Монохром — все лучшее детям
В данной статье я рассматриваю только один, но очень сильный метод превентивного воздействия на поведенческие факторы риска формирования «цифровой» зависимости у детей.
Стартапы, рожденные в эпоху ИИ, гордятся минимальной численностью сотрудников
Все больше «AI-native» стартапов — компаний, изначально построивших продукт и команду на искусственном интеллекте — достигают гораздо больших результатов, гораздо меньшим количеством сотрудников.В стартапе Lex
Эффект душа: почему отдых и переключение на хобби помогают принимать крутые решения
Привет, Хабр! Вы — трудоголики? А как вам тот факт, что отдых больше помогает работе, чем лишний час перед ПК?
Более 250 американских компаний призвали сделать изучение ИИ и информатики ключевыми компонентами школьного образования
Свыше 250 руководителей американских технологических компаний подписали письмо с призывом сделать изучение искусственного интеллекта и информатики «ключевыми компонентами» школьных программ США. В число подписантов вошли главы и топ-менеджеры Microsoft, AMD, Adobe, LinkedIn, Salesforce, Etsy, Blue Origin и Uber, а также многих других компаний.
Проект Сurl перестанет изучать отчёты об уязвимостях через платформу HackerOne, полученные с помощью ИИ-систем
Автор curl Даниэль Стенберг
Как мы создавали ИТ-школу с нуля: ошибки, инсайты и уроки, которые мы извлекли (часть 1)
С чего всё начиналось: MVP в 2022-мНачалось всё с концептуального названия: название IT2GO созвучно с coffee to go (кофе с собой) — это когда ты приходишь в любимую кофейню и просишь кофе в стаканчик с собой с удобной крышечкой, красивой картинкой, а тебе еще кричат: «Капучино на банановом с карамельным сиропом для Дмитрия готов!»
