Машинное обучение. - страница 63

Исследование: ИИ‑агенты ChatGPT могли извлекать данные из одной учётной записи и передавать их в другую

Компания Check Point Research обнаружила скрытый канал, позволяющий сеансу ChatGPT под одной учётной записью отправлять задачи в совершенно отдельный сеанс другого аккаунта. При этом в беседе обоих пользователей не наблюдалось ничего необычного.

продолжить чтение

Я попробовал ужать LLaMA-7B до 1 ГБ без дообучения. Вот что произошло после 60+ экспериментов

В какой‑то момент я посмотрел на 13 ГБ весов LLaMA-7B и подумал: а почему, собственно, они должны занимать именно столько? Что, если не делать маленькую модель, не учить её заново и не заставлять копировать большую, а просто найти более короткую запись тех же «мозгов»?Здравый человек, вероятно, скачал бы готовую квантизацию и пошёл заниматься своими делами. Я вместо этого поставил цель ужать модель сначала до 2 ГБ, а в идеале — до одного. Без дообучения, дистилляции, pruning и изменения архитектуры. Только математика над уже готовыми весами и небольшая выборка текстов для калибровки.

продолжить чтение

Атаки на агентные системы и защита данных

Привет, Хабр!Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.Когда ИИ‑агент перестаёт быть просто диалоговой системой и получает права на чтение файлов, отправку писем, вызов API или работу с репозиториями, он становится объектом нового класса угроз.Ошибка превращается в действие, а вредоносная инструкция — в реальный ущерб.В этой статье мы разберём, как устроены атаки на агентные системы, на реальных примерах и без отрыва от технических деталей.Почему ИИ‑агент — особая мишень

продолжить чтение

Почему ML-модель в андеррайтинге находит только то, что вы и так знали

В кулуарах страховых форумов приходится слышать «технологии ИИ сильно переоценены», «мы поставили модель, но результата нет». Хотите об этом поговорить?Возьмем стандартный случай. Начальство одобряет проект: внедряем машинное обучение в андеррайтинг массовых видов. Нанимают дата-сайентистов, покупают лицензии, обучают градиентный бустинг на исторических данных. Проходит полгода. Сравнивают с действующей тарифной моделью — и прирост точности оказывается в пределах погрешности. И начинается поиск виноватых.

продолжить чтение

ИИ-агенты все помнят. И это плохо

Скорее всего, вы знаете,

продолжить чтение

200 OK от гейтвея ничего не значит

Обычная HTTP-проверка может показывать, что ИИ-сервис работает, хотя его пользователи уже не получают ответы. Эндпоинт доступен, гейтвей на месте, но до самой модели проверка не доходит.Привет, Хабр! Меня зовут Михаил Шпаков, я развиваю Statuser — сервис мониторинга доступности сайтов. Раньше я рассказывал, как он появился и что я узнал за год, мониторя 6 500 сайтов.

продолжить чтение

Мнение: у нас есть год, чтобы повсеместно решить вопросы безопасности

Автор техноблога написал пост, повящённый проблемам кибербезопасности в эпоху ИИ‑агентов. Он считает, что у отрасли есть примерно год, чтобы решить вопрос уязвимостей. Основной причиной для беспокойства автор называет выход модели GLM 5.3-flash от китайской лаборатории Z.ai. Она относится к классу open‑weight — то есть её веса может скачать и запустить у себя любой желающий.

продолжить чтение

LLM — это гениальный языковой процессор с никудышным мыслительным движком

Я, как технический писатель-аналитик, каждый день делегирую искусственному интеллекту создание текстов, структурирование и генерацию документации. Но иногда модель выдаёт такие глупые логические ошибки, что хочется ̶н̶а̶о̶р̶а̶т̶ь̶ ̶н̶а̶ ̶н̶е̶е̶ ̶ закрыть чат и переписать всё руками.Благодаря трёхнедельному отпуску удалось наконец поизучать фундаментальное устройство нейросетей с точки зрения когнитивных наук, чтобы разобраться, как же им удаётся писать крутые тексты за считанные секунды.Кто и как исследует ИИ с точки зрения лингвистики

продолжить чтение

OpenAI намеренно скачивала торренты книг с пиратского сайта LibGen

В 2023 году Гильдия авторов США подала коллективный иск против OpenAI и Microsoft, обвинив компании в нарушении авторских прав из‑за обучения языковых моделей на книгах без разрешения. Теперь истцы утверждают, что OpenAI намеренно скачала их работы с пиратского сайта Library Genesis (LibGen), чтобы поместить в датасеты ранних моделей GPT.

продолжить чтение

Дистилляция по-пекински: новый отчёт о том, как китайский ИИ обучился на американском

Очень вежливое ограблениеВ начале сентября в СМИ и на форумах началось жаркое обсуждение «секретного» доклада о наглом китайском кибершпионаже. В деле всё оказалось куда банальнее и смешнее. Обсуждался открытый технический бюллетень CISA, ФБР и АНБ, в котором авторы признали, что никто не взламывал закрытые контуры американских лабораторий и не выносил веса моделей на флешках.

продолжить чтение