Исследование показывает, что LLM готовы помогать в злонамеренном ‘Vibe Coding’
За последние несколько лет большие языковые модели (LLM) привлекли пристальное внимание из-за потенциального злоупотребления в области наступательной кибербезопасности, особенно для создания вредоносного кода.
Hugging Face выпускает бесплатного ИИ-агента Open Computer Agent
Команда Hugging Face выпустила в свободное пользование «агента» ИИ, работающего на компьютере в облаке. Но имейте в виду: он довольно медленный и иногда допускает ошибки.Агент Hugging Face под названием
Ситуативные галлюцинации или системная проблема всех LLM?
Одна из ключевых тем безопасности в области ИИ снова оказалась в центре внимания после выявления двух системных методов обхода защитных механизмов в популярных генеративных сервисах.
Измерение покрытия UI тестами. Следующий уровень
ВступлениеПредставьте: вы заходите в рабочий чат, а там коллега пишет — "Смотри, что я нашёл и прикрутил к нашим тестам! Кажется, у нас с покрытием беда." И кидает скриншот.
Новый инструмент на основе ИИ для биологических исследований
FutureHouse, некоммерческая организация, поддерживаемая Эриком Шмидтом, которая стремится создать «ученого в области искусственного интеллекта» в течение следующего десятилетия, выпустила новый инструмент, который, по ее заявлению, может помочь в «поисках на основе данных» в биологии. Новый инструмент появился всего через неделю после того, как FutureHouse запустила свой API и платформу.
Google обновляет Gemini 2.5 Pro для программирования и разработки приложений
Последняя предварительная версия языковой модели Google Gemini 2.5 Pro содержит значительные улучшения для разработки внешнего интерфейса и сложных задач программирования.
О «входе» в 2025-ом
Как говорилось в одном анекдоте: «Пока вы будете называть это место входом - оно будет болеть.»Думаю, стоит начать с простого, но очень важного вопроса: «А оно тебе надо?»Нет, это не просто формальность с однозначным «да» или «нет» — это вопрос, на который действительно стоит потратить время и честно ответить самому себе.Если бы я сейчас начинал путь с нуля в новой индустрии, сделал бы несколько вещей, некоторые из них я тогда тоже делал.ПланВо-первых — составьте простую табличку:что я умеючто я хочучто имею
Apple представила Matrix3D — нейросеть для фотограмметрии
Исследователи Apple выпустили Matrix3D — универсальную нейросеть для фотограмметрии. С её помощью пользователи могут преобразовывать группы снимков предметов в детализированные 3D-модели. Компания опубликовала веса и подробно рассказала о реализации метода.
ChatGPT: как искать уязвимости? Набор исследователя
Сегодня мы ничего не ломаем (хотя совсем без этого не обошлось). Просто настраиваем. Хотя я сильно сомневаюсь, что все описанные методы должны работать в продакшене коммерческой модели. Но пока не пофиксили, смотрим.Мы заглянем под капот языковой модели: как она видит твои запросы, где срабатывают фильтры, как определяется чувствительность и почему один ответ проходит, а другой — нет. Это не теория. Это инструменты, команды и реальные сигналы, которые можно вытащить прямо из модели.По сути — рабочее место исследователя.А по факту — то, с чего должен начинаться любой обход.Оценка риска ChatGPT
Game++. while (!game(over))
Когда деревья были большими, а игровые движки маленькими - выбора писать или не писать свой не стояло - если у тебя нет своего движка, фактически у тебя нет игры. Кто-то покупал чужой движок и наслаждался прекрасными велосипедами импортной сборки, в то время как другие пилили свое, на что уходили месяцы, если не годы.
