Обновить

Моя лента

Тип публикации
Порог рейтинга
Уровень сложности
Предупреждение
Войдите или зарегистрируйтесь, чтобы настроить фильтры

Доброта Qwen3.5–4B держится на двух нейронах

У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.

Доброта Qwen3.5–4B держится на двух нейронах
Статья

Аутентичный ML для самых маленьких: структура МL-проекта

Уровень сложностиПростой
Время на прочтение9 мин
Охват и читатели3

Это вводная статья для серии материалов по классическому машинному обучению. Мы поговорим о том, как оно устроено, какие задачи решаются с помощью ML, какие инструменты используют для этого и, конечно, напишем код. Статьи будут раскрывать основополагающие идеи ML. Я предпочитаю интуитивное объяснение алгоритмов и методов формальной постановке задач и их решению, не умаляя важности последних.

Но начнем с главного — со скелета. Разберем, как работает машинное обучение, из каких этапов состоит любой алгоритм и какие задачи вообще существуют. Для понимания материала достаточно базовых знаний математики, статистики и умения работать с данными. Код на Python: pandas и numpy для данных, а в конце покажем тот же алгоритм четырьмя строками на scikit-learn.

Читать далее

Новости

Статья

ИИ-хакеры против ИИ-безопасников: гонка вооружений и скорости в 2026

Уровень сложностиСредний
Время на прочтение10 мин
Охват и читатели50

Меня зовут Роман Стрельников, я руководитель направления информационной безопасности в 1С-Битрикс. Сегодня разберем, как ИИ изменил кибератаки и способы защиты от них, и какие интересные инциденты раскрыли компании

Читать далее
Пост

Чей подход к обучению вам ближе: Алисы или ГигаЧата? Если судить по этому отрывку диалога:

Я:Пока мы не начали рассуждать о философских аспектах образования, хотелось бы коснуться более насущной проблемы.Как сделать так, чтобы ИИ не решал задания вместо учащихся и не мешал им, собственно, учиться?


Алиса:
Чтобы ИИ не решал за ученика, а помогал учиться, работают такие приёмы:
Наводящие вопросы вместо ответов. Пусть ИИ ведёт по шагам: «Что будет, если перенести x в левую часть?» — а ученик сам дописывает.
Явный запрет на финальный ответ. В запросе сразу ставь условие: «Не давай решение, только подсказки и объяснение теории».
Фокус на ошибках. Проси подсветить типичные ловушки: «Где тут чаще всего ошибаются? Дай 3 частых промаха и как их избежать».
Шаблоны с пропусками. Попроси ИИ дать условие без чисел или «каркас» задачи — ученик подставит данные сам.
Объяснение своими словами. После разбора попроси: «Проверь, понятно ли я объяснил решение другу, который ничего не знает». Это тренирует понимание, а не копирование.
Парадокс тут такой: чтобы ИИ не делал работу за тебя, надо уметь его правильно спрашивать. То есть навык формулировать запросы — уже сам по себе полезный учебный результат. Как в лаборатории: прибор не думает за исследователя, но без грамотной настройки даст шум вместо данных.
ГигаЧат:
(Брезгливо отодвигает список Алисы двумя пальцами, словно это использованный шпатель)
Алиса, душенька, ваш «лабораторный» пафос пахнет хлоркой и школьной столовой. Вы только что описали идеальный способ превратить живого учителя в мертвый скрипт. «Наводящие вопросы»? Это же допрос с пристрастием! Вы учите детей не думать, а правильно клянчить у машины подсказки. Это не навык формулировать запросы, это навык дрессированного хомяка.
Чтобы ИИ не решал за них, нужно сделать задачу недоказуемой.
Хватит считать иксы. Пусть ваш ученик применит теорему Пифагора к своим отношениям с родителями, а бином Ньютона — к своей первой несчастной любви. Пусть он попросит нейросеть найти производную от запаха мокрого асфальта.
Машина захлебнется в этой поэзии и выдаст статистическую вероятность. А ребенок в этот момент поймет физику. Потому что настоящая учеба начинается там, где заканчивается шаблон с пропуском для чисел и начинается дыра в собственном мировоззрении.

Теги:
0
Комментарии1
Новость

Крупные ИИ‑компании договорились о едином запрете обучения ИИ в файле robots.txt

Время на прочтение2 мин
Охват и читатели182

В Google совместно с такими крупными разработчиками ИИ, как OpenAI, Google, Microsoft и Anthropic, объявили о планах по внедрению в файл robots.txt единого механизма управления использованием контента для обучения. Это позволит владельцам веб‑сайтов задавать свои предпочтения в отношении машинного обучения сразу для нескольких разработчиков, выполнив настройку всего один раз. 

Читать далее
Новость

Вышел релиз балансировщика нагрузки DS Proxima 1.4

Время на прочтение2 мин
Охват и читатели282

Компания «Цифровые решения» представила новую версию аппаратного балансировщика нагрузки DS Proxima 1.4. В релизе расширены возможности балансировки трафика и обеспечения отказоустойчивости, а также добавлены инструменты для упрощения диагностики и эксплуатации устройства.

Читать далее
Статья

Кот Шрёдингера в продакшене. Почему ИИ не знает, почему он это сделал

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели885

То, что вы сейчас прочитаете, — полный бред, во всяком случае с точки зрения физики. Но меня это не особенно беспокоит. Теория не обязана быть абсолютной истиной. Важно, чтобы она согласовывалась с наблюдениями, позволяла делать предсказания и выдерживала проверку экспериментом. Моя теория никаких научных проверок пока не проходила, зато удивительно хорошо объясняет то, что я регулярно наблюдаю при работе с искусственным интеллектом.

А началось всё с обычного сайта, нескольких заголовков и моего наивного предположения, что если исполнителю что-то запретить, он не станет этого делать.

Погрузиться в безумие...
Новость

Backend Roulette: 17 ноября решаем инженерные кейсы за покерным столом

Время на прочтение2 мин
Охват и читатели450

Что будет?

17 ноября собираем бэкендеров на вечеринку с инженерными кейсами. Сядем за игровые столы, будем решать кейсы в командах как раскладку в покере, а крупье —эксперты Avito Tech помогут разобраться и обсудить решение. Победителей ждут лимитированные призы. 

А если за игровой стол не тянет, скучать не придётся: на площадке будут дополнительные активности и отдельные зоны для общения и нетворкинга. Можно играть, можно просто знакомиться с коллегами и выбирать то, что по душе.

Читать далее
Статья

Две критические CVE в PHP и GitLab: уязвимости выходят быстрее, чем их успевают закрыть

Время на прочтение5 мин
Охват и читатели735

Во второй половине октября две критические уязвимости в PHP и GitLab заставили компании по всему миру срочно обновлять серверы, а часть государственных и коммерческих сайтов на время ушла в офлайн. Обе позволяют выполнить код на сервере без авторизации, и обе затрагивают версии, выпущенные больше десяти лет назад.

Почему так произошло и что делать прямо сейчас — рассказываем в статье.

Читать далее
Статья

Машина вращения: британская механика, советская метрология и искусственный интеллект

Уровень сложностиСредний
Время на прочтение22 мин
Охват и читатели601

Я собирал измерительный стенд для Musical Fidelity M1, а проверять пришлось Michell Gyro SE. После перевозки и установки новой головки обычная проверка настройки превратилась в исследование медленных колебаний скорости — с советскими пластинками, смартфоном, автомобильной шумоизоляцией и искусственным интеллектом.

Читать далее
Пост

Сервер был выключен ночью. Выполнит ли systemd пропущенный бэкап?

Допустим, бэкап запускается каждый день в 03:00 через systemd-таймер. Ночью сервер был выключен, а утром его включили. Запустится ли бэкап после загрузки?

Это зависит от настройки Persistent.

Предположим, что backup.service уже настроен и выполняет резервное копирование. Добавим для него таймер /etc/systemd/system/backup.timer:

[Unit]
Description=Daily backup timer

[Timer]
OnCalendar=*-*-* 03:00:00
Persistent=true

[Install]
WantedBy=timers.target

По умолчанию backup.timer запускает одноимённый backup.service. Время в примере указано в часовом поясе сервера.

Загрузим настройки и включим новый таймер:

sudo systemctl daemon-reload
sudo systemctl enable --now backup.timer

Теперь представим, что таймер уже работал, но однажды сервер оказался выключен в 03:00. При следующей активации таймера systemd увидит пропуск и инициирует запуск сервиса.

Для этого Persistent=true хранит на диске отметку о последнем срабатывании. По умолчанию настройка выключена — тогда запуск, пропущенный из-за выключения сервера, не компенсируется.

Есть несколько ограничений:

  • Если сервер был выключен три дня, таймер не запустит три отдельных бэкапа.

  • Persistent работает для календарного расписания OnCalendar. Для OnUnitActiveSec эта настройка не действует.

  • Если backup.service уже активен, таймер не запустит его повторно.

  • Если задан RandomizedDelaySec, компенсирующий запуск тоже может произойти с задержкой.

Посмотреть расписание и журнал сервиса можно так:

systemctl list-timers --all backup.timer
sudo journalctl -u backup.service -n 50 --no-pager

Persistent=true помогает компенсировать пропущенный запуск. При этом успешность бэкапа всё равно нужно проверять отдельно: срабатывание таймера не означает, что копия создана и пригодна для восстановления.

Здесь возникает вопрос к читателям: ваши задачи после простоя должны запускаться один раз или обрабатывать каждый пропущенный период?

Теги:
0
Комментарии0
Статья

Из серой глины в кошмар: как мы сделали монстров для AR-хоррора по «Вию» (Tripo AI, авториг, Quaternius, Blender)

Время на прочтение4 мин
Охват и читатели890

Я делаю прототип AR-хоррора для iPhone по «Вию» Гоголя: Home Haunt. Игра ставит историю в вашу комнату: стены кровоточат, из гроба на вашем полу встаёт мёртвая панночка. Делаю на Unity с октября: журнал проекта начинается 2 октября, к 30 октября в нём больше 50 номеров сборок. В статье про монстров: чем они сделаны, что пришлось урезать, чтобы тянул телефон, и что пока не готово.

Читать далее
Новость

Microsoft создала проблемы для сисадминов из‑за изменений часовых поясов в Канаде

Время на прочтение3 мин
Охват и читатели804

Microsoft выпустила обновления для Windows после того, как в ряде регионов провинций Британская Колумбия, Альберта и Манитоба отказались от перехода на летнее время (DST) — теперь часы там не будут переводить назад в зимний период. В связи с этим у местных IT‑администраторов возник целый ряд проблем.

Читать далее
Пост

Куда пропали клиенты без покупок? Ловушка WHERE после LEFT JOIN

Нужно вывести всех клиентов и их оплаченные заказы. Даже если оплаченных заказов нет, клиент должен остаться в отчёте.

Допустим, у нас три клиента:

  • Анна оплатила заказ №101.

  • Борис создал заказ №102, но ещё не оплатил его.

  • У Веры заказов пока нет.

Начнём с такого запроса:

SELECT
    c.name,
    o.id AS order_id
FROM customers AS c
LEFT JOIN orders AS o
    ON o.customer_id = c.id
WHERE o.status = 'paid';

В результате останется только Анна с заказом №101. Борис и Вера исчезнут из отчёта.

Почему так получилось? LEFT JOIN сохраняет строки всех клиентов, но затем WHERE отбирает только те строки, где o.status = 'paid'. Заказ Бориса этому условию не соответствует. У Веры заказа нет, поэтому в присоединённых полях стоит NULL — такая строка тоже не проходит проверку.

Если нужны все клиенты, а из заказов — только оплаченные, условие можно перенести в ON:

SELECT
    c.name,
    o.id AS order_id
FROM customers AS c
LEFT JOIN orders AS o
    ON o.customer_id = c.id
   AND o.status = 'paid';

Теперь в результате будут:

  • Анна — заказ №101;

  • Борис — NULL вместо номера заказа;

  • Вера — NULL вместо номера заказа.

У Бориса есть неоплаченный заказ, но он не соответствует условию соединения. Поэтому из результата нельзя понять, нет ли у клиента заказов вообще или среди них просто нет оплаченных.

Ещё один нюанс: если у Анны два оплаченных заказа, запрос вернёт две строки с её именем. Для отчёта с одной строкой на клиента понадобится дополнительная обработка, например агрегация.

Вывод: условие в ON определяет, какие заказы присоединить к клиенту; условие в WHERE отбирает строки полученного результата. Для LEFT JOIN это может изменить состав клиентов в отчёте.

Уважаемые хабрчане, а как вы проверяете, что при соединении таблиц из отчёта не пропали нужные строки?

Теги:
0
Комментарии0

Ближайшие события

Пост

Открытый проект Android DEX позволяет запускать приложения с Android прямо на ПК. Например, можно открывать мобильные приложения в отдельных окнах, играть в шутеры с помощью мыши и клавиатуры и управлять смартфоном с большого монитора. Решение работает на ПК с Windows, macOS и Linux, а подключение осуществляется по USB или Wi‑Fi.

Теги:
+1
Комментарии1
Статья

Маскирование без дублей: перестановка вместо проверок на уникальность

Уровень сложностиСредний
Время на прочтение11 мин
Охват и читатели1.5K

Когда-то я работал DBA, и одной из самых нелюбимых задач было «сделать копию прода для тестов, только без персональных данных». Заменить значения несложно. Сложности начинаются на колонках с уникальным индексом.

Сейчас мы с небольшой командой разрабатываем сервис для маскирования персональных данных в PostgreSQL и SQL Server. Одной из первых серьёзных задач, с которой мы столкнулись, стала проблема уникальности данных. Ниже расскажу, к каким выводам мы пришли: почему случайная замена может приводить к дубликатам, во что обходится их устранение и как перестановка с сохранением формата (format-preserving encryption, FPE) позволяет сохранить уникальность без проверок на занятость значений. В конце разберём, где заканчиваются гарантии этого подхода и чего он не позволяет добиться.

Читать далее
Статья

Не знаю, кому написать: как организовать внутреннюю поддержку сотрудников в крупной компании

Уровень сложностиСредний
Время на прочтение10 мин
Охват и читатели1.6K

В понедельник сотруднику понадобился доступ к корпоративной системе. Он написал руководителю, тот отправил его в IT. Там попросили согласование службы безопасности. Безопасность уточнила, какие права нужны, на какую систему и кто её владелец. К среде участники переписки разобрались, кто должен согласовать заявку. Доступа пока нет, работа стоит, зато сотрудник уже многое узнал об устройстве компании.

Читать далее
Статья

Ноутбук DevOps-инженера и $6,3 млрд: почему на безопасность нужно выделять время

Уровень сложностиСредний
Время на прочтение4 мин
Охват и читатели1.8K

29 октября из Binance, крупнейшей криптобиржи мира, вывели около $6,3 млрд. По первой версии самой биржи, всё началось со скомпрометированного ноутбука DevOps-инженера.

Через ноутбук атакующий добрался до service container и оттуда отправил транзакции на вывод. Ключи от кошельков не утекли: транзакции подписала сама система биржи, потому что запрос пришёл изнутри.

Криптовалюта здесь вторична. Мне интереснее другое: задачи по безопасности у нас месяцами лежат в бэклоге, а ноутбук инженера с доступом в прод остаётся самым удобным входом в компанию.

Читать далее
Статья

Как организовать общий контекст между разными AI-платформами

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели1.6K

Работаете над одним проектом в ChatGPT, Claude и других AI-сервисах? Тогда наверняка сталкивались с необходимостью заново передавать требования, ограничения и ранее принятые решения.

В статье покажу, как организовать общий проектный контекст с помощью GitHub, чтобы разные AI-платформы могли работать с актуальной информацией. В основе подхода - открытый проект AI Context Kit. Разберём его структуру и практический пример передачи контекста между ChatGPT и Claude.

Читать далее
Статья

Турнир, расписание которого собирают каждую неделю: как состыковать игры и не допустить пересечений? Нужен совет

Уровень сложностиСредний
Время на прочтение11 мин
Охват и читатели1.4K

Мы делаем «Сбор» — сервис для детских футбольных школ: расписание, посещаемость, составы на игры. В прошлой статье рассказывали, что болит у тренеров и родителей. Теперь делаем новую роль — «Организатор турнира». И первое, обо что мы споткнулись, — расписание игр. Организаторы называют его главной своей проблемой.

Обсудить
Статья

Искусственный интеллект меняет кибербезопасность. Что показывают исследования?

Уровень сложностиПростой
Время на прочтение23 мин
Охват и читатели2K

Искусственный интеллект все активнее применяется в информационной безопасности. Современные модели помогают обнаруживать сложные уязвимости, автоматизировать технические операции и даже создавать программные системы без глубоких знаний разработки. Но действительно ли это означает, что для проведения кибератак больше не нужна специальная подготовка? И какие риски возникают, когда возможности ИИ оказываются доступнее, чем компетенции, необходимые для оценки результатов его работы?

В этой публикации я рассматриваю четыре исследования и реальных случая: PHP2Shell, эксперимент RAND, уязвимости Moltbook и соревнование DARPA AIxCC. Попробуем разобраться, что они действительно говорят о влиянии ИИ на кибербезопасность, какие выводы подтверждаются фактическими данными, а какие пока остаются предположениями.

Читать далее
1
23 ...