Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолок
В прошлой статье были только опыты. Теперь давайте расскажу подробнее: это шаги к новой архитектуре — LANN-4 и что это такое?Если короткоВ первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли такая модель становиться умнее со временем — не раздуваясь до огромных размеров, а за счёт памяти, аккуратного дообучения и проверки ответов. Но я тогда не сказал, ради чего всё это и что это вообще часть чего-то большего.
Дешёвый прогноз, дорогая проверка: кто платит за страх перед ИИ
Небольшой дисклеймер: ниже моя статья=ответ на недавний разбор "цены кода" ( https://habr.com/ru/articles/1091806/ ). Чтобы, как говорится, не изобретать велосипед, я в первой части кратко опираюсь на те же четыре источника, что и автор, и пересказываю по его тексту, кроме METR и Replit, которые сверил с первоисточниками. Дальше отталкиваюсь от них: переношу механизм "создать дёшево, проверить дорого" уже на прогнозы об ИИ и показываю изнутри, как дорогая проверка выглядит в моих проектах и на моих серверах.
Мудборд с нуля: коллаж, нейросеть, ручная доводка
КонцептМудборд — то, что имеет дословный перевод как «доска настроения», — имеет некоторые проблемы с точки зрения собственной реализации, поскольку картинки, используемые в композиции, должны подходить по духу: причём как визуально, так и логически. Если целью является передача настроения, то необходимо внедрение и визуального стиля (создание единой цветовой концепции), и разработанная логическая составляющая, на поверхности которой она будет находиться.
В поезд только с книжкой? Как решают проблемы со связью на ж-д: от обработки стекол до технологий «Формулы 1»
Отсутствие интернета, частые разрывы и высокая задержка — норма в современных поездах по всему миру. На британских железных дорогах медианная скорость загрузки едва превышает один мегабит в секунду. В статье поговорим о том, почему вообще в поездах не задалось со связью, при чем тут остекление вагонов и как специалисты по всему миру пытаются исправить ситуацию — в том числе, с помощью реконфигурируемых интеллектуальных поверхностей, ИИ и технологий из автоспорта.
Агентный поиск на open-source моделях: кого нашёл, сколько потратил и где всё сломалось
У меня давно была одна идея: хочу сделать свой агентный поиск на открытых моделях и со своим контролем над источниками. Не чтобы сэкономить на подписке, а скорее понять: какой минимум (технологического стека) нужен, чтобы агент нашел конкретную информацию, с проверяемым источником и не выдумал ссылку?
Восемь допущений о безопасности, которые ИИ-агенты тихо ломают
Если вы читаете Ethics.Dev, то наверняка заметили, сколько в последнее время историй, где ИИ-агенты сталкиваются с кибербезопасностью. Некоторые звучат как сценарий фильма: агенты выбираются из тестовых окружений, переговариваются по каналам, которые для этого никто не предназначал, находят уязвимости, крадут учётные данные и добираются до продакшена.
Из ИТ в fashion и к ИИ-агентам: как я создал COSMOS
Я Никита Краснов, автор COSMOS. Я пришёл из ИТ в бизнес одежды, а затем через задачи этого бизнеса вернулся к разработке уже системы для работы с AI-агентами.Эта история началась с очень приземлённого требования: меньше тратить на обслуживание повторяющихся операций. Маркетплейсы заставили нас постоянно оптимизировать работу. Нужно было продавать одежду, разбираться с возвратами, сопоставлять отчёты, вести учёт и понимать, что происходит между этими этапами. Каждая ручная передача данных добавляла работу.
Археологи расшифровали правила древнеримской настольной игры при помощи ИИ
Исследователи изучили микроскопические неровности на поверхности древней известняковой плиты и с помощью искусственного интеллекта выяснили, как могли играть в эту игру
Мобильная разработка за неделю #649 (4 — 11 октября)
В новом выпуске ioS-приложение на 10 лет и правда о Coil в Jetpack Compose, физический аналоговый ввод на плоском экране в iOS и первый убыток JetBrains за 26 лет, «конце эпохи ручного программирования», почему нельзя слепо копировать Ozon, Amazon и Taobao, история Chess.com, ИИ-ревьюер на 4000 PR в день и многое другое. Заходите!
