Строим корпоративную GenAI-платформу: от концепции до ROI. Часть 4. Безопасность и ограничения (guardrails)
В предыдущих статьях серии (Часть 1, Часть 2, Часть 3) мы рассмотрели концепцию корпоративной GenAI-платформы, архитектуру и способы интеграции моделей. Теперь у нас уже есть рабочий прототип с интегрированным LLM. Но перед тем как запускать его на всю организацию, нужно убедиться, что он не наделает бед. Именно поэтому обсудим guardrails — систему ограничений и правил, которые направляют работу генеративного ИИ в допустимых рамках. Guardrails в GenAI: определение и роль
Выбросить нельзя, переобозначить. Или как дообучать LLM даже на ошибках и без RLHF
Одним из сложнейших этапов дообучения LLM является процесс выравнивания (alignment), который зачастую играет решающую роль в качестве модели. Традиционным подходом к решению данной задачи является RLHF, но для него нужны дополнительные обучаемые модели, а это дополнительные вычислительные затраты и трудности в настройке. В цикле своих исследований об обучении LLM я наткнулся на интересную статью, в которой авторы предлагают метод Hindsight Instruction Relabeling (HIR).Ссылка на источник находится тут. Очень проработанная статья, советую почитать.Предыдущие материалы цикла:
Google запустила бета-версию YouTube для Android TV
Google представила бета-версию YouTube для приложения Android TV. Теперь зрители могут воспользоваться «новейшими функциями», предлагаемыми компанией.
Google разрабатывает аналог Duolingo для приложения Translate
Google развернула инструменты для изучения языка на базе искусственного интеллекта в своём приложении Translate. Новая функция в стиле Duolingo уже доступна для бета-тестирования. Она позволяет создавать индивидуальные уроки с учётом уровня владения языка пользователя и задавать конкретные цели обучения.
7 навыков современного лидера
Кто такой современный лидер? На эту тему написано множество книг и статей. Казалось бы, что ещё можно добавить? Новые реалии требуют новых подходов, пересмотра устоявшихся концепций. Мы хотим рассмотреть несколько важных навыков современного лидера, которые, на наш взгляд, не просто помогают добиться результатов, но и выводят лидера, его команду и бизнес на новый уровень. И в этой системе, кроме классических требований (экспертность в своей области, стратегическое и критическое мышление), появляются другие, основанные не только на результате, но и на том, каким путём этот результат был достигнут. Бизнес-мышление
Следи за собой. Риски общения с ИИ
Вопрос: сведет ли ИИ вас с ума? Хорошая новость — скорее всего нет.За последние пять лет ИИ прошел путь от интересных экспериментов избранных инженеров и ученых, до фактически универсального помощника в каждом доме и офисе. К чему мы пришли:Теперь ИИ рабочий интерфейс почти для всего. Уже не стоит вопрос — справится ли, скорее заказчики спрашивают: а почему в этом проекте до сих пор нет ИИ?
«Яндекс», «Сбер», X5, «Т-Банк» и Lamoda проведут «ночь открытых дверей» в своих офисах
12 сентября 2025 года в Москве пройдёт Big Tech Night. На одну ночь «Яндекс», «Сбер», X5, «Т-Банк» и Lamoda превратят свои офисы в фестивальные площадки с докладами, экскурсиями, квестами и IT-стендапами. Гости могут посетить любой офис или успеть побывать сразу в нескольких.
Микросервисы vs Монолиты: что на самом деле ускоряет разработку
Привет, Хабр!Поскольку первая встреча прошла очень полезно и интересно, мы решили повторить и снова в эфире телеграм-канала Dev Q&A продолжили дискуссию о микросервисах и скорости разработки. Собрались технические эксперты из BPMSoft, DevTale, Revizto и Диасофт (в лице меня). Обменялись практическими примерами на тему как же упростить жизнь разработчикам и получать результат быстрее, дешевле и качественнее.
Второе пришествие микросервисов: почему в 2025 мы снова в них верим
Привет, Хабр!Недавно принял участие в панельной дискуссии про микросервисы. Планировался холивар «монолит vs микросервисы», но получился, на мой взгдяд, интересный разговор с реальными кейсами. Собрались специалисты с интересным практическим опытом: Павел Куликовский (Цифра банк), Антон Мартынов, Алексей Захаров (Axiom JDK), Андрей Почтов (АЭРО) и Александр Тырышкин (DEVTALE).
В Малайзии запустили ИИ-банк
Малазийская группа YTL совместно с сингапурской IT-компанией Sea запустили Ryt Bank. Это приложение, которое позиционирует себя как первый в мире банк на базе искусственного интеллекта.
