Foundation Models в iOS 26: разбор фреймворка для on-device LLM
Когда я готовился к внутреннему митапу по WWDC 2025 в нашей iOS-команде, нужно было сделать обзор сессий #360 (Discover ML & AI Frameworks) и #265 (Dive Deeper into Writing Tools). Доклад я уже провёл, но при подготовке набралось много заметок, которые в формат презентации не влезли: подводные камни, неочевидные решения, паттерны использования. Эта статья — попытка собрать всё это в одном месте.
Разработчику удалось запустить обучения нейросетей на NPU от Apple, который доступен только для инференса
Разработчик Манжит Сингх (Manjeet Singh) опубликовал на GitHub проект ANE Training — это способ запускать обучение нейросетей на NPU от Apple. Официально компания позволяет использовать NPU в своих устройствах только для запуска моделей.
