- BrainTools - https://www.braintools.ru -
Стартап Thinking Machines Lab, основанный бывшим CTO OpenAI Мирой Мурати, выпустил свою первую фундаментальную модель — Inkling. Вместо гонки за лидерством [1] в бенчмарках компания делает ставку на открытые веса, мультимодальность и инфраструктуру для глубокой кастомизации моделей под конкретные продукты.
По характеристикам релиз получился одним из самых крупных среди открытых моделей:
975 млрд параметров (архитектура Mixture-of-Experts);
41 млрд активных параметров на токен;
контекстное окно до 1 млн токенов;
предварительное обучение [2] на 45 трлн токенов, включающих текст, изображения, аудио и видео.
Также представили Inkling-Small. Это облегчённая версия с 12 млрд активных параметров, ориентированная на более дешёвый и быстрый инференс.
При этом в Thinking Machines прямо признают, что Inkling не является лучшей моделью ни среди open-, ни среди closed-моделей. Вместо этого разработчики позиционируют её как сильную базовую мультимодальную модель, которую можно эффективно адаптировать под конкретные сценарии использования. Такой подход, по мнению компании, важнее, чем максимальные результаты в синтетических тестах.
Ключевым элементом экосистемы стала платформа Tinker, анонсированная компанией ранее. Через неё разработчики могут запускать полный цикл дообучения модели: загружать собственные датасеты, проводить fine-tuning, выполнять оценку качества и переключать приложения на новые веса без самостоятельной организации ML-инфраструктуры.
В демонстрации возможностей Thinking Machines показала показательный сценарий: Inkling самостоятельно сформировала задачу на fine-tuning, обучилась избегать использования буквы «e» в ответах, автоматически запустила оценку качества и после успешной проверки переключилась на обновлённые веса. Таким образом компания демонстрирует не столько возможности самой модели, сколько полностью автоматизированный цикл ее адаптации.
Фактически предлагается следующий процесс: модель → постановка задачи → подготовка данных → fine-tuning → evaluation → публикация новых весов.
На фоне того, что многие разработчики сегодня выбирают между дорогими закрытыми моделями OpenAI/Anthropic и открытыми решениями зачастую китайских лабораторий, Thinking Machines пытается занять свою нишу. Компания делает акцент на том, что бизнесу зачастую важнее не абсолютное лидерство в рейтингах, а возможность быстро получить собственную специализированную модель, адаптированную под внутренние процессы и данные.
Если эта стратегия окажется успешной, Inkling может стать не просто ещё одной крупной open-weights моделью, а основой для своеобразной «фабрикой моделей», где под каждый продукт или компанию создаётся собственная специализированная версия ИИ.
Автор: DashaPasha
Источник [3]
Сайт-источник BrainTools: https://www.braintools.ru
Путь до страницы источника: https://www.braintools.ru/article/33196
URLs in this post:
[1] лидерством: http://www.braintools.ru/article/1165
[2] обучение: http://www.braintools.ru/article/5125
[3] Источник: https://habr.com/ru/companies/bothub/news/1060322/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1060322
Нажмите здесь для печати.