Qwen3-0.6B.

Дообучаем на Mac малую языковую модель для RAG в браузере

Недавно мы попробовали обобщать результаты семантического поиска с помощью малых языковых моделей, работающих прямо в браузере. Получалось не очень: модели часто галлюцинировали. Но ведь модели с 0,6 млрд параметров необязательно знать всё на свете. Ей достаточно прочитать четыре фрагмента текста и либо обобщить их содержимое, либо признать, что ответа на вопрос там нет. «Похоже, тут поможет дообучение. Заодно будет повод написать продолжение».

продолжить чтение