Да поговорим
Всички технологии

Изкуствен интелект

Fine-tuning на модели с твои данни

Модел, дообучен върху твоите данни, за да върши една задача отлично.

Fine-tuning дообучава готов модел с примери от конкретната задача: тон на фирмата, специфичен формат на изхода, тесен домейн. Често малък дообучен модел работи по-добре и много по-евтино от голям универсален.

Използвам LoRA и QLoRA – обучават се само малка част от параметрите, така че дообучаването е възможно на една видеокарта. Най-важната част е подготовката на данните и оценката на резултата преди и след обучението.

Кога да ме потърсиш

  • Моделът трябва да пише в тона на фирмата или в строг формат.
  • Голям универсален модел е скъп за задача, която малък би свършил.
  • Имаш натрупани примери, които искаш да превърнеш в модел.

Въпроси

Колко данни трябват?

За тясна задача често стигат няколкостотин до няколко хиляди добри примера. Качеството им е по-важно от броя.

Винаги ли е нужен fine-tuning?

Не. Често добре написани инструкции или RAG стигат. Препоръчвам дообучение само когато тестовете покажат, че си струва.

Искаш да използваш Fine-tuning на модели в твоя проект?

Да поговорим