Изкуствен интелект
Fine-tuning на модели с твои данни
Модел, дообучен върху твоите данни, за да върши една задача отлично.
Fine-tuning дообучава готов модел с примери от конкретната задача: тон на фирмата, специфичен формат на изхода, тесен домейн. Често малък дообучен модел работи по-добре и много по-евтино от голям универсален.
Използвам LoRA и QLoRA – обучават се само малка част от параметрите, така че дообучаването е възможно на една видеокарта. Най-важната част е подготовката на данните и оценката на резултата преди и след обучението.
Кога да ме потърсиш
- Моделът трябва да пише в тона на фирмата или в строг формат.
- Голям универсален модел е скъп за задача, която малък би свършил.
- Имаш натрупани примери, които искаш да превърнеш в модел.
Въпроси
Колко данни трябват?
За тясна задача често стигат няколкостотин до няколко хиляди добри примера. Качеството им е по-важно от броя.
Винаги ли е нужен fine-tuning?
Не. Често добре написани инструкции или RAG стигат. Препоръчвам дообучение само когато тестовете покажат, че си струва.
Искаш да използваш Fine-tuning на модели в твоя проект?
Да поговорим