Ajuste fino de Phi-3 con QLoRA
Ajuste fino del modelo de lenguaje Phi-3 Mini de Microsoft utilizando QLoRA (Quantum Low-Rank Adaptation).
QLoRA ayudará a mejorar la comprensión conversacional y la generación de respuestas.
Para cargar modelos en 4 bits con transformers y bitsandbytes, debes instalar accelerate y transformers desde la fuente y asegurarte de tener la última versión de la biblioteca bitsandbytes.
Ejemplos
- Aprende más con este cuaderno de muestra
- Ejemplo de ajuste fino en Python
- Ejemplo de ajuste fino en Hugging Face Hub con LORA
- Ejemplo de ajuste fino en Hugging Face Hub con QLORA
Descargo de responsabilidad: Este documento ha sido traducido utilizando servicios de traducción automática basados en inteligencia artificial. Aunque nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automatizadas pueden contener errores o inexactitudes. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda la traducción profesional humana. No nos hacemos responsables de ningún malentendido o interpretación errónea que surja del uso de esta traducción.