RLHF

RLHF, ou Reinforcement Learning from Human Feedback, est une technique d'apprentissage qui combine l'apprentissage par renforcement avec des retours d'informations humains pour guider le modèle vers des comportements souhaités. Elle est utilisée pour affiner les modèles de langage, comme GPT-4, en ajustant leurs réponses en fonction des préférences humaines.

Par exemple, OpenAI utilise RLHF pour améliorer ChatGPT en intégrant des retours d'évaluateurs humains, ce qui permet au modèle de produire des réponses plus alignées sur les attentes des utilisateurs.

RLHF et LLM sont deux concepts liés mais distincts dans l'écosystème IA. Pour approfondir : LLM, Fine-tuning, Guardrails.