GUARDRAILS

Les guardrails sont des mécanismes de sécurité ou des règles intégrées dans les systèmes d'intelligence artificielle pour limiter leurs comportements indésirables et garantir qu'ils fonctionnent dans des limites sûres. Ils visent à prévenir les actions nuisibles ou les réponses inappropriées des modèles IA, en contrôlant par exemple les sujets qu'ils peuvent aborder ou la manière dont ils interagissent avec les utilisateurs.

Par exemple, ChatGPT utilise des guardrails pour éviter de générer du contenu inapproprié ou offensant, en bloquant les réponses qui pourraient contenir des discours de haine ou de la désinformation.

Guardrails et LLM sont deux concepts liés mais distincts dans l'écosystème IA. Pour approfondir : LLM, RLHF, Prompt engineering.