AI Safety
La sûreté de l'IA (AI Safety) est le domaine de recherche visant à s'assurer que les systèmes IA, y compris les futurs systèmes très avancés, restent bénéfiques, contrôlables et alignés sur les valeurs humaines à long terme.
Anthropic, fondée par d'anciens chercheurs d'OpenAI préoccupés par les risques IA, consacre plus de 20% de ses ressources à la recherche fondamentale en sûreté IA, notamment l'interpretabilité mécaniste.
La sûreté de l'IA (AI Safety) est le domaine de recherche visant à s'assurer que les systèmes IA, y compris les futurs systèmes très avancés, restent bénéfiques, contrôlables et alignés sur les valeurs humaines à long terme.
Anthropic, fondée par d'anciens chercheurs d'OpenAI préoccupés par les risques IA, consacre plus de 20% de ses ressources à la recherche fondamentale en sûreté IA, notamment l'interpretabilité mécaniste.
Sûreté de l'IA et Alignement IA sont deux concepts liés mais distincts dans l'écosystème IA. Pour approfondir : Alignement IA, Guardrails, Red teaming, Constitutional AI.
Gardez un coup d'avance en business et IA
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs abonnés