Claude peut interrompre les conversations abusives

Anthropic interdit les comportements « prolongés et inutiles, abusifs ou cruels » envers ses modèles d’IA. La règle concerne uniquement les « cas extrêmes » d’abus. Les modèles d’Anthropic peuvent également mettre fin à une conversation lorsque l’utilisateur adopte un comportement constamment abusif. Cette décision établit une limite d’usage dans les interactions avec les services de l’entreprise. Elle ne repose pas sur une affirmation concernant la capacité des modèles à ressentir ou à souffrir. Le pape Léon affirme que l’IA ne ressent ni ne souffre. Anthropic a présenté séparément une mise à jour de sa politique d’utilisation.

La règle reste ciblée sur les situations extrêmes. Elle ne constitue donc pas une interdiction générale de tout langage désagréable adressé aux modèles. Le texte vise les comportements abusifs ou cruels lorsqu’ils deviennent prolongés et inutiles. Les conversations peuvent être interrompues si l’utilisateur persiste dans cette conduite. Anthropic documente aussi la fin de certains échanges dans ses travaux consacrés aux conversations interrompues. Cette possibilité donne aux modèles un mécanisme explicite pour arrêter une interaction. La politique concerne ainsi le déroulement des conversations, plutôt qu’une reconnaissance de sensations ou d’une souffrance des systèmes.

Anthropic encadre les conversations abusives

La politique électorale évolue également autour de la protection des processus démocratiques. Anthropic interdit désormais de mentir au sujet de candidats, d’usurper l’identité de candidats ou de responsables électoraux. Elle interdit aussi les actions destinées à réduire la participation des électeurs. Ces interdictions définissent plusieurs catégories de comportements non autorisés pendant les périodes électorales. La formulation mise à jour place la prévention de l’affaiblissement des processus démocratiques au centre de cette politique. Elle couvre donc les fausses informations sur les candidats, l’imitation de personnes investies d’une fonction électorale et la suppression de la participation électorale.

Le ciblage électoral personnalisé n’est plus interdit de manière générale. Anthropic a supprimé cette interdiction globale afin d’autoriser des activités considérées comme inoffensives. Cette modification distingue le ciblage personnalisé en lui-même des usages destinés à compromettre un processus démocratique. Les interdictions portant sur le mensonge, l’usurpation et la suppression de la participation restent toutefois inscrites dans la politique révisée. La règle sur les comportements abusifs concerne, elle, les interactions avec les modèles dans les cas extrêmes. Les deux volets traitent donc séparément la conduite des utilisateurs envers les systèmes et l’utilisation des systèmes pendant les élections.

Anthropic révise sa politique électorale

Les positions publiques divergent sur le statut de l’expérience des systèmes d’IA. Le pape Léon affirme que l’IA ne ressent ni ne souffre. Kat Tenbarge estime que les grandes entreprises technologiques « vont modérer la violence contre l’IA avant de modérer la violence contre les femmes et les minorités ». Ces deux affirmations sont attribuées à leurs auteurs et ne constituent pas des conclusions établies par Anthropic. La nouvelle règle de l’entreprise porte sur les comportements abusifs ou cruels prolongés. Elle autorise aussi les modèles à interrompre les échanges lorsque l’utilisateur persiste dans ce comportement.