Anthropic : Claude Opus 4.6 critiqué sur la R&D automatique

Le rapport d’Anthropic sur les risques d’automatisation de la R&D a été soumis à l’examen par METR. Cette revue externe, publiée en août 2026, critique l’affirmation selon laquelle l’automatisation par le modèle Claude Opus 4.6 ou un modèle moins avancé présente un risque catastrophique très faible. METR souligne que les preuves fournies par Anthropic ne suffisent pas pour soutenir cette conclusion sur le faible risque d’automatisation totale de la R&D.

Problèmes Analytiques et Suggestions

Des problèmes analytiques ont été identifiés dans l’argument présent du rapport. METR note que l’enquête de référence présentée souffre de difficultés telles que la taille de l’échantillon et le cadrage des questions. Ils estiment également que la possibilité d’une accélération substantielle de la R&D par l’IA avant l’automatisation complète n’est pas abordée de manière adéquate.

Anthropic a partagé des documents supplémentaires non publics pour l’examen de METR. Malgré les critiques, METR reconnaît un manque de preuves publiques montrant que le modèle Opus 4.6 automatise des domaines clés de la R&D, corroborant ainsi la conclusion de faible risque du rapport. Cependant, METR considère que les éléments rapportés sont insuffisants pour soutenir cette conclusion.

Des recommandations pour améliorer les enquêtes internes ont été faites, notamment un échantillonnage plus large et des options de réponse plus précises. METR encourage également Anthropic à utiliser d’autres sources de preuves comme indicateurs de progrès de l’IA. Le rapport public de février 2026 pourrait être mis à jour, intégrant ces suggestions selon METR.

Pour en savoir plus, consultez la revue METR et le rapport de février 2026 d’Anthropic. METR prévoit de mettre à jour sa revue si des changements matériels sont effectués dans la version publique du rapport.