Dario Amodei redoute une crise de confiance envers l’IA

Dario Amodei, co-fondateur de la société d’IA Anthropic, a récemment exposé ses préoccupations sur la perte de confiance du public dans la technologie de l’intelligence artificielle. Selon Amodei, une crise de confiance se développe, avec beaucoup de gens craignant que les entreprises et les gouvernements puissent concocter de nouvelles façons de les manipuler ou de tirer parti des technologies pour des fins nuisibles. Cette prise de position intervient dans un contexte où l’IA prend une place de plus en plus centrale dans divers secteurs et activités de la vie quotidienne.

Une régulation nécessaire. Face aux inquiétudes grandissantes, Dario Amodei insiste sur l’importance de mettre en place des régulations pour gérer les modèles d’IA ouverts. Selon lui, il est primordial de veiller à ce que ces technologies soient déployées de manière éthique et transparente, minimisant ainsi le risque de mauvaises utilisations. Les appels à une régulation plus stricte trouvent de l’écho, notamment en raison des avancées rapides et parfois chaotiques de l’IA dans ces dernières années. Amodei a cité un rapport de 2023 qui souligne que 60% des experts en IA estiment que des régulations plus strictes sont nécessaires pour éviter des dérives potentielles.

Les perspectives d’Anthropic

Les perspectives d’Anthropic. Fondée par d’anciens membres d’OpenAI, comme Amodei, Anthropic se positionne aujourd’hui comme une entreprise engagée dans le développement responsable de l’IA. Leurs initiatives se veulent orientées vers la sécurité et l’éthique, soulignant que la transparence et la responsabilité doivent être au cœur des approches en matière d’intelligence artificielle. Les défis auxquels font face les régulateurs semblent complexes, mais l’urgence d’actionner des principes de protection est un message fort porté par Amodei. En 2024, Anthropic a lancé un programme pilote visant à tester des protocoles de sécurité avancés pour les systèmes d’IA, démontrant leur engagement envers une IA plus sûre. Pour en savoir plus, lisez l’article complet sur Fortune.