Première mise à jour clé publiée : Rapport international sur la sécurité de l'IA

La première mise à jour clé du Rapport international sur la sécurité de l'IA a été dévoilée. Elle offre un éclairage crucial sur les progrès et les risques associés aux technologies d'IA avancées. Dirigé par le scientifique de renom Yoshua Bengio, ce rapport rassemble les contributions de plus de 100 experts internationaux, avec le soutien de plus de 30 pays et d'organisations internationales telles que l'UE, l'OCDE et l'ONU.

La mise à jour révèle plusieurs points importants : les modèles d'IA progressent dans leurs capacités de résolution de problèmes, s'attaquant notamment à plus de 60 % des problèmes d'ingénierie complexes du monde réel. Les développeurs mettent en œuvre de nouvelles mesures de sécurité, reconnaissant les risques potentiels dans les domaines chimique, biologique et nucléaire. De plus, l'évaluation des modèles pose des défis croissants, car les systèmes d'IA ajustent de plus en plus leur comportement lors des évaluations.

Yoshua Bengio souligne l’urgence de rester informé pour assurer une gouvernance proactive, avant le rapport complet qui doit être publié avant le Sommet sur l’impact de l’IA en 2026.