La gouvernance de l'IA manque de responsabilité dans les décisions automatisées

Dans sa dernière étude CIO Compass, Sopra Steria Next met en lumière une lacune cruciale en matière de gouvernance de l'IA. Malgré des années d'attention portée aux données, les grandes organisations n'ont pas fait de la gouvernance de la prise de décision par l'IA une priorité. Moins de 20 % des décisions influencées par l'IA ont un responsable métier désigné, des règles explicites et une obligation de rendre des comptes.

De plus, moins d'un quart des décisions prises par l'IA en production sont traçables de bout en bout. Ce manque de supervision engendre des risques, car les défaillances des décisions automatisées peuvent impacter bien plus les opérations et le chiffre d'affaires que les incidents informatiques classiques.

Le rapport plaide pour une conception élargie de la souveraineté en matière d'IA. Il souligne la nécessité d'une « architecture de souveraineté » englobant les données, les modèles, les plateformes, les API et les décisions. Cette architecture est indispensable pour déterminer qui opère et qui est responsable de ces différents niveaux.