La transparence s’améliore chez les principaux développeurs de systèmes IA

Un nouveau rapport de l’Organisation de coopération et de développement économiques (OCDE) fait état d' »efforts de transparence croissants » chez les principaux développeurs de systèmes d’Intelligence artificielle (IA).

L’étude, dévoilée jeudi, analyse les rapports de transparence « volontaires » publiés dans le cadre du Processus d’Hiroshima sur l’IA par des entreprises de technologies et de télécommunications, ainsi que par des établissements de conseil, de recherche et d’enseignement, dont Anthropic, Google, Microsoft, NTT, OpenAI, Salesforce et Fujitsu.

L’analyse révèle que de nombreuses organisations mettent au point des méthodes de plus en plus perfectionnées pour évaluer et limiter les risques, notamment des tests d’équipe rouge et des outils fondés sur l’IA, afin de mieux comprendre le comportement des modèles et d’améliorer la fiabilité des systèmes.

Les grandes entreprises technologiques disposent souvent de pratiques plus évoluées, en particulier pour ce qui est de l’évaluation des risques systémiques et sociétaux, précise le rapport.

Il en ressort également que les principaux acteurs de l’IA sont de plus en plus conscients de l’importance du partage d’information sur la gestion des risques dans le but de renforcer la confiance, de favoriser l’apprentissage mutuel et de créer des environnements plus prévisibles pour l’innovation et l’investissement.

Le document note, en revanche, qu' »au-delà de certaines grandes entreprises, le recours aux outils techniques de traçabilité tels que les tatouages numériques, les signatures cryptographiques et les métadonnées d’authentification des contenus reste limité ».

« L’amélioration de la transparence est essentielle pour renforcer la confiance dans l’intelligence artificielle et en accélérer l’adoption. En proposant des points de référence communs, les rapports de transparence volontaires peuvent contribuer à diffuser les bonnes pratiques, réduire la fragmentation réglementaire et favoriser l’adoption de l’IA à l’échelle de l’économie, y compris au sein des petites entreprises », a souligné Jerry Sheehan, en charge de la Direction de la science, de la technologie et de l’innovation de l’OCDE, en présentation de l’étude.

Le cadre de l’OCDE relatif à l’établissement des rapports de transparence volontaires, mis au point sous la présidence italienne du G7 en 2024, avec le concours de représentants d’entreprises, du monde universitaire et de la société civile, jette les bases de l’adoption d’approches coordonnées à l’appui d’une IA sûre, sécurisée et digne de confiance. Il aide à la mise en œuvre du Processus d’Hiroshima sur l’IA, lancé sous la présidence japonaise du G7 en 2023.