Évaluation éthique et technique d'une solution basée sur l'IA dans l'équipe de la salle de presse du Conseil de l'UE
Impact
En soutien à l'équipe Newsroom du Secrétariat Général du Conseil de l'UE, ML6 a évalué la faisabilité technique et les risques éthiques potentiels liés à l'utilisation d'une solution basée sur l'IA pour l'annotation des médias. ML6 a utilisé sa méthodologie d'évaluation des risques pour évaluer les principaux défis éthiques basés sur les 7 dimensions de l'IA digne de confiance et donner des recommandations pour atténuer les risques potentiels dès la conception d'une solution technique. Grâce à ces recommandations, l'équipe de la salle de presse du Conseil de l'UE sera en mesure de prendre des décisions éclairées sur la conception et la mise en œuvre d'une solution basée sur l'IA pour sa salle de presse.
Chez ML6, nous pensons que l'évaluation systématique des risques éthiques des solutions d'IA est une partie importante de la conception et du développement de l'IA et devrait faire partie de tout projet d'IA. Avec ce projet, l'équipe de la salle de presse du Conseil de l'UE montre l'exemple en procédant à de telles évaluations dès les premières étapes.
Présentation du client
Le Conseil européen et le Conseil de l'Union européenne sont deux des principales institutions de l'Union européenne (UE). Le Conseil européen est composé des chefs d'État ou de gouvernement des 27 États membres de l'UE, du président du Conseil européen et du président de la Commission européenne, et définit l'orientation politique et les priorités de l'UE. Le Conseil de l'UE est composé des ministres des gouvernements nationaux de chaque État membre. Le Conseil négocie et adopte les lois de l'UE, dans la plupart des cas en collaboration avec le Parlement européen. Le secrétariat général du Conseil est au service de ces deux institutions. Via le site web de la salle de presse, cette institution fournit un accès gratuit à des fichiers vidéo, image et audio de haute qualité couvrant toutes les activités importantes du Conseil de l'UE, telles que les tables rondes et les conférences de presse.
Défi
Afin d'accroître l'efficacité, de libérer le temps de la salle de presse du Conseil de l'UE et de lui permettre de se concentrer sur des tâches plus importantes, l'équipe envisage d'utiliser un système basé sur l'IA pour automatiser le processus d'annotation des fichiers multimédias. Conscient de l'importance et de la nécessité de créer des applications d'IA éthiques et dignes de confiance, le Conseil de l'UE a voulu être un précurseur en accompagnant la conception technique d'une solution d'IA d'une évaluation éthique approfondie.
Solution
Au cours de la phase conceptuelle du projet, l'accent a été mis sur l'identification des risques éthiques potentiels d'un système basé sur l'IA et l'équipe du Conseil de l'UE a travaillé en étroite collaboration avec le ML6 pour obtenir des recommandations techniques et éthiques. Ces recommandations portaient notamment sur la sécurité et la robustesse technique du système, la confidentialité des données et la gouvernance, l'équité et la diversité. Ces conclusions ont permis d'orienter les solutions possibles et les choix de conception, garantissant ainsi que les obstacles potentiels à l'avenir pourront être évités.
En particulier, en ce qui concerne les recommandations éthiques, nous avons évalué les risques éthiques potentiels sur la base de notre méthodologie d'évaluation des risques en utilisant les sept dimensions de l'IA digne de confiance telles que définies par le groupe d'experts de haut niveau de l'UE sur l'IA. L'IA digne de confiance décrit une IA conforme à la loi, éthiquement responsable et techniquement fiable. Ce concept repose sur le principe que l'IA ne pourra atteindre son plein potentiel que lorsque la confiance pourra être établie tout au long de son cycle de vie, de la conception et du développement au déploiement et à l'utilisation. Une approche pour parvenir à une IA digne de confiance consiste à aligner la conception et l'application de l'IA sur des valeurs éthiques et inclusives et à s'efforcer de maximiser ses avantages tout en identifiant, prévenant et atténuant les pièges potentiels.
Par
Résultats
Le processus d'évaluation a commencé par une série d'entretiens avec les membres de l'équipe de la salle de presse, qui ont fourni des informations précieuses sur leurs tâches et processus quotidiens. Ces entretiens ont été suivis d'une évaluation technique et éthique approfondie des solutions potentielles. En outre, l'équipe de ML6 a également réalisé diverses expériences techniques afin de mieux comprendre le sujet en question. Toutes les conclusions ont été résumées dans un rapport, servant de documentation sur les risques potentiels et les stratégies d'atténuation des risques.