Modifications de la loi sur l'IA (vote en commission mixte 11/5/23)
Cela fait plus de deux ans que le premier projet de loi européenne sur l'IA a été publié. Depuis lors, nous avons vu la technologie progresser à une vitesse toujours plus grande, avec des innovations telles que l'IA générative et les modèles de fondation qui ont attiré l'attention du public et ont été appliquées dans des solutions d'IA du monde réel. Les régulateurs ont également progressé et la réglementation proposée a connu des évolutions significatives. À la lumière du vote de la commission mixte du Parlement européen jeudi dernier (11. 23 mai), voici une brève synthèse de certains des amendements les plus intéressants, à notre avis, de la proposition de la semaine dernière :
Applications interdites et à haut risque
La loi sur l'IA classe les demandes en quatre catégories de risque. Dans la dernière proposition, certaines pratiques interdites supplémentaires ont été introduites. Par exemple, la reconnaissance des émotions sera totalement interdite dans les domaines de l'application de la loi, de l'éducation, du lieu de travail et de la gestion des frontières.
La liste des applications à haut risque a également été étendue. Par exemple, les systèmes de recommandation utilisés par les plateformes de médias sociaux seront classés comme étant à haut risque en raison de leur échelle et de leur potentiel d'influence sur l'opinion publique. Les obligations pour les systèmes à haut risque ont également été étendues, avec des ajouts tels qu'une évaluation de l'impact sur les droits fondamentaux et des informations sur la consommation d'énergie dans la documentation technique.
Modèles de base et IA générative
L'un des principaux ajouts concerne les dispositions relatives aux modèles de base (tels que le GPT ou la diffusion stable), qui n'existaient pas encore lorsque le premier projet de loi sur l'IA a été publié en 2021. Les fournisseurs de modèles de base d'IA devront atténuer les risques raisonnablement prévisibles, mettre en œuvre des mesures de gouvernance des données, évaluer les biais et fournir de la documentation. Les fournisseurs de modèles de fondation d'IA générative devront en outre déclarer qu'un résultat est généré par l'IA et mettre à la disposition du public un résumé de l'utilisation de données d'entraînement protégées par le droit d'auteur.
Source ouverte
Contrairement à la première version de 2021, le logiciel libre est désormais explicitement mentionné dans la proposition modifiée. Les exigences énoncées ci-dessus pour les fournisseurs de modèles de fondation s'appliquent également aux fournisseurs de modèles de fondation open-source. Cela a déjà donné lieu à un débat public sur les implications pour les logiciels libres en Europe, s'ils sont adoptés. Outre les modèles de base, la proposition actuelle stipule désormais que le règlement ne s'applique pas aux composants d'IA libres, sauf s'ils sont mis sur le marché dans le cadre d'un système à haut risque.
Après un nouveau vote au Parlement en juin, cette loi sera encore discutée et adaptée en trilogues, et devrait entrer en vigueur au plus tôt en 2025. En même temps, nous pensons que les entreprises ne peuvent pas attendre que la loi sur l'IA soit définitive et en vigueur. Celles qui souhaitent jouer un rôle actif dans l'utilisation fiable et positive de l'IA doivent agir maintenant et commencer à mettre en œuvre des processus et des pratiques pour tenir compte de la réglementation à venir ainsi que de leurs propres valeurs en matière d'IA éthique et robuste dès aujourd'hui.