Un monde de tech – Les zones d’ombre de l’AI Act européen

Les menaces qualifiées dans le texte européen de « minimales » et « limitées » concernent les systèmes IA utilisés dans les jeux vidéo ou les filtres anti-spam gérés par IA permettant de lutter contre les arnaques en ligne, par exemple. Viennent ensuite les programmes qui offrent la possibilité de générer ou manipuler des images, du son ou des vidéos, notamment des hyper trucages de désinformations sur les réseaux sociaux.

Le « risque élevé » s’adresse aux dispositifs employés dans les secteurs de la santé, de l’éducation, du recrutement, de la gestion d’infrastructures critiques, du maintien de l’ordre ou encore de la justice. Et en tête de liste, nous trouvons les risques inacceptables qui portent atteinte la dignité humaine, la démocratie ou l’État de droit. Les systèmes d’identification biométrique associés à la reconnaissance faciale dans des zones accessibles au public sont, par exemple, formellement interdits dans le nouveau règlement.

L’IA Act, un règlement jugé trop complexe

Industriels de la tech, décideurs politiques, représentants de la société civile ou encore les jeunes pousses ont jusqu’au 11 décembre pour donner leur avis lors de la consultation publique en ligne organisé par la Commission. Elle permettra aux parties prenantes de spécifier des exemples de systèmes qui devraient, ou pas, être interdits dans l’UE. L’instance européenne promet à son issue de publier des lignes directrices le 2 février 2025. Cette consultation aiderait « les autorités nationales compétentes ainsi que les fournisseurs et les concepteurs de programmes » à mettre en place le nouveau règlement.

Et c’est là, où le bât blesse ! Le texte de l’UE empile les contradictions et « des exceptions problématiques » nuisibles au nouveau règlement, remarque Jean-Gabriel Ganascia, expert en éthique numérique, professeur à la faculté des sciences de la Sorbonne et à l’Institut Universitaire de France : « C’est une loi d’une telle complexité que nul n’est capable de la comprendre. Elle se fonde sur la gestion du risque et c’est un premier problème, car le risque, c’est l’anticipation des dangers. Or les développements futurs des programmes de l’intelligence artificielle sont en grande partie imprédictibles. Si nous prenons, par exemple, les risques faibles liés à l’IA, c’est-à-dire le déploiement des programmes qui ne sont soumis à aucune interdiction, nous trouvons les filtres à spam. Il est impossible de savoir sur quels critères techniques, ces filtres anti-arnaques fonctionnent. Leur utilisation obligatoire est pourtant une forme de censure qui est imposée aux internautes européens. Et là, il est regrettable que ces algorithmes soient exclus des obligations de transparence qui ont été définies dans le cadre général de la nouvelle loi de l’UE sur l’IA. Cette législation est donc extrêmement difficile à mettre en œuvre et je ne suis pas certain qu’on y parviendra dans les années qui viennent. »

Les enjeux de la régulation des IA débattus à Sophia Antipolis

Les dilemmes éthiques posés par l’IA seront au cœur des débats de la nouvelle édition du SophI.A Summit ce mercredi. Organisée par la technopole européenne Sophia Antipolis située sur la Côte d’Azur en France, Jean-Gabriel Ganascia, reviendra sur les grands enjeux de la régulation et de l’éthique dans le développement des algorithmes. Par ailleurs, rappelons que l’Union européenne est franchement à la traîne dans ses investissements sur l’IA. La plupart des firmes de la Big Tech, mais aussi de nombreuses jeunes pousses dans l’UE, appellent le Vieux Continent à se ressaisir, s’il veut rivaliser avec les entreprises chinoises ou les géants de la Silicon Valley.