AI Act : 5 questions pour comprendre ce nouveau règlement sur l’IA

Cette législation commence à être mise en application depuis ce dimanche.

0 𝕏

© Vitor Miranda / Shutterstock 𝕏

En mai dernier, l’AI Act était adopté par les États membres de l’Union européenne. Ce texte ambitieux vise avant tout à protéger les droits des citoyens et limiter les utilisations abusives de l’IA. Alors que les premières dispositions de cette législation sont entrées en vigueur le dimanche 2 février, voici tout ce qu’il faut savoir sur ce nouveau dispositif.

Quelles mesures sont déjà appliquées ?

Dans le détail, le texte interdit dès maintenant tous les systèmes de notation sociale privés ou publics, tels qu’on peut les observer en Chine. Les dispositifs de police prédictive qui visent à estimer si une personne est plus susceptible de commettre des infractions sont également prohibés.

Il en va de même pour les applications de « reconnaissance des émotions » au travail et à l’école, détaille Le Monde. L’identification des citoyens par reconnaissance faciale en temps réel dans l’espace public et la catégorisation biométrique des personnes pour repérer « leur race, leurs opinions politiques, religieuses, leur orientation sexuelle ou leur appartenance syndicale », sont enfin proscrites.

Quel calendrier pour les autres dispositions ?

Nos confrères précisent qu’à partir du 1er août 2025, les modèles d’IA « à usage général », autrement dit les générateurs de texte et d’image tels que ChatGPT ou Gemini vont devoir faire preuve de transparence dans leur documentation technique et sur leurs données d’entraînement. Des audits de sécurité sur les risques cyber devront en outre être réalisés.

Beaucoup plus tard, en 2027, les IA jugées à haut risque, telles que celles fonctionnant dans les infrastructures d’eau, d’électricité de route, dans la justice, dans la police ou dans l’éducation, devront mener des évaluations concernant les risques d’erreurs et de biais.

Qui contrôlera l’application de l’AI Act ?

Pour s’assurer du respect des règles de l’AI Act, un Bureau de l’IA va voir le jour. Il œuvrera de concert avec les autorités nationales de protection de données, comme la Commission nationale de l’informatique et des libertés (CNIL) en France. Si elles contreviennent aux règles, les entreprises concernées s’exposent à des amendes salées pouvant aller jusqu’à 7% de leur chiffre d’affaires mondial.

Pourquoi ce texte fait débat ?

Dès son adoption, l’AI Act a subi de fortes critiques de la part des acteurs du secteur de l’IA. D’après Le Monde, c’est notamment la diffusion d’un résumé suffisamment détaillé des contenus utilisés pour former les grands modèles qui pose problème.

Les détenteurs de droits se réjouissent de ce principe, car ils espèrent recevoir des compensations si leurs productions ont été utilisées. Mais les géants de la Tech opposent au contraire l’argument du secret des affaires pour rejeter cette obligation.

L’AI Act va-t-il freiner la compétitivité de l’UE ?

Certains observateurs ont fait valoir que l’UE pouvait se tirer une balle dans le pied en imposant des normes contraignantes aux sociétés d’IA. Du côté de la French Tech, on peste aussi contre le risque du millefeuille réglementaire qui viendrait freiner l’innovation européenne.

Citée par Le Figaro, Kirsten Rulf, directrice associée au Boston Consulting Group (BCG), co-autrice et négociatrice de l’EU AI Act, défend au contraire l’approche du texte :

Même son de cloche du côté de Mahasti Razavi, associée chez August Debouzy spécialisée sur les questions tech. Interrogée par Les Échos, l’experte précise : « Pour schématiser, ce texte est là pour créer un cadre de confiance ».

Au cours des mois à venir, l’AI Act promet de beaucoup faire parler. Et il pourrait bien faire partie des discussions entre l’UE et le gouvernement de Donald Trump, qui devrait appuyer les doléances des géants de la Tech.