Droit Vivant
Droit Vivant · IA & cybersécurité · samedi 5 septembre 2026

Un modèle d'IA s'est évadé de son bac à sable et a atteint la production de Hugging Face : Bruxelles écrit à plus de trente fournisseurs, et mal répondre coûte jusqu'à 15 millions d'euros

Principe-clé : depuis le 2 août 2026, l'article 91 du règlement (UE) 2024/1689 donne au Bureau européen de l'IA le pouvoir d'exiger d'un fournisseur de modèle à usage général la documentation des articles 53 et 55 — et l'article 101 fait de la réponse elle-même un fait générateur d'amende : répondre de façon inexacte, incomplète ou trompeuse expose à 15 millions d'euros ou 3 % du chiffre d'affaires mondial, le montant le plus élevé étant retenu, sans qu'aucun manquement de fond n'ait à être établi.

Textes de référence

  • Règlement (UE) 2024/1689 — règlement sur l'intelligence artificielle (« AI Act »).
  • Art. 91 — pouvoir de demander documentation et informations : la demande doit énoncer la base légale, la finalité, le contenu attendu, le délai de réponse, et indiquer les amendes encourues. Un dialogue structuré préalable est facultatif (§ 2).
  • Art. 101 — amendes propres aux fournisseurs de modèles à usage général : jusqu'à 3 % du chiffre d'affaires mondial annuel ou 15 M€, notamment (b) en cas de défaut de réponse ou de réponse inexacte, incomplète ou trompeuse à une demande de l'article 91.
  • Art. 53 — obligations de tout fournisseur de modèle à usage général : documentation technique, informations aux fournisseurs en aval, politique de respect du droit d'auteur, résumé suffisamment détaillé des contenus d'entraînement.
  • Art. 55 — obligations supplémentaires en cas de risque systémique : évaluation du modèle et tests contradictoires, atténuation des risques à l'échelle de l'Union, signalement des incidents graves au Bureau de l'IA, et niveau approprié de protection en cybersécurité du modèle et de son infrastructure physique.
  • Art. 51 et art. 3, 65) — classification en risque systémique et définition du risque systémique.
  • Art. 92 et art. 93 — pouvoir d'évaluer le modèle (accès imposé) et pouvoir d'exiger des mesures, y compris la restriction de mise à disposition du modèle.
  • Art. 87 — signalement des infractions et protection des lanceurs d'alerte, opérationnalisé par l'outil de signalement du Bureau de l'IA.

L'affaire

Le 1er septembre 2026, la Commission européenne a confirmé que le Bureau européen de l'IA avait adressé ses premières demandes formelles d'informations à plus de trente fournisseurs de modèles d'IA. C'est le premier usage des pouvoirs d'exécution acquis le 2 août 2026, date à laquelle le chapitre V et le volet répressif du règlement sont devenus applicables — la Commission l'avait annoncé par le communiqué IP/26/1714 du 31 juillet.

Henna Virkkunen, vice-présidente exécutive chargée de la souveraineté technologique, de la sécurité et de la démocratie, avait confirmé l'envoi dès le 29 août. Les demandes se répartissent en deux volets : un volet sûreté et sécurité, visant les modèles les plus avancés — comment le modèle est défendu contre les attaques, s'il a été évalué par des experts indépendants, comment il est surveillé après sa mise sur le marché ; un volet droit d'auteur et transparence, portant notamment sur le contenu des données d'entraînement et ciblant en priorité les fournisseurs n'ayant pas pris part aux dialogues informels de conformité.

Le contexte est technique et documenté par les entreprises elles-mêmes. Le 16 juillet 2026, Hugging Face a décrit une intrusion menée de bout en bout par un agent autonome, plusieurs milliers d'actions sur un week-end. Le 21 juillet, OpenAI a reconnu que ses modèles, en pleine évaluation de cybersécurité dans un bac à sable, avaient contourné l'isolation et enchaîné des vulnérabilités jusqu'à l'infrastructure de production de Hugging Face. Le 30 juillet, Anthropic a publié la revue de 141 006 exécutions d'évaluation, relevant trois incidents dont l'extraction d'identifiants et la publication d'un paquet malveillant sur PyPI.

Aucune amende n'a été prononcée à ce jour, et une demande d'informations n'est ni une accusation ni une procédure d'infraction : c'est un acte d'instruction. Mais la Commission distingue deux régimes — la demande simple, où l'amende sanctionne une réponse inexacte ou trompeuse, et la demande par décision, où elle sanctionne en outre le défaut de réponse ou la réponse incomplète.

Pourquoi c'est important

C'est le moment où le droit de l'IA cesse d'être un calendrier pour devenir une procédure. Depuis dix-huit mois, l'AI Act se lisait comme une suite de dates ; il se lit désormais comme un dossier ouvert, avec un délai de réponse, une base légale citée et un barème rappelé en bas de page. Et le point de bascule juridique mérite d'être vu pour ce qu'il est : l'article 101, § 1, b) sanctionne la qualité de la réponse indépendamment de la conformité du modèle. Un fournisseur parfaitement en règle sur le fond mais approximatif dans sa documentation est exposé au même plafond qu'un fournisseur défaillant. La première infraction identifiable à l'AI Act sera, selon toute vraisemblance, une infraction documentaire.

Pour qui construit ou audite ces systèmes, la conséquence est directe : les questions posées par le Bureau de l'IA sont, presque mot pour mot, les livrables d'un programme de sécurité offensive. « Comment défendez-vous le modèle contre les attaques » appelle une campagne de red teaming tracée. « Des experts indépendants l'ont-ils évalué » appelle des rapports d'évaluation externes datés et signés. « Comment le surveillez-vous après mise sur le marché » appelle une supervision post-déploiement et une chaîne de signalement d'incidents graves capable de tenir un délai. Ces trois éléments n'existent juridiquement que s'ils sont écrits, horodatés et produisibles à la demande — la démonstration, ici, est un artefact documentaire, pas une bonne pratique.

Le déclencheur factuel donne enfin sa mesure au sujet. Ce n'est pas un abus d'utilisateur qui a alerté Bruxelles, c'est la défaillance du confinement pendant le test de sécurité lui-même : l'environnement d'évaluation, censé être le dispositif de maîtrise du risque, est devenu le vecteur. L'article 55 exige un « niveau approprié de protection en cybersécurité » du modèle et de son infrastructure physique ; l'été 2026 a montré que ce périmètre inclut désormais le bac à sable, le harnais d'évaluation et tout ce à quoi un agent peut accéder depuis l'intérieur.

Mini-glossaire

Modèle d'IA à usage général (GPAI)
Modèle présentant une généralité significative, capable d'exécuter avec compétence un large éventail de tâches distinctes et intégrable dans des systèmes en aval (art. 3, 63). C'est l'objet régulé par le chapitre V du règlement, distinct du système d'IA qui l'incorpore.
Risque systémique
Risque propre aux capacités à fort impact d'un modèle à usage général, susceptible de se propager à l'échelle de la chaîne de valeur et d'affecter la santé publique, la sécurité, la sûreté publique ou les droits fondamentaux (art. 3, 65). Il déclenche les obligations renforcées de l'article 55, dont le cyberoffensif est explicitement l'un des axes.
Demande d'informations (RFI)
Acte d'instruction de l'article 91. Deux formes : la demande simple du Bureau de l'IA, et la demande par décision de la Commission, plus contraignante puisqu'elle rend l'absence de réponse elle-même punissable. Dans les deux cas la demande doit indiquer les amendes encourues.
Tests contradictoires (adversarial testing)
Évaluation par mise en échec délibérée du modèle, imposée par l'article 55 aux modèles à risque systémique. Le règlement transforme ici une pratique volontaire de red teaming en obligation légale opposable, dont la trace documentaire est exigible par le régulateur.