# Le red-teaming devient une obligation légale : ce que le refus de Meta révèle du nouveau régime européen de l'IA

Le règlement européen sur l'intelligence artificielle, dit AI Act (règlement (UE) 2024/1689 du 13 juin 2024), n'est pas un texte unique appliqué d'un seul bloc à une date unique. C'est un calendrier étalé sur plusieurs années, où chaque chapitre entre en application à un moment différent, et où les obligations pesant sur un fournisseur dépendent avant tout de la catégorie de système d'IA qu'il met sur le marché. Parmi ces catégories, une occupe une place particulière depuis l'été 2025 : les modèles d'IA à usage général, ou GPAI (general-purpose AI models) — ces grands modèles de langage et systèmes multimodaux capables d'exécuter un large éventail de tâches sans avoir été conçus pour un usage unique, à l'image des familles de modèles qui alimentent aujourd'hui la plupart des assistants conversationnels et outils génératifs du marché.

L'article 51 du règlement introduit une sous-catégorie encore plus sensible : les GPAI « à risque systémique ». Un modèle est présumé relever de cette catégorie dès lors que la puissance de calcul cumulée utilisée pour son entraînement atteint ou dépasse 10²⁵ FLOPs (opérations en virgule flottante), un seuil purement quantitatif censé capturer les modèles dont les capacités générales sont jugées susceptibles d'avoir un impact significatif sur la santé publique, la sécurité, les droits fondamentaux ou la société dans son ensemble. La Commission européenne peut également désigner un modèle comme systémique par décision individuelle, indépendamment du seuil de calcul, si des indices objectifs le justifient. Une douzaine de familles de modèles seulement franchissent aujourd'hui ce seuil ou s'en approchent suffisamment pour que leurs fournisseurs aient dû notifier la Commission dans les deux semaines suivant le franchissement prévisible du seuil, comme l'exige l'article 52.

Pour ces GPAI à risque systémique, l'article 55 du règlement impose un socle d'obligations qui parlera directement à quiconque travaille dans l'audit offensif ou la sécurité des systèmes d'information : évaluation du modèle selon des protocoles standardisés, identification et atténuation des risques systémiques qu'il pourrait poser, garantie d'un niveau de cybersécurité adéquat pour le modèle et son infrastructure d'hébergement, suivi et notification à l'AI Office des incidents graves, et surtout la réalisation de tests contradictoires — le red-teaming — menés ou supervisés par un tiers qualifié et indépendant. Ce n'est plus une bonne pratique volontaire du secteur : c'est une obligation réglementaire, assortie d'un régime de sanctions. Ces obligations, avec celles plus générales de l'article 53 applicables à tous les fournisseurs de GPAI (documentation technique détaillée, résumé public suffisamment détaillé des données utilisées pour l'entraînement, mise en conformité avec le droit d'auteur de l'Union), sont entrées en application le 2 août 2025, en application du calendrier fixé par l'article 113 du règlement.

Pour aider les fournisseurs à démontrer leur conformité à ce socle sans attendre l'adoption de normes techniques harmonisées, la Commission a piloté l'élaboration d'un Code de bonnes pratiques pour l'IA à usage général (GPAI Code of Practice), un instrument volontaire dont la version finale a été publiée le 10 juillet 2025. Signer ce code fait bénéficier son signataire d'une présomption de conformité : en cas de contrôle, l'entreprise n'a pas à prouver point par point qu'elle respecte chaque exigence des articles 53 et 55, la signature faisant foi sauf preuve contraire. Mistral et OpenAI ont signé ce code. Meta, en la personne de Joel Kaplan, son directeur des affaires internationales, a annoncé publiquement son refus, estimant que le texte introduisait des incertitudes juridiques et allait au-delà du champ strict fixé par le règlement lui-même. Cette décision n'a rien d'illégal : aucune disposition n'oblige une entreprise à signer un code volontaire. Mais elle a un prix concret. Sans présomption de conformité, Meta doit démontrer par elle-même, documentation à l'appui, qu'elle respecte les obligations des articles 53 et 55 — et s'expose de ce fait à un examen renforcé de la part de l'AI Office européen, l'organe chargé de superviser les fournisseurs de GPAI à l'échelle de l'Union.

L'enjeu financier de cet arbitrage devient concret cet été. L'article 101 du règlement habilite la Commission à infliger aux fournisseurs de GPAI des amendes pouvant atteindre 3 % de leur chiffre d'affaires annuel mondial ou 15 millions d'euros, le montant le plus élevé étant retenu, en cas de manquement intentionnel ou par négligence aux obligations du règlement, de réponse incomplète ou trompeuse aux demandes d'information de la Commission, ou de refus de permettre l'accès au modèle aux fins d'évaluation. Or l'article 113 prévoit que ce pouvoir de sanction spécifique aux GPAI n'est pleinement opérationnel que depuis le 2 août 2026 — une date qui, au moment de la rédaction de ce document, tombe dans moins d'un mois. Autrement dit : les obligations de fond existent depuis un an, mais l'arme financière de la Commission pour les faire respecter vient tout juste d'être armée.

Un événement récent est venu confirmer que ce régime GPAI ne serait pas dilué. Le 7 mai 2026, les négociateurs du Conseil de l'Union européenne et du Parlement européen sont parvenus à un accord politique sur le « Digital Omnibus », un paquet de simplification de plusieurs textes numériques européens, formellement validé par le Parlement le 16 juin 2026 puis par le Conseil le 29 juin 2026, avec une publication au Journal officiel attendue avant le 2 août 2026. Ce texte reporte significativement les obligations applicables aux systèmes d'IA à haut risque au sens de l'annexe III (report à décembre 2027) et de l'annexe I (report à août 2028), en réponse aux critiques sur la complexité de mise en conformité pour les PME et les intégrateurs de systèmes. Mais les rapporteurs et analystes juridiques qui ont suivi le texte sont unanimes sur un point : les articles 51 à 55 et 101, c'est-à-dire tout le régime des GPAI et des GPAI à risque systémique, ne sont pas touchés par ce report. Pour Meta comme pour tout autre fournisseur non signataire du Code de bonnes pratiques, l'échéance du 2 août 2026 reste donc pleinement d'actualité.

Ce dossier illustre une dynamique plus large que le seul cas Meta : l'Union européenne est en train de transformer des pratiques jusque-là internes et discrétionnaires des grands laboratoires d'IA — évaluation de sécurité, tests adversariaux, gestion des risques systémiques — en obligations légales opposables, avec un régime de sanction comparable dans son ampleur à celui du RGPD ou du Digital Services Act déjà rencontrés dans d'autres dossiers de ce dépôt. Pour un professionnel de la sécurité offensive, ce mouvement ouvre une question directement opérationnelle : qui sera reconnu comme « tiers qualifié et indépendant » habilité à mener ces tests contradictoires au sens de l'article 55, quels référentiels méthodologiques s'imposeront pour structurer un red-teaming de LLM recevable devant le régulateur, et comment ce nouveau marché de la conformité IA s'articulera avec les pratiques déjà installées de test d'intrusion et d'audit de sécurité classique.

## Angles de lecture pour NotebookLM (à coller dans « Personnaliser » de l'Audio Overview)

Cinq angles possibles pour approfondir ce sujet selon l'intérêt du lecteur — copier l'un d'entre eux tel quel dans le champ de personnalisation de l'Audio Overview NotebookLM.

**Angle 1 — Audit offensif et méthodologie du red-teaming réglementaire.** Concentre-toi sur ce que l'article 55 de l'AI Act exige concrètement d'un test contradictoire de modèle d'IA à risque systémique : quelle différence avec un pentest classique d'application web, ce que pourrait recouvrir la notion de « tiers qualifié et indépendant », et quelles compétences techniques (prompt injection, jailbreak, extraction de données d'entraînement, contournement de garde-fous) un cabinet d'audit offensif devrait démontrer pour prétendre à ce rôle.

**Angle 2 — Architecture technique et seuils de calcul.** Explique comment un fournisseur estime concrètement si son modèle franchit le seuil de 10²⁵ FLOPs d'entraînement fixé par l'article 51, quelles infrastructures de calcul (clusters GPU, plateformes cloud d'entraînement) et quels processus de suivi interne cela suppose, et comment cette logique de seuil quantitatif se compare à la méthode d'identification des « entités essentielles » sous NIS2, déjà traitée dans ce dépôt.

**Angle 3 — Comparaison des régimes de sanction déjà documentés dans ce dépôt.** Mets en perspective l'amende potentielle de l'article 101 de l'AI Act (3 % du chiffre d'affaires mondial ou 15 M€) avec la sanction CNIL Free/Free Mobile de 42 M€ pour manquement à l'article 32 du RGPD et l'amende DSA de 120 M€ infligée à X : comment ces trois régimes de sanction numérique européens — protection des données, plateformes, IA — se complètent et parfois se chevauchent pour un même acteur technologique.

**Angle 4 — Veille réglementaire automatisée sur le calendrier de l'AI Act.** Concentre-toi sur la manière de construire une veille technique et juridique continue permettant de suivre la liste des signataires du Code de bonnes pratiques GPAI, les désignations individuelles de modèles à risque systémique par la Commission, la publication effective du Digital Omnibus au Journal officiel, et l'entrée en application progressive des différents chapitres de l'article 113 jusqu'en 2028.

**Angle 5 — Prospective contentieuse.** Explore le scénario dans lequel Meta ou un autre fournisseur non signataire ferait l'objet d'une amende au titre de l'article 101 après le 2 août 2026, et formerait un recours devant le Tribunal de l'Union européenne — sur le modèle du recours formé par X contre sa sanction DSA de 120 M€, déjà traité dans ce dépôt — en examinant les moyens juridiques disponibles (proportionnalité de la sanction, contestation de la présomption de risque systémique, portée du Digital Omnibus) et les précédents procéduraux applicables.