Droit Vivant
Brief

↓ Version .md brute

Brief — De l'affaire Grok à l'article 5 : dans 94 jours, l'Europe fait des IA qui « déshabillent » une pratique interdite

Thème : intelligence artificielle et libertés — nouvelles pratiques interdites de l'article 5 de l'AI Act, imputation au fournisseur par la conception du produit, articulation avec les obligations de risque systémique du DSA

Mots-clés : #ai-act #dsa #xai #libertes #mineurs #deepfake #pratiques-interdites

Le 27 juillet 2026, le règlement (UE) 2026/1744 du 8 juillet 2026 — le « Digital Omnibus on AI », publié au Journal officiel de l'Union du 24 juillet — est entré en vigueur. On l'a surtout commenté pour ce qu'il reporte : les obligations applicables aux systèmes à haut risque de l'annexe III glissent au 2 décembre 2027, celles de l'annexe I au 2 août 2028. On a beaucoup moins commenté ce qu'il ajoute, et qui est pourtant la seule interdiction nouvelle inscrite dans l'AI Act depuis son adoption : deux points (ba) et (bb) au premier alinéa du paragraphe 1 de l'article 5, applicables le 2 décembre 2026 en vertu de l'article 113, point a). Le premier vise les systèmes qui génèrent ou manipulent des images, vidéos, sons ou matériels réalistes représentant les parties intimes d'une personne physique identifiable, ou cette personne se livrant à des activités sexuellement explicites, sans son consentement libre, spécifique, éclairé, univoque et explicite au sens de l'article 4, 11) du RGPD. Le second vise le matériel ou le spectacle au sens de l'article 2, points c) et e), de la directive 2011/93/UE.

L'innovation juridique n'est pas dans l'interdit — le *deepfake* sexuel non consenti était déjà illicite à peu près partout — mais dans le point d'imputation. Le nouveau paragraphe 1 bis de l'article 5 rend le fournisseur responsable dans deux cas : lorsque cette génération est la finalité prévue du système, mais aussi lorsque la conception, l'entraînement, l'architecture, les capacités ou les fonctionnalités exposées à l'utilisateur en font un résultat « raisonnablement prévisible et reproductible », sans modification technique significative, et que le système ne comporte pas de mesures de sécurité techniques raisonnables et adéquates pour l'empêcher de façon fiable — en tenant compte du mésusage raisonnablement prévisible et en corrigeant les mésusages observés ou signalés. Le déployeur, lui, n'est visé que s'il utilise le système *à cette fin* (§ 1 bis, b), et le paragraphe 1 ter écarte les manipulations qui n'augmentent pas l'exposition des parties intimes ni n'altèrent la nature des activités représentées. Autrement dit : l'illicéité se déplace du contenu vers l'architecture du produit, et la conformité devient une question de test, pas de déclaration. La sanction est celle du plafond haut de l'article 99, § 3 : 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial.

Le contexte de cette insertion est connu de tout le monde, et c'est ce qui rend le texte lisible. Le 26 janvier 2026, la Commission européenne ouvrait une enquête formelle contre X au titre du DSA sur l'intégration des fonctionnalités de Grok — l'IA de xAI, société d'Elon Musk — dans l'Union, tout en étendant son enquête de décembre 2023 sur les systèmes de recommandation ; elle y relevait que les risques de diffusion d'images sexuellement explicites manipulées, y compris de contenus susceptibles de constituer du matériel pédopornographique, « semblent s'être matérialisés ». La vice-présidente exécutive Henna Virkkunen y voyait « une forme de violence et de dégradation inacceptable ». Le 26 mars 2026, selon les comptes rendus de presse, le tribunal d'arrondissement d'Amsterdam prononçait, à la demande de l'organisation néerlandaise Offlimits, une injonction assortie d'une astreinte de 100 000 € par jour plafonnée à 10 millions d'euros. Le 7 mai 2026, Conseil et Parlement ajoutaient la nouvelle interdiction à un texte qui, à l'origine, ne parlait que de simplification. Aucune de ces procédures n'a été tranchée au fond : une enquête n'est pas une condamnation, et les accusations de presse relatives aux données d'entraînement parues fin août 2026 ne sont, à ce stade, ni établies ni jugées.

Pour qui travaille sur la sécurité des systèmes génératifs, la leçon opérationnelle tient en une phrase : à partir du 2 décembre 2026, le *red teaming* d'un modèle cesse d'être une bonne pratique volontaire pour devenir l'élément de preuve central d'une conformité à une interdiction. Il restera à savoir ce que recouvre exactement la notion de « parties intimes », que le règlement ne définit pas — c'est là, prévisiblement, que se jouera le premier contentieux.

Sources