Bruxelles (Belgique) : Femmes et enfants dénudés par l’IA Grok : l’UE ouvre une enquête visant le réseau social X.

La Commission européenne a annoncé lundi l’ouverture d’une nouvelle et importante enquête visant le réseau social d’Elon Musk, X (anciennement Twitter). Cette décision intervient en réaction à la diffusion de fausses images dénudées, impliquant potentiellement des mineurs et des femmes, générées par Grok, l’assistant d’intelligence artificielle intégré à la plateforme.

Cette deuxième enquête formelle cherche à déterminer si X a enfreint les dispositions du Digital Services Act (DSA), la législation européenne extrêmement stricte en matière de services numériques. Le DSA impose aux très grandes plateformes en ligne, dont X fait partie, des obligations rigoureuses pour protéger leurs utilisateurs contre les contenus illégaux et préjudiciables. En particulier, l’exécutif européen examinera si le réseau social a pris les mesures nécessaires pour détecter, supprimer et empêcher la propagation de ces images problématiques, qui violent potentiellement les lois sur la pornographie juvénile et le droit à l’image.

Parallèlement à l’ouverture de ce nouveau dossier, la Commission européenne a également décidé d’étendre le périmètre d’une première enquête lancée en décembre 2023 contre X. Cette enquête initiale portait sur des manquements présumés concernant la modération des contenus illégaux, notamment la désinformation et l’incitation à la haine , suite à l’attaque du Hamas contre Israël en octobre 2023. L’extension de cette enquête démontre la préoccupation croissante des régulateurs européens quant à la conformité globale de X avec le DSA, englobant désormais les risques liés à l’intelligence artificielle générative et son impact sur la sécurité des utilisateurs.

L’utilisation de Grok, l’IA développée par xAI, la société d’Elon Musk, pour générer des contenus illicites place cette affaire au carrefour de la régulation des plateformes et de celle de l’intelligence artificielle. Cette situation met en lumière la responsabilité des plateformes non seulement pour les contenus publiés par les utilisateurs, mais aussi pour ceux produits par leurs propres outils d’IA. X risque des amendes considérables en cas de non-conformité, pouvant atteindre jusqu’à 6% de son chiffre d’affaires mondial.

Réveil-Africain.Org Avec AFP