GuiGui's Show

Règlement européen en cours visant à réguler l'IA.

• Tout contenu généré par une IA devra être signalé comme tel.
  
  
• Autorisation par niveaux :
  • IA "interdites" : note sociale (fiabilité déduite du comportement), identification biométrique en temps réel ou à distance (photos sur le web), manipulations subliminales, exploitation des vulnérabilités (âge, handicap mental, sociales et économiques, etc.), police prédictive, détection des émotions. J'ai l'impression que ça vient avec des exemptions genre identification biométrique sans étude d'impact OK si menace exceptionnelle, les manipulations qui n'entraînent pas un risque sur la santé physique ou psychique sont OK, la détection d'émotions hors maintien de l'ordre, taff / école, et contrôle aux frontières est OK, certaines formes de police prédictives sont OK, etc., ce qui vide le texte de sa substance.
    
    
  • Autorisation conditionnelle / homologation par les autorités nationales / IA à hauts risques : celles portant sur la santé, la sécurité et les droits fondamentaux. Si l'autorité nationale est aussi vaillante que la CNIL ou l'ARCEP, ce texte apporte aucune garantie.
    
    
  • Obligation de transparence / IA à moyens risques : robot conversationnel, trucage vidéo réaliste, etc.
    
    
  • Autorisée : objets connectés personnels. Je pense que ça vise les IA faibles (= quasi pas de l'IA) avec peu d'interactions avec l'extérieur.
• Quid du droit d'auteur ? Obligation de déclarer les œuvres utilisées pour entraîner l'IA rajoutée lors du dernier jet. Je pense que ça ne va pas s'arrêter là.
  
  
• Nouveau coordinateur européen des autorités nationales : bureau européen de l'IA.
  
  
• Doc' technique pour les devs, bacs à sable créés par les autorités nationales, enregistrement des modèles dans une BDD européenne, etc.

Bref, rien de transcendant, règlement plutôt flou et timide.

Sources :

• AI Act : le texte interdit désormais la reconnaissance faciale, la notation sociale et la police prédictive.
  
  
• Artificial Intelligence Act : voici ce que prépare l'Union européenne pour encadrer l'IA.

ÉDIT DU 21/12/2023 :
Accord entre les co-législateurs de l'UE début décembre 2023. Changements :

• L'IA n'est plus interdite pour le répressif (autorisation judiciaire préalable sauf urgence, liste d'infractions… qui sera élargi plus tard comme à chaque fois), y compris pour l'identification biométrique en temps réel (limite dans le temps et l'espace, pour terro, recherche de victimes, auteur d'une grave infraction parmi une liste) ou non (pour un condamné / soupçonné d'un crime grave), ni pour le contrôle aux frontières ;
  
  
• IA à haut risque : analyse d'impact obligatoire. Les IA qui influencent des électeurs sont OK (alors que toute exploitation d'une vulnérabilité, y compris sociale / économique est interdite… je cherche la logique). Possibilité de déposer plainte et d'obtenir des explications (si concerné par le traitement) ;
  
  
• IA générale : documentation à jour, respecter le droit d'auteur, publier un résumé détaillé du corpus d'entraînement. Si risque systémique : évaluation du modèle, atténuer les risques, rendre compte, tests, etc. ;
  
  
• Répartition des responsabilités des fournisseurs / utilisateurs ;
  
  
• Auto-certification ;
  
  
• Sanctions en pourcentage du chiffre d'affaires ;
  
  
• Ce règlement ne s'applique pas dans les domaines de compétences réservés aux États membres : sécu nationale, défense, etc. ;

Le texte doit être approuvé dans les mêmes termes par le Parlement UE et le Conseil, après les derniers affinages techniques.

Sources :

• AI Act : les grandes lignes de l’accord institutionnel ;
  
  
• Parlement UE ; Conseil ; Commission.

Pendant ce temps, chez les ricains : décret présidentiel (circulaire qui contraint uniquement l'administration). Déclaration et coopération avec les autorités si IA dangereuse (économie, sécurité nationale, santé publique, etc.), tests, commande d'études (sécurité, perte d'emplois), et invitation à ajouter un filigrane aux œuvres.

FIN DE L'ÉDIT DU 21/12/2023.

ÉDIT DU 24/03/2024 : le Conseil de l'UE a adopté l'AI Act le 2 février 2024. D'après le Canard enchaîné du 21/02/2024, la France a plaidé pour un allégement des obligations de transparence, et a obtenu, à cet effet, une mention du secret des affaires dans le texte. FIN DE L'ÉDIT DU 24/03/2024.