GuiGui's Show

Règlement européen en cours visant à réguler l'IA.

• Tout contenu généré par une IA devra être signalé comme tel.
  
  
• Autorisation par niveaux :
  • IA "interdites" : note sociale (fiabilité déduite du comportement), identification biométrique en temps réel ou à distance (photos sur le web), manipulations subliminales, exploitation des vulnérabilités (âge, handicap mental, etc.), police prédictive, détection des émotions. J'ai l'impression que ça vient avec des exemptions genre identification biométrique OK si menace exceptionnelle, les manipulations qui n'entraînent pas un risque sur la santé physique ou psychique sont OK, la détection d'émotions hors maintien de l'ordre, taff, et contrôle aux frontières est OK, etc., ce qui vide le texte de sa substance.
    
    
  • Autorisation conditionnelle par les autorités nationales / IA à hauts risques : celles portant sur la santé, la sécurité et les droits fondamentaux. Si l'autorité nationale est aussi vaillante que la CNIL ou l'ARCEP, ce texte apporte aucune garantie.
    
    
  • Obligation de transparence / IA à moyens risques : robot conversationnel, trucage vidéo réaliste, etc.
    
    
  • Autorisée : objets connectés personnels. Je pense que ça vise les IA faibles (= quasi pas de l'IA) avec peu d'interactions avec l'extérieur.
• Quid du droit d'auteur ? Obligation de déclarer les œuvres utilisées pour entraîner l'IA rajoutée lors du dernier jet. Je pense que ça ne va pas s'arrêter là.
  
  
• Nouveau coordinateur européen des autorités nationales : bureau européen de l'IA.
  
  
• Doc' technique pour les devs, bacs à sable, enregistrement des modèles dans une BDD européenne, etc.

Bref, rien de transcendant, règlement plutôt flou et timide.

Sources :

• AI Act : le texte interdit désormais la reconnaissance faciale, la notation sociale et la police prédictive.
  
  
• Artificial Intelligence Act : voici ce que prépare l'Union européenne pour encadrer l'IA.