RSF demande que l’AI Act européen protège le droit d’accès à l’information fiable des citoyens européens

Le futur règlement européen sur l’intelligence artificielle, l'Artificial Intelligence Act, plus connu sous le nom d’AI Act, est entré dans sa phase finale de négociation. La Commission européenne, le Parlement européen et le Conseil de l’Union européenne se réunissent en trilogue pour le discuter ce 24 octobre. 

L’enjeu est historique : les trois instances doivent s’accorder sur un premier cadre de régulation des systèmes d‘intelligence artificielle. L’objectif est d’assurer que ces technologies servent la société plutôt que de lui nuire. Pour ce faire, l’AI Act propose une approche pertinente, en hiérarchisant les différents systèmes en fonction des risques qu’ils pourraient faire courir à la démocratie. Angle mort à ce jour : les systèmes d’intelligence artificielle produisant ou distribuant de l’information ne sont pas considérés comme à “haut risque”. Or s’ils l'étaient ils pourraient être soumis à des exigences plus strictes avant de pouvoir être mis sur le marché et mieux garantir le droit à une information fiable pour les citoyens européens. 

“RSF considère que la classification proposée dans l’AI Act va dans le bon sens et invite les négociateurs à aller plus loin. Tous les systèmes destinés à produire de l’information ou à interférer dans la circulation de l’information devraient être considérés comme étant à ‘haut risque’ et être soumis à des critères d’évaluation drastiques avant leur autorisation de mise sur le marché.”

Vincent Berthier

Responsable du bureau technologies de RSF

 

Recommandations de RSF pour une filière de l’intelligence artificielle respectueuse du droit à l’information

Pour protéger le droit à l’information des citoyens européens, RSF suggère d’intégrer les éléments suivants dans l’AI Act  afin de développer des systèmes d’intelligence artificielle plus protecteurs du droit d’accès à l’information : 

• Les bases de données utilisées pour entraîner les algorithmes doivent respecter des exigences de pluralisme, de précision et ne pas comporter de contenus faux, trompeurs, fallacieux ou de propagande. 
  
   
• Les résultats des grands modèles de langage encore en phase d’entraînement supervisé doivent être vérifiés par des professionnels de l’information au lieu d’être simplement évalués sur la plausibilité du résultat donné.
  
   
• Les assistants conversationnels utilisés par le grand public ou les professionnels pour s’informer doivent être programmés de manière à ne pas répondre à des questions dont ils n’auraient pas la réponse. Ils doivent, en outre, systématiquement inviter à consulter les sources qu’ils utilisent pour produire leurs contenus. 
  
   
• Les textes produits par les chatbots utilisés pour s’informer doivent reposer sur des sources assez diversifiées pour garantir le pluralisme.