Accueil | Actualités | Médias | Les algorithmes au secours de la censure ? Le projet Deepnews
Pub­lié le 12 mars 2019 | Éti­quettes : ,

Les algorithmes au secours de la censure ? Le projet Deepnews

Devant la multiplication des sources d’information, en particulier sur internet, de nombreux projets existent pour qualifier l’information. Du désastreux et non crédible Decodex (financé par Google) du Monde, au Checknews de Libération en passant par les notes de Facebook ou de Google. Depuis que deux lois votées en Allemagne et en France sur les infox sur les réseaux sociaux prévoient des sanctions pécuniaires ou pénales contre les contrevenants, de nombreuses sociétés commerciales tentent de bâtir un modèle prédictif qui permettrait d’éliminer les fameuses infox.

Les critères du « bon algorithme »

Un excellent article du Monday Note de Frédéric Filloux (25 février 2019) précise les critères que devrait satisfaire l’algorithme du futur :

  • Devrait pouvoir être utilisé par tout l’écosystème, rédacteurs, éditeurs, publicitaires, marchands.
  • Devrait être automatique
  • Devrait être en temps réel, sans attente d’analyse humaine
  • Devrait approcher une fiabilité de 100%

Le projet Deepnews

Deepnews est né à Stanford en 2016/2017. Développé pendant deux ans aux États-Unis grâce à une bourse, il a été transféré à Paris à l’été 2018 pour des raisons de coût. Le système est entièrement fondé sur l’intelligence artificielle et classe les informations (exclusivement en anglais pour le moment, avons nous compris) sur une échelle de 1 à 5 en fonction de leur possible véracité. Une note de 5 égale une information quasi sûre, une note de 1 égale une information quasi fausse, avec les trois notes intermédiaires.

Les paramètres (de l’ordre de 22/25 millions) permettent de classifier les items, de les mettre en rapport, pour déceler des interférences qualifiantes. Des comparaisons sont ensuite faites entre des analyses humaines et celles de l’intelligence artificielle.

Limites et interrogations

L’auteur indique que début 2019 Deepnews classifie correctement 80% des cas. Autrement dit une analyse automatique confirme une analyse humaine dans 80% des cas. La déviation humain/non humain semblerait inférieure à un point (4 au lieu de 5, 3 au lieu de 2 ou le contraire etc). Un modèle concurrent développé par Elon Musk et ses associés, Open AI aurait recours à un nombre de paramètres nettement plus important (70 fois plus nombreux) mais avec des résultats nettement inférieurs plus proches des 50%, le système se trompant une fois sur deux. Deepnews semble mieux fonctionner, ses créateurs essayant de le tromper par exemple en supprimant la ponctuation d’un texte ou en enlevant tous les noms propres pour le leurrer et corriger ensuite.

Dans tous les cas ces nouveaux systèmes – dont la motivation est bien plus le futur profit que la recherche de la vérité universelle – posent question. Que se passe-t-il lorsque le système se trompe ? Quels sont les freins qui permettent de corriger en temps réel ? Comment intégrer différents univers linguistiques ? Le système pourrait il mener à une sorte de contrôle universel de l’information ? L’enfer est pavé de bonnes intentions disait ma grand-mère. Deepnews et ses frères semblent plus proches du diablotin fourchu que des gentils anges, même s’ils s’attribuent volontiers les ailes de ces derniers. Au nom de la vérité vraie, bien entendu.

Ce contenu a été financé par les donateurs de l'OJIM

Ce portrait a été financé par les donateurs de l'OJIM

Aider l'Observatoire du journalisme, c’est contribuer au développement d’un outil indépendant, librement accessible à tous et à votre service.

Notre site est en effet entièrement gratuit, nous refusons toute publicité et toute subvention - ce sont les lecteurs/donateurs qui assurent notre indépendance. En donnant 100 € vous financez un portrait de journaliste et avec l'avantage fiscal de 66% ceci ne vous coûte que 33 €. En donnant 200 € vous financez un dossier. Vous pouvez régler par CB, par PayPal, par chèque ou par virement. Rejoignez les donateurs de l'Ojim ! Nous n'avons pas d'autres sources de financement que nos lecteurs, d'avance merci pour votre soutien.

12% récolté
Objec­tif : mars 2019 ! Nous avons récolté 235,00€ sur 2.000,00€. Vous appré­ciez notre tra­vail ? Rejoignez les dona­teurs de l’Ojim !

Suivez-nous sur les réseaux sociaux