Avec une pandémie mondiale nous occupant assez au cours des derniers mois, vous vous êtes peut-être permis d'oublier cela autre danger apocalyptique – c'est-à-dire une intelligence artificielle non contrôlée. Malheureusement, un programme d'IA mis en service sur MSN.com de Microsoft l'a ramené sous les projecteurs.
L'histoire se concentre sur un article publié sur MSN.com sur la star de Little Mix Jade Thirlwall, utilisant incorrectement une photo de un autre membre du groupe métis, Leigh-Anne Pinnock.
Ce serait une erreur assez grave pour un éditeur humain de faire – pas seulement à cause de sa horrible timing parmi les protestations mondiales contre l'injustice raciale – mais cela prend une toute nouvelle saveur lorsque les processus automatisés derrière cet article sont apparus.
MSN.com ne fait pas ses propres rapports, préférant réutiliser les articles sur le Web et répartir les revenus publicitaires qui en résultent avec l'éditeur d'origine, dont l'article a pu atteindre un public plus large. Il n'est donc pas surprenant que Microsoft ait pensé qu'une grande partie de ce processus pourrait être automatisé – non seulement le limogeage de centaines d'employés lors d'une pandémie, mais également la mise en œuvre d'un éditeur d'IA qui publiait automatiquement des actualités sur MSN.com sans aucune surveillance humaine.
Sommaire
Pas si intelligent après tout
Le parti pris racial dans l'IA est un problème bien documenté, avec les énormes ensembles de données utilisés pour former les logiciels d'intelligence artificielle qui voient souvent ces programmes reproduire les préjugés humains – qui, sous le masque de l'objectivité algorithmique, peuvent facilement être ignorés par les organisations axées sur l'IA . (Pour un exemple vraiment dystopique, consultez cette IA psychotique formée avec des ensembles de données de Reddit.)
Cette erreur montre ce qui peut se produire lorsqu'une IA insensible est confiée à une surveillance éditoriale, ce qui nécessite de l'empathie au-delà d'un sens algorithmique de l'intérêt du lecteur.
La chose la plus déconcertante à propos de cette histoire, cependant, est l'étendue du rôle que Microsoft se sentait à l'aise de confier à une IA – avec la possibilité de publier automatiquement des histoires sans curation humaine, ce qui signifie que personne n'a eu la chance d'empêcher cette erreur avant qu'elle n'atteigne Lectorat de MSN.com.
Nous avons également appris que, si le personnel humain – un terme que nous ne pouvons pas croire que nous devons utiliser – a rapidement supprimé l'article, l'IA avait toujours la possibilité de les annuler et de publier à nouveau la même histoire. En fait, c'est essentiellement ce qui s'est produit – avec les articles de presse sur le partage automatique de l'IA concernant ses propres erreurs, les considérant comme pertinentes pour les lecteurs de MSN.com.
Lorsqu'il a été contacté, un représentant de Microsoft a déclaré: «Dès que nous avons pris connaissance de ce problème, nous avons immédiatement pris des mesures pour le résoudre et avons remplacé l'image incorrecte.» Cependant, nous n'avons encore rien entendu sur le changement de ces processus d'IA.
Alors que le logiciel d'IA peut sembler un remplacement pratique pour les rôles de salle de rédaction, nous avons vu que les applications d'IA ne sont pas prêtes à retirer la responsabilité éditoriale des mains humaines – et tenter de se précipiter vers un avenir axé sur l'IA ne fera que nuire à la réputation des rapports Microsoft et en ligne.
Via The Guardian
