La recherche montre que la confiance est nécessaire dans la technologie numérique

Les Néo-Zélandais s’inquiètent des biais dans la prise de décision automatisée, selon une étude menée par le groupe de recherche de l’Université Massey Toi Āria: Design for Public Good.

Un nouveau rapport Vers une prise de décision automatisée digne de confiance et de confiance à Aotearoa publié par le Conseil numérique d’Aotearoa visait à répondre à la question: Que faut-il pour s’assurer que les habitants d’Aotearoa en Nouvelle-Zélande ont les bons niveaux de confiance requis pour exploiter tous les avantages sociétaux de technologies numériques et basées sur les données?

Toi Āria, un groupe de recherche au sein du Toi Rauwhārangi College of Creative Arts, a organisé une série d’ateliers en personne et en ligne avec 186 personnes en 2020. Les participants à l’atelier ont non seulement partagé leurs idées sur la façon dont la prise de décision automatisée devrait être utilisée maintenant, mais aussi leur vision de bâtir un avenir numérique meilleur, centré sur les besoins et les aspirations des gens.

La directrice de Toi Āria, professeure agrégée, Anna Brown, a déclaré que les résultats ont identifié plusieurs domaines de préoccupation et ce qui était nécessaire pour rassurer les Néo-Zélandais. «L’une des principales préoccupations des ateliers concernait les préjugés et la discrimination, et pour que ceux-ci soient apaisés, les gens avaient besoin de plus de transparence et d’une meilleure communication, ainsi que d’une meilleure participation et représentation.

«Les gens ont apprécié que la prise de décision automatisée soit utile pour traiter les données à grande vitesse et à grande échelle, et en tant qu ‘« assistant »des gens, mais les gens craignent que les systèmes, les programmeurs et les décideurs puissent y introduire des biais», explique le professeur Brown.

Le processus a utilisé la méthodologie Comfort Board de Toi Āria qui est basée sur le principe que les personnes destinées à utiliser ou à être affectées par un système doivent jouer un rôle critique dans sa conception. Les participants à l’atelier comprenaient des personnes aveugles et malvoyantes; les chefs des communautés ethniques et les jeunes; Jeunes Maoris et Pacifique; les femmes issues de l’immigration et des réfugiés; Navigateurs de Whānau Ora (défenseurs de la santé maoris); les jeunes ayant une expérience de soins; et les membres du grand public.

Avec le Conseil numérique, Toi Āria a développé six scénarios basés sur des situations du monde réel où certains aspects des processus décisionnels sont réalisés ou éclairés par des algorithmes informatiques, dont: la consommation de médias; recrutement; soutien aux jeunes; immigration; décisions de libération conditionnelle; et les listes d’attente chirurgicales.

À la suite de cette recherche, le Conseil numérique d’Aotearoa a formulé sept recommandations au gouvernement. Pour plus d’informations sur les résultats, veuillez lire le rapport ici et visiter le site Web de Toi Āria ici.