Comment YouTube décide quoi interdire

Matt Halprin, le responsable mondial de la confiance et de la sécurité pour YouTube, a un travail difficile: il supervise les équipes qui décident de ce qui est autorisé et de ce qui devrait être interdit sur YouTube.

Le site appartenant à Google a récemment été critiqué pour avoir autorisé des vidéos présentant ce que beaucoup trouvent offensant ou violent, et pour ne pas en faire assez pour protéger les enfants en ligne. Halprin doit prendre des décisions difficiles pour élaborer des politiques qui maintiennent le site aussi sûr que YouTube le souhaite, tout en équilibrant ce que l'entreprise considère comme l'un de ses principes fondamentaux: la liberté d'expression des gens.

L'Associated Press a récemment discuté avec Halprin du fonctionnement de son équipe. Les questions et réponses ont été modifiées pour plus de clarté et de longueur.

Q: Comment fonctionne votre équipe?

R: Ils sont séparés en élaboration de politiques et incubation de politiques. L'élaboration des politiques commence par le plus haut niveau de principes: nous sommes une plate-forme ouverte. Nous avons un parti pris pour permettre la liberté d'expression sur notre plate-forme et ne supprimer que le contenu que nous pensons être flagrant et pourrait causer un réel préjudice. Nous voulons être un endroit où une variété de points de vue peuvent être entendus, et parfois cela signifie même des choses avec lesquelles les gens ne sont pas d'accord ou même offensés.

Il y a quelques années, nous avons lancé un processus pour réexaminer essentiellement toutes nos politiques. Nous examinons les politiques qui semblent les plus incompatibles avec ce que nos équipes d'application de la loi nous disent, les cas de la zone grise ou les politiques dont parlent les régulateurs ou la presse. Par exemple, au T2 (juin), nous avons relancé notre politique sur les discours de haine.

Q: À quoi ressemble le processus pour créer ou modifier une politique?

R: L'équipe fait d'abord la recherche et élabore le cadre et essentiellement une proposition. Une fois que cela m'arrive, nous faisons venir nos partenaires et nos gens interfonctionnels en politique publique et en relations publiques, en produit, en juridique. Nous sommes souvent renvoyés à la planche à dessin sur quelques questions. Nous passons ensuite à un examen de la direction, qui est présidé par notre chef de produit. Enfin, la quatrième et dernière étape concerne les cadres supérieurs. Nous avons ces réunions chaque semaine.

Au cours de ce processus, ces gars regardent une tonne d'exemples vidéo.

Q: Comment pensez-vous de concilier liberté d'expression et sécurité?

R: C'est probablement la chose la plus difficile que nous faisons. Il n'y a pas de bonne réponse. Nous ne sommes pas tous d'accord. Une personne pensera: "Hé, nous devrions avoir plus de civilité. Nous ne devrions pas laisser quelque chose comme ça arriver." Et une autre personne dira: "Ouais, mais si vous vous débarrassez de ce commentaire incivil, vous perdez de la liberté d'expression ou du discours politique vraiment précieux, vous savez."

Et donc nous avons sérieusement d'énormes débats à ce sujet. Parfois, nous pensons que si nous ne sommes pas critiqués par toutes les parties pour la politique, nous avons probablement fait quelque chose de mal. Si vous ne dérangez qu'un côté, vous ne l'avez probablement pas bien compris.

Q: Comment vous assurez-vous que les choses ne glissent pas entre les mailles du filet en matière d'application?

R: Nous avons toujours eu des directives communautaires et c'est ce qui définit nos règles. Nous mesurons la quantité d'exposition qui se produit sur le contenu qui, selon nous, va à l'encontre de la ligne. Et ça descend. Pour chaque flux de travail, pour chaque politique, j'obtiens une mesure de la précision de nos réviseurs régulièrement.

© 2020 The Associated Press. Tous les droits sont réservés.