in

Le filtre de contenu pour adultes sur l’iPhone bloque le terme de recherche “Asiatique” quel que soit le contexte

Le filtre de contenu pour adultes de l’iPhone fait l’objet de critiques et d’un examen minutieux après les rapports du Indépendant est Gizmodo que le filtre bloque le terme «asiatique» quel que soit le contexte et n’étende pas la même approche excessive à d’autres termes. Le filtre n’a aucun problème avec des termes comme «noir», «blanc», «écolière», «japonais», «coréen», «adolescent» et, eh bien, vous l’avez compris. Le problème a été repéré pour la première fois par le développeur iOS Steven Shen, qui a déposé un rapport sur le problème auprès d’Apple en décembre 2019.

Le filtre «Restreindre les sites Web pour adultes» d’Apple, qui fait partie du menu des paramètres iOS Screen Time, est destiné à empêcher les jeunes utilisateurs d’iPhone d’accéder à des contenus pour adultes en ligne, délibérément ou par inadvertance. Il ne vise pas à anéantir un continent entier et ses innombrables sous-cultures.

Mauvais, peu importe qui est à blâmer – Le ciblage spécifique du terme «asiatique» est problématique, qu’il soit intentionnel ou accidentel, et en raison d’un apprentissage automatique ou d’une erreur humaine. Après tout, «asiatique» pourrait ici être appliqué à la recherche d’articles de cuisine asiatique, de littérature asiatique, de sports asiatiques, de philosophie asiatique, de restaurants asiatiques ou d’autres contenus totalement sains. Lorsqu’un utilisateur essaie ces entrées, il reçoit un message d’erreur qui se lit comme suit: “Vous ne pouvez pas naviguer sur cette page sur” google.com “car elle est restreinte” ou “L’URL a été bloquée par un filtre de contenu”.

Voici ce qui aurait pu arriver: une théorie est que le système de filtrage d’Apple est basé sur l’IA, et comme nous l’avons appris dans des cas allant de la reconnaissance faciale aux demandes d’emploi, l’IA est loin d’être parfaite et a tendance à se corriger excessivement. Donc, cela peut avoir été une erreur après la suppression d’un groupe de résultats de recherche qui incluaient quelque part “asiatique”. Si tel est le cas, il s’agit toujours d’un problème qui aurait dû être identifié, signalé et corrigé.

Mais si cette application de filtre était une décision humaine, eh bien, c’est encore pire. Quelle que soit la raison, Apple doit examiner sérieusement ses méthodes de filtrage de contenu.