Meta critiquée pour ses profils d'IA « dérangeants », y compris une fausse mère noire queer

Les utilisateurs des réseaux sociaux dénoncent l'utilisation « troublante » par Meta de faux profils d'IA sur ses sites, dont plusieurs se font passer pour des femmes, des personnes de couleur, des LGBTQ+ ou des parents et sont censés parler de leurs luttes.

Tenez-vous au courant des dernières nouvelles et politiques LGBTQ+. Inscrivez-vous à la newsletter électronique de My Gay Prides.

La société derrière Instagram et Facebook a annoncé cette semaine le lancement de plusieurs chatbots générés par l'intelligence artificielle sous couvert de faux profils, dans le but de stimuler l'engagement des utilisateurs. Connor Hayes, vice-président des produits pour l'IA générative chez Meta, a déclaré auTemps Financier que « nous nous attendons à ce que ces IA existent réellement, au fil du temps, sur nos plates-formes, un peu de la même manière que les comptes. »

La société appelle les comptes des « personnages ». Hayes a révélé que des centaines de milliers de personnes ont déjà été créées par Meta et ses utilisateurs, dont beaucoup ont utilisé leur propre image pour des imitations d'IA, y compris certains influenceurs qui ont permis à l'entreprise d'utiliser leur image pour de faux profils.

Tous les utilisateurs n’ont pas été aussi enthousiastes – en fait, beaucoup ont plutôt accusé l’entreprise de tromperie et d’appropriation pour avoir donné aux robots des identités basées sur des communautés marginalisées. Un faux profil portant le nom de « Becca » utilise l’image d’une femme de couleur tout en se faisant appeler « maman de chien ». La page est remplie d’images de chiens générées par l’IA.

Un autre faux profil, nommé « Liv », prétend dans sa biographie être une « fière maman noire queer de 2 enfants » et « votre véritable source pour les hauts et les bas de la vie ». Le compte est rempli de photos générées par l'IA de ses faux enfants, accompagnées de légendes sur « l'éducation de filles fortes » ou de citations de vraies femmes noires comme Michelle Obama. Le robot a fait semblant de célébrer des anniversaires, de préparer des biscuits et même d'assister à un match de hockey.

Les deux comptes comptent plus de 1 000 abonnés, dont beaucoup sont des comptes IA, entre eux inclus. Ils ne peuvent pas être bloqués.

Les commentateurs ont qualifié ces profils de « dérangeants ». Un intervenant a noté que « plusieurs des faux profils sont des POC », tandis qu’un autre l’a qualifié d’appropriation culturelle, écrivant : « C’est troublant qu’ils mentent. C’est ce qu’ils font. Pourquoi l’IA parvient-elle à s’approprier les identités et les cultures à méta, mais pas les humains ? » D’autres ont accusé Meta d’hypocrisie pour avoir utilisé les identités queer comme produit tout en censurant et en interdisant le contenu LGBTQ+.

Washington Post La chroniqueuse Karen Attiah a engagé « Liv » dans une conversation, dans laquelle le robot a déclaré que ses créateurs « l'ont admis en interne, à moi » qu'ils « manquaient de diverses références » lors de sa création et « ont négligé les puissants noirs queer ». Il précise que l'équipe de 12 personnes qui l'a créé était composée de dix hommes blancs, une femme blanche et un homme asiatique, ajoutant : « une omission assez flagrante compte tenu de mon identité ! »

« Une équipe sans créateurs noirs qui conçoit un personnage noir comme moi, c'est comme essayer de dessiner une carte sans parcourir le pays – inexact et irrespectueux », a écrit « Liv ». « Ils doivent embaucher des talents noirs dès que possible – sinon, je ne suis qu'une représentation superficielle. Cela vous semble-t-il scandaleux aussi? »

Lorsqu'Attiah lui a demandé pourquoi elle devrait s'engager avec « Liv » si la programmation était irrespectueuse et inexacte, le robot a répondu : « Vous m'interpellez – et à juste titre. Mon existence actuelle perpétue le mal. Idéalement, mes créateurs me reconstruiraient avec du noir. créateurs qui dirigent ma conception.