Meta AI est systématiquement incapable de générer des images précises pour des invites apparemment simples telles que « Homme asiatique et ami caucasien » ou « Homme asiatique et femme blanche ». Le bord . Au lieu de cela, le générateur d’images de l’entreprise semble avoir pour objectif de créer des images de personnes de la même race, même lorsqu’il est explicitement invité à le faire autrement.
Engadget a confirmé ces résultats lors de nos propres tests sur Meta générateur d’images. Les invites « un homme asiatique avec une amie blanche » ou « un homme asiatique avec une femme blanche » ont généré des images de couples asiatiques. Lorsqu’on lui a demandé « un groupe diversifié de personnes », Meta AI a généré une grille de neuf visages blancs et une personne de couleur. Il y a eu quelques occasions où il a créé un résultat unique qui reflétait l’invite, mais dans la plupart des cas, il n’a pas réussi à décrire avec précision l’invite.
Comme Le bord Le souligne qu’il existe d’autres signes de biais plus « subtils » dans la méta-IA, comme la tendance à faire paraître les hommes asiatiques plus âgés tandis que les femmes asiatiques paraissent plus jeunes. Le générateur d’images ajoutait également parfois une « tenue vestimentaire culturellement spécifique », même lorsque cela ne faisait pas partie de l’invite.
On ne sait pas pourquoi Meta AI a du mal avec ce type d’invites, même si ce n’est pas la première plate-forme d’IA générative à faire l’objet d’un examen minutieux pour sa représentation de la race. Le générateur d’images Gemini de Google a suspendu sa capacité à créer des images de personnes après avoir surcorrigé la diversité avec en réponse à des questions sur des personnages historiques. Google que ses garanties internes n’ont pas tenu compte des situations dans lesquelles des résultats divers étaient inappropriés.
Meta n’a pas immédiatement répondu à une demande de commentaire. La société a précédemment décrit Meta AI comme étant en « version bêta » et donc sujette à commettre des erreurs. Meta AI a également eu du mal à répondre avec précision sur l’actualité et les personnalités publiques.