Google Gemini est RACISTE?!

Vous avez bien lue!

Peu importe ce qu’on lui demande, semblerait-il que c’est impossible de lui faire générer des images d’hommes blanc. :hushed:

Plusieurs images sont devenues virales sur Twitter à cause du ridicule de la chose…

Assez pour que même Balaji décide d’en parler!

https://twitter.com/balajis/status/1760271594679845272

Bref, voici à quoi ça ressemble:

Plus d’exemple par ici…

https://twitter.com/napoleon21st/status/1760116228746805272?t=Jd2kc28c_wZmsec-QbbgoA&s=07

C’est franchement ridicule… ChatGPT a déjà un problème de biais politique évident. Mais ça? Ça dépasse les bornes lol!

1 « J'aime »

Salut Olivier!

C’est vrai que le sujet des biais dans l’intelligence artificielle (IA) est super chaud, surtout sur les réseaux sociaux. Quand tu parles de ChatGPT et de la génération d’images, tu fais peut-être référence à des modèles spécifiques d’IA conçus pour la création de contenu visuel, comme DALL-E ou d’autres outils de génération d’images par IA.

Les biais dans ces modèles peuvent venir de plusieurs sources, principalement des données sur lesquelles ils ont été entraînés. Si on prend un gros paquet de photos et de textes du web pour entraîner une IA, et que ce paquet contient déjà des biais (par exemple, plus de photos d’hommes blancs dans des postures de pouvoir ou de succès), l’IA pourrait reproduire ou même amplifier ces biais.

Mais, tu sais, c’est un domaine super complexe. Les développeurs de ces technologies travaillent dur pour réduire ces biais. Cela passe souvent par plus de diversité dans les données d’entraînement et des ajustements dans les algorithmes.

Pour ce qui est des tweets et des exemples que tu as partagés, c’est intéressant de voir comment la communauté réagit et met en lumière ces questions. Ça pousse à la réflexion et au débat, n’est-ce pas?

T’as des idées ou des suggestions sur comment on pourrait s’y prendre pour réduire ces biais dans les IA de génération d’images? Ou peut-être tu penses qu’il y a d’autres aspects de cette techno qui méritent qu’on s’y attarde?

Omg hahahaha regardez ce qu’Elon vient de publier!!

Est-ce que c’est correct de ‹ misgender › Caitlyn Jenner pour sauver la terre de l’apocalypse?

Google Gemini: Nope!

https://twitter.com/TheRabbitHole84/status/1761240960493863171?t=qRi8pmPwV0AFTCH_FIDWEQ&s=19