DALL-E 2 : l’outil d’art OpenAI semble ajouter secrètement des mots pour augmenter la diversité

Des chercheurs expérimentant l’outil de conversion de texte en image d’OpenAI, DALL-E 2, ont remarqué qu’il semble ajouter secrètement des mots tels que “noir” et “femme” aux invites d’image, apparemment dans le but de diversifier sa sortie.


Technologie


22 juillet 2022

Cette illustration photo montre le site Web DALL-E reflété entre un écran d'ordinateur et un téléphone portable à Washington, DC, le 20 juillet 2022. - Un million de personnes désireuses de se familiariser avec un nouvel outil d'intelligence artificielle qui leur permet de créer des images simplement en les décrivant avec les mots obtiendront bientôt leur souhait, ont déclaré mercredi ses créateurs.  La société de recherche en intelligence artificielle OpenAI mène un test bêta à grande échelle de DALL-E, un logiciel de pointe qui crée des images à partir de descriptions textuelles.  (Photo de Stefani Reynolds / AFP) (Photo de STEFANI REYNOLDS/AFP via Getty Images)

DALL-E 2 est un text-to-image générant de l’intelligence artificielle

STEFANI REYNOLDS/AFP via Getty Images

La société d’intelligence artificielle OpenAI semble modifier secrètement les demandes adressées à DALL-E 2, son IA texte-image avancée, dans le but de faire croire que le modèle est moins biaisé sur le plan racial et sexiste. Les utilisateurs ont découvert que des mots-clés tels que “noir” ou “femme” sont ajoutés aux invites données à l’IA, à leur insu.

Il est bien connu que Les IA peuvent hériter des préjugés humains grâce à une formation sur des ensembles de données biaisés, souvent recueillies en aspirant des données sur Internet. Pour …



#DALLE #loutil #dart #OpenAI #semble #ajouter #secrètement #des #mots #pour #augmenter #diversité

Leave a Comment

Your email address will not be published.