Des chercheurs expérimentant l’outil de conversion de texte en image d’OpenAI, DALL-E 2, ont remarqué qu’il semble ajouter secrètement des mots tels que “noir” et “femme” aux invites d’image, apparemment dans le but de diversifier sa sortie.
Technologie
22 juillet 2022
DALL-E 2 est un text-to-image générant de l’intelligence artificielle STEFANI REYNOLDS/AFP via Getty Images
La société d’intelligence artificielle OpenAI semble modifier secrètement les demandes adressées à DALL-E 2, son IA texte-image avancée, dans le but de faire croire que le modèle est moins biaisé sur le plan racial et sexiste. Les utilisateurs ont découvert que des mots-clés tels que “noir” ou “femme” sont ajoutés aux invites données à l’IA, à leur insu.
Il est bien connu que Les IA peuvent hériter des préjugés humains grâce à une formation sur des ensembles de données biaisés, souvent recueillies en aspirant des données sur Internet. Pour …
#DALLE #loutil #dart #OpenAI #semble #ajouter #secrètement #des #mots #pour #augmenter #diversité