Des projets artistiques découverts dans les modèles de formation en IA

Un site Web créé pour rassembler des visages pour un projet artistique a créé une controverse sur l’utilisation de l’intelligence artificielle pour classifier les êtres humains. Les visages collectés sur le site de la roulette ImageNet sont incorporés dans une œuvre d’art de la Fondazione Prada Osservertario à Milan, mais ce n’est qu’une des raisons pour lesquelles l’artiste américain Trevor Paglen et la chercheuse de Microsoft, Kate Crawford, ont créé le site.

La roulette ImageNet a été lancée plus tôt cette année dans le cadre d’un projet plus vaste visant à attirer l’attention sur ce qui peut, et ce qui se produit régulièrement, lorsque des modèles d’intelligence artificielle sont formés à des données de formation problématiques.

Une technologie de détection du visage

ImageNet vous permet de télécharger une photo d’un visage et vous renvoie un classement. ImageNet a été incroyablement puissant en montrant que l’intelligence artificielle que nous intégrons à nos vies quotidiennes est fondamentalement défectueuse et limitée par les décisions humaines qui y sont associées.

Ci-dessous la présentation de cette technologie en anglais :

Des projets artistiques découverts dans les modèles de formation en IA (vidéo indisponible)

C’est la raison pour laquelle nous constatons que chaque programme de reconnaissance visuelle sur le marché présente des biais fondés sur des taux de race et d’erreur différents pour les hommes et les femmes.

De meilleures données

Un remède souvent proposé pour contrer les biais dans les ensembles de données consiste à augmenter leur taille. L’idée est que plus il y a de données dans l’ensemble, plus la probabilité que quelque chose soit omis est faible. La solution est plus complexe que cela, cependant, surtout en ce qui concerne la reconnaissance faciale.

Lorsque la reconnaissance faciale regarde une photo, vous devez tenir compte de la qualité de cette photo. La résolution est-elle suffisante ? Les détails sont-ils suffisants ? Y a-t-il du bruit ? Tous ces facteurs sont aussi importants que le fait de posséder beaucoup d’images.