Según un reportaje publicado por NBC News, IBM habría recogido una colección de casi un millón de imágenes de Flickr sin que los usuarios tuvieran conocimiento de ello. Su objetivo: entrenar herramientas de Inteligencia Artificial de reconocimiento facial para su proyecto de investigación Diversity in Faces.
A la hora de crear esta base de datos, IBM ha tenido «mucho cuidado en cumplir con los principios de privacidad, lo cual incluye limitar la base de datos Diversity in Faces a anotaciones de imágenes disponibles de forma pública y a que solo puedan acceder a ellas investigadores verificados”. En todos los casos, las fotografías recopiladas se encuentran bajo el distintivo Creative Commons.
IBM asegura que «las personas pueden optar a salir de esta base de datos». En una publicación de la compañía sobre privacidad relacionada con este proyecto, explica que aquellos usuarios que quieran eliminar sus fotografías de la base de datos deberán escribir un correo con la ‘url’ de las imágenes que quieran borrar. Esta publicación también advierte de que si las imágenes han sido usadas en las investigaciones, no se eliminarán de estas, a pesar de no estar ya presentes en la base de datos.
IBM usa estas imágenes para mejorar su sistema de reconocimiento facial basado en la IA y, así, reducir el margen de error y hacer que sea una tecnología más justa, ya que como se publicaba en un estudio de “Gender Shades”, esta tecnología tiene un margen de error mayor en las mujeres y en los individuos de raza negra.