La inteligencia artificial (IA) está cada vez más presente en la vida cotidiana, y con ello, la necesidad de que las comunidades tengan voz en cómo son representadas. Microsoft lanzó Community Library Creator, una herramienta que permite a grupos con experiencias compartidas, como discapacidades o identidades, influir en las imágenes generadas por IA.
La investigadora principal, Anja Thieme, destaca que no existe una verdad fundamental sobre las representaciones y debe ser definida colectivamente. Las bibliotecas comunitarias son colecciones de imágenes o vídeos creados por grupos que trabajan con organizaciones de defensa para mostrar su perspectiva ante la IA.
Cada imagen incluye descripciones que aportan y ayudan a los sistemas de IA a entender no solo la apariencia, sino también la representación desde la perspectiva de la comunidad.
Community Library Creator, desarrollado por Thieme junto con el equipo de Accesibilidad de Microsoft, provee las herramientas para guiar este proceso, aunque las decisiones sobre el contenido recaen en la comunidad. La importancia de estas bibliotecas radica en que la representación de las personas en la IA influye en su comprensión y oportunidades.
Los modelos de IA aprenden de grandes colecciones de imágenes y texto, y pueden repetir lagunas o distorsiones existentes en esos datos. Por ejemplo, la gran cantidad de imágenes de enanos místicos en internet puede llevar a que los sistemas de IA generen representaciones distorsionadas.
Bibliotecas comunitarias ofrecen una forma activa de moldear datos y estándares, en lugar de depender de lo que los ingenieros o internet determinen.
Etiquetas: Tecnología, IA, Microsoft, Comunidades, Tecnología · IA general
About the Author
