La inteligencia artificial (IA) está cada vez más presente en la vida cotidiana, y con ello, la necesidad de que las comunidades tengan voz en cómo son representadas en los sistemas de IA. Community Library Creator, una plataforma de Microsoft, busca abordar esta preocupación.
La plataforma ofrece a las comunidades la oportunidad de participar activamente en la construcción de bases de datos que reflejen sus experiencias y perspectivas, especialmente en lo que respecta a las imágenes generadas por IA.
Anja Thieme, investigadora principal en Microsoft, destaca que no existe una 'verdad fundamental' sobre cómo deberÃan representarse las personas, y que esto debe ser definido y negociado colectivamente.
Las bibliotecas comunitarias son colecciones de imágenes o vÃdeos creados por grupos con experiencias compartidas, como discapacidades o identidades, que trabajan en conjunto para mostrar cómo quieren ser representados en la IA.
Estas imágenes se acompañan de descripciones que aportan y ayudan a los sistemas de IA a comprender no solo la apariencia de algo, sino también su significado desde la perspectiva de la comunidad.
Community Library Creator, desarrollado por Thieme junto con el equipo de Accesibilidad de Microsoft, provee las herramientas para guiar este proceso, aunque las decisiones sobre qué incluir y enfatizar recaen en la comunidad. La importancia de estas bibliotecas radica en la influencia que tienen en la comprensión y oportunidades de las personas en el mundo.
Los modelos de IA aprenden de grandes colecciones de imágenes y texto, y pueden repetir lagunas o distorsiones existentes en esos datos. Por ejemplo, la gran cantidad de imágenes de enanos mÃsticos en internet puede llevar a que los sistemas de IA generen representaciones distorsionadas de personas con enanismo.
Bibliotecas comunitarias permiten a las comunidades moldear activamente tanto los datos como los estándares de representación en IA, mejorando asà la precisión y justicia en la representación de las comunidades.
Etiquetas: TecnologÃa, Big Tech, Antitrust, TecnologÃa · Big Tech y antitrust
About the Author
