Representantes de Anthropic y OpenAI participaron la semana pasada en la mesa redonda “IA y Fe” convocada en Nueva York por la ONG suiza Alianza Interreligiosa para las Comunidades Seguras. Asistieron la Junta de Rabinos de Nueva York, la Sociedad del Templo Hindú de Norteamérica, la Iglesia de Jesucristo de los Últimos Días, la Coalición Sikh de EE. UU.
y la Arquidiócesis Ortodoxa Griega de EE. UU. El encuentro amplía las reuniones que Anthropic ya mantuvo con unos 15 líderes cristianos hace un mes, cuando la firma pidió orientación sobre el “desarrollo espiritual” de su modelo Claude.
La compañía busca incorporar a su constitución interna lineamientos filosóficos que permitan a la máquina tomar decisiones “como una persona con valores perfectos” cuando no exista una regla explícita y el error pueda ser grave. No trascendieron las instrucciones religiosas específicas que propusieron los invitados.
La CEO de la ONG Humane Intelligence, Rumman Chowdhury, calificó de “ingenuo” el intento de Silicon Valley de encontrar principios éticos universales a través de la IA y considera que ahora recurren a la religión para manejar situaciones morales ambiguas.
Anthropic no respondió a solicitudes de comentario sobre si el personal que acudió a la reunión interreligiosa es el mismo que participó en los diálogos cristianos previos. La Alianza Interreligiosa planea replicar el formato en China, Kenia y Emiratos Árabes Unidos con la participación de la baronesa británica Joanna Shields.
El objetivo declarado de Anthropic es dotar a Claude de “valores éticos” sin que falle, aunque no ha precisado cómo traducirá las doctrinas religiosas a su sistema de entrenamiento.
Etiquetas: Tecnología, OpenAI, ChatGPT, Anthropic, ética, IA, religión, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
