El avance de los Modelos de Lenguaje de Gran Tamaño (LLMs) se ha convertido en un espejo de los debates culturales y políticos. Un estudio reciente analizó las respuestas de las principales herramientas de Inteligencia Artificial (IA), como ChatGPT de OpenAI, Gemini de Google y Grok de xAI, y encontró diferencias ideológicas en sus argumentaciones. Esto demuestra que el software de IA no es neutral, sino que refleja las pautas humanas, filtros de
Elon Musk lanzó un nuevo chatbot que busca competir no solo en algorítmica, sino también en la arquitectura de ingeniería de instrucciones y el proceso de Alineación mediante Retroalimentación Humana (RLHF). Durante este proceso, los ingenieros configuran las funciones de recompensa para premiar ciertas respuestas y penalizar otras, lo que define la personalidad del chatbot.
Estos hallazgos son preocupantes para el sector tecnológico, ya que estas aplicaciones son fundamentales como motores de búsqueda y asistentes de productividad. Si los usuarios delegan la validación de información a un hardware de IA con sesgo político preprogramado, el riesgo de consolidar cámaras de eco ideológicas en internet se vuelve complejo para la regulación de datos.
El diagnóstico del perfil ideológico en modelos de IA muestra que ChatGPT tiene una orientación centrista con moderado social, Gemini se inclina hacia el progresismo social e institucional, y Grok se caracteriza por ser libertario con un enfoque antisistema moderado.
Las IA no piensan, sino que calculan la probabilidad de qué palabra sigue a otra basándose en el texto con el que fueron entrenados. Los repositorios de datos del internet, llenos de sesgos humanos, son absorbidos por el algoritmo. Los desarrolladores humanos aplican filtros para hacer que la IA sea 'segura' o 'útil', inyectando sus propios sesgos.
Estos hallazgos resaltan la importancia de una regulación sólida de la IA para evitar el sesgo y garantizar la neutralidad en el procesamiento de datos.
Etiquetas: Inteligencia Artificial, ChatGPT, Gemini, Grok, Investigación, Sesgo, IA, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
