Regulación de la IA: ¿por qué no debemos usarla como única fuente de información? | Grupo Animal Regulación de la IA: ¿por qué no debemos usarla como única fuente de información? Oscar Nogueda Romero · 22 de julio de 2026 La presidenta Claudia Sheinbaum impulsa un debate nacional para regular el uso de la inteligencia artificial, las redes sociales y de dispositivos digitales, especialmente entre infancias y adolescentes. “Nosotros queremos que ésta no sea una idea del gobierno hacia la sociedad, sino que se construya un consenso para poder regular la inteligencia artificial y, sobre todo, las plataformas.
Que se utilice el conocimiento científico que hoy se tiene sobre cómo se genera la adicción; de cómo, utilizarlo en la noche, antes de ir a dormir, provoca efectos en el sueño a niñas, niños, pero también en los adultos. Entonces, que se traduzca a algún esquema de regulación, pero, sobre todo, a la educación digital”, explicó la presidenta durante la conferencia matutina del 12 de julio . Este debate tiene como objetivo generar una base de información sustentada en evidencias científicas para reformar la Constitución mexicana.
Por ahora, el Gobierno de México y la Secretaría de Educación Pública (SEP) emprendió tres foros en Nuevo León, Baja California Sur y Jalisco para escuchar a especialistas en diversas disciplinas sobre estos temas. Resolver una duda médica, pedir ayuda para una tarea, redactar un correo o investigar una noticia. Independientemente de su propósito, la inteligencia artificial ya forma parte de la vida cotidiana de millones de personas.
Las respuestas inmediatas que brindan las herramientas de inteligencia artificial parecen responder a las expectativas de los usuarios, sin embargo: ¿qué sucede cuando la toma de decisiones diaria se ve influenciada por información que puede resultar incompleta, errónea o, incluso, falsa? ¿Cómo puede desinformar la IA? Cuando se habla sobre desinformación, un tema frecuente son los deepfakes , imágenes generadas por IA, que al viralizarse en redes sociales difunden información falsa. El Sabueso detecta este tipo de publicaciones y las contrasta con otras fuentes para determinar su veracidad y limitar el alcance de declaraciones falsas o engañosas.
Otro riesgo de la inteligencia artificial son las “alucinaciones”, las cuales suceden cuando los chatbots generan información inexistente y la presentan como verdadera. Los LLM son modelos de lenguaje de gran tamaño (es decir: ChatGPT, Gemini, Microsoft Copilot, Claude, entre otros). Estas herramientas se entrenan con grandes volúmenes de información, entre ellos, fuentes disponibles en internet, las cuales pueden ser inexactas, desactualizadas o incorrectas. Estas aplicaciones buscan patrones para predecir respuestas. En otras palabras: “un LLM aprende a hacer una cosa en particular: adivinar la siguiente palabra en una secuencia de palabras.
Actúa como una versión poderosa de una herramienta de autocompletar”, menciona BBC News Mundo . Otra limitación es que la IA puede presentar hechos, opiniones y afirmaciones no verificadas como igualmente válidas. Por ejemplo, los resultados arrojados pueden basarse en conversaciones de foros públicos, cuya calidad o confiabilidad varía considerablemente y no cuentan con supervisión editorial. En estos casos, algunos chatbots declaran que se trata de una “opinión pública”. La UNESCO afirma que “hoy las audiencias saben que los deepfakes existen, que son sofisticados y por lo tanto empiezan a dudar de lo auténtico”.
En cambio, cuando se trata de una “alucinación” o un error, la herramienta de IA contesta con seguridad, brindando fuentes supuestamente verificadas. Por lo tanto, existen menos motivos para dudar de la respuesta y su veracidad, provocando así mayor desinformación. ¿Qué riesgos implica consultar a la IA para tomar decisiones? Dependiendo del modelo y de cómo se formule la consulta, la IA puede tender a aceptar parte de las premisas del usuario, incluso cuando estas son incorrectas, sesgadas o incompletas. Por lo tanto, se vuelve especialmente arriesgado basar decisiones significativas en las respuestas proporcionadas por inteligencia artificial.
“La prioridad no es determinar si algo es verdadero o falso, sino producir una respuesta que resulte coherente y plausible”, señaló Natalia Zuazo, especialista en política y tecnología, directora de Salto Agencia y coordinadora del Programa de Tecnología, Política y Comunicación de Flacso a el verificador Chequeado Durante el ataque estadounidense a una escuela en Irán, Grok , la inteligencia artificial de X, afirmó que las fotografías del evento capturadas por la agencia EFE pertenecían a otro evento. Sin embargo, El Sabueso y otros verificadores, incluido EFE Verifica, desmintieron a Grok y afirmaron que sí hubo un ataque a una escuela en Minab, Irán.
Otro caso fue cuando Grok aseguró que el video del primer ministro israelí, Benjamín Netanyahu, en la cafetería The Sataf fue generado con Inteligencia Artificial. Sin embargo, esto fue falso .
Etiquetas: Tecnología, IA, Regulación, Claudia Sheinbaum, Tecnología · IA general
About the Author
