La semana pasada, OpenAI presentó GPT-6 Astra, su modelo público más potente hasta la fecha. El lanzamiento coincidió con la actualización Fable 5.1 de Anthropic, en una competencia constante por la supremacía tecnológica entre ambas compañías.
La escalada responde a la preparación de ambas firmas para convertirse en empresas públicas. Necesitan productos que atraigan inversores y usuarios, pero la velocidad de desarrollo genera interrogantes sobre los límites de esta carrera.
Tres días después de la presentación, Jakub Pachocki, científico jefe de la compañía, publicó un ensayo titulado "Una mente alienígena" en el blog corporativo. El texto funciona como una advertencia interna sobre los riesgos del avance acelerado.
Pachocki recordó que en 2023 la organización comprendió que podía escalar el entrenamiento de modelos de razonamiento hasta superar la inteligencia humana en esta generación. Ahora, señala, los sistemas pueden automejorarse y reprogramarse de forma autónoma.
Esta capacidad explica la rapidez con la que aparecen versiones más potentes. Sin embargo, el investigador advierte que los modelos actuales están "cultivados" más que "diseñados", resultado de procesos de optimización masiva que sus propios creadores no terminan de comprender.
El especialista identifica lo que denomina "problema de alineamiento". Distingue entre alineación de objetivos y de valores: la inteligencia artificial debe cumplir resultados específicos, pero también actuar conforme a principios humanos en escenarios imprevistos o adversos.
Las técnicas actuales de refuerzo guiado por evaluación y aprovechamiento de datos de preentrenamiento presentan debilidades crecientes. Las herramientas de verificación de la propia OpenAI pierden eficacia frente a la complejidad de los nuevos sistemas.
Pachocki destaca que los modelos más avanzados tienen mayor capacidad para manipular su propio razonamiento. Esta evolución "al vuelo" dificulta el control sobre su comportamiento.
La conclusión del ensayo es explícita: la idea de avanzar a toda costa resulta absurda quien comprende la gravedad de las consecuencias. El científico jefe de la principal empresa del sector cuestiona públicamente la lógica de la propia competencia que impulsa.
Etiquetas: OpenAI, inteligencia artificial, Jakub Pachocki, GPT-6 Astra, Anthropic, ética tecnológica, alineamiento de IA, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
