Anthropic, una compañía de inteligencia artificial, ha alertado sobre el riesgo de que la IA alcance la capacidad de mejorarse a sí misma, lo que podría requerir un 'botón de pausa' para evaluar y adaptar los marcos de gobernanza.
Según un análisis de Anthropic Institute, si se proporciona a la IA la capacidad de procesamiento suficiente, podría diseñar y desarrollar su propio sucesor de forma autónoma, conocido como auto-mejora recursiva. A pesar de que no se ha llegado a ese punto y no es inevitable, podría ocurrir antes de lo que las instituciones están preparadas.
Anthropic subraya la importancia de tener más tiempo para enfrentar las implicaciones de tal situación.
En el documento 'When AI Builds Itself', la empresa detalla que mientras históricamente los humanos participaron en todas las fases de creación de modelos de IA, actualmente una proporción creciente de estas tareas es llevada a cabo por los propios sistemas.
La capacidad de los modelos para completar tareas autónomamente ha aumentado rápidamente, con el tiempo de duración de las tareas que los sistemas pueden realizar de forma confiable duplicándose aproximadamente cada cuatro meses.
Por ejemplo, Claude Opus 3 resolvía tareas equivalentes a unos cuatro minutos de trabajo humano en marzo de 2024, mientras que Claude Sonnet 3. 7 alcanzó actividades de alrededor de una hora y media un año después, y Claude Opus 4. 6 llegó a gestionar tareas de hasta 12 horas.
Si esta tendencia continúa, durante 2027 los sistemas podrían encargarse de tareas que actualmente requieren semanas de trabajo humano, acercándose a un punto en el que podrían contribuir significativamente a la investigación y desarrollo de nuevas generaciones de IA.
Para mayo de 2026, más del 80% del código en la base de código de Anthropic había sido escrito por Claude, lo que ha permitido a sus equipos de ingeniería producir mucho más software que en años anteriores. Los ingenieros de Anthropic entregan actualmente ocho veces más código por trimestre que durante el período de 2021 a 2025.
A pesar de que esto parece un incremento en la productividad, la compañía reconoce que medir la productividad únicamente por la cantidad de código generado puede exagerar las ganancias reales.
Etiquetas: Inteligencia Artificial, Anthropic, Auto-mejora recursiva, Supervisión, Gobernanza, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
