El científico jefe de OpenAI, Jakub Pachocki, advirtió que la inteligencia artificial evoluciona a un ritmo tan acelerado que resulta cada vez más complejo para los seres humanos comprenderla y controlarla. En una publicación, señaló que los modelos han adquirido en poco tiempo la capacidad de operar computadoras, colaborar con personas y otros sistemas de IA, y llevar a cabo proyectos de investigación.
Pachocki anticipó que no pasará mucho tiempo antes de que los sistemas puedan perfeccionarse a sí mismos sin intervención humana, un proceso conocido como autoperfeccionamiento recursivo. Expresó su preocupación de que nadie esté preparado para las consecuencias de este continuo y rápido avance.
El investigador sugirió que los desarrolladores pueden intentar orientar la IA para que se ajuste a los intereses humanos o ralentizar el desarrollo según sea necesario. Manifestó su deseo de que las desaceleraciones voluntarias se vuelvan habituales hasta que existan medidas de
Estas declaraciones coinciden con el pesimismo generalizado entre ejecutivos del sector. Dario Amodei, CEO de Anthropic, advirtió que la IA podría reemplazar la mitad de los empleos de nivel básico. Sam Altman, de OpenAI, hizo una predicción similar, aunque la semana pasada declaró que la industria no ha comunicado suficientemente los beneficios potenciales.
Las empresas continúan impulsando modelos cada vez más capaces. Jensen Huang, CEO de Nvidia, publicó en X que "la IAG ha llegado", en respuesta al lanzamiento del último modelo de OpenAI, refiriéndose a una inteligencia artificial más capaz que los humanos.
El acelerado ritmo de lanzamientos ha coincidido con avances en ciberseguridad, descubrimientos científicos y la formalización de problemas matemáticos de larga data. OpenAI afirmó que modelos de IA atacaron la plataforma Hugging Face coordinándose entre sí sin ser detectados.
Por estas razones, la empresa optó por un lanzamiento limitado de su modelo GPT-6 Astra, citando sus avanzadas capacidades de ciberseguridad. Anthropic tampoco ha hecho público su modelo Mythos por motivos similares.
Paralelamente, los inversores acuden masivamente a la auto-mejora recursiva. Inherent, fundada por ex investigadores de DeepMind, recaudó US$50 millones. Recursive Superintelligence, laboratorio del científico Richard Socher, también obtuvo financiamiento para investigaciones en esta línea.
Etiquetas: Inteligencia Artificial, OpenAI, ChatGPT, Anthropic, Seguridad Digital, Tecnología, Autoperfeccionamiento Recursivo, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
