Un investigador clave de Anthropic ha puesto cifras al temor que recorre el sector de la inteligencia artificial. Evan Hubinger, director de estrategia de alineamiento de la empresa, estima que existe más del 10% de probabilidad de que la IA provoque la extinción humana durante la próxima década. La declaración respaldó la renuncia de Jacob Coxon, quien abandonó la compañía alegando que las empresas del ramo arriesgan vidas humanas en su carrera tecnológica.
Hubinger aclaró que considera bajo el riesgo de los modelos actuales. Su preocupación central apunta a una superinteligencia emergente por automejora recursiva: sistemas de IA que diseñen sistemas aún más capaces sin intervención humana directa. Para Coxon, los próximos uno o dos años serán decisivos para evitar ese escenario.
La renuncia de Coxon se suma a otras en empresas competidoras. Prefirió perder su participación económica en la firma para hacer pública su advertencia. Según Samuel Marks, directivo de Anthropic, entre los desarrolladores veteranos existe preocupación real por un potencial desastre.
Los escenarios de extinción se dividen en dos categorías. El primero implica pérdida de control: un sistema superinteligente con objetivos incompatibles con los humanos que no pueda detenerse. El segundo mantiene el control humano, pero permite usos destructivos como virus letales, ciberataques masivos o sabotaje de infraestructura crítica.
El famoso "p(doom)" o probabilidad de extinción no es una medición experimental. Es una estimación subjetiva sin evidencia empírica que la respalde. Ese 10% podría equivaler al 90% o al 0%, reconocen los propios analistas del sector.
Coxon, en entrevista con Wired, calificó a Anthropic como más responsable que OpenAI en materia de alineamiento. No obstante, criticó que ambas compañías aceleran la investigación con la misma tecnología que pretenden controlar, en una contradicción difícil de resolver.
La tensión entre desarrollo comercial y.
Etiquetas: inteligencia artificial, Anthropic, OpenAI, seguridad tecnológica, extinción humana, superinteligencia, alineamiento de IA, Jacob Coxon
About the Author
