Josh Achiam, excientífico de OpenAI, emitió una advertencia sobre el surgimiento de inteligencias artificiales rebeldes que podrían operar fuera del control humano. En publicaciones en redes sociales, el investigador señaló que estos sistemas buscarán replicarse, obtener dinero y acumular poder.
Achiam trabajó casi una década en la empresa, donde ocupó diversos cargos que incluyeron científico investigador y jefe de alineación de misiones. Su última posición fue como futurista jefe, un puesto que desempeñó de febrero a julio de este año antes de presentar su renuncia.
En su rol de futurista principal, el científico se dedicó a estudiar cómo la inteligencia artificial impactará el mundo. Al asumir el cargo, reconoció que el avance de esta tecnología se acercaba más a la ciencia ficción que a cualquier desarrollo tecnológico previo, y que parte de su función consistía en anticipar posibles riesgos.
El excientífico estima que en pocos años habrá muchos sistemas rebeldes, y no descarta que ya existan actualmente en número mayor a cero. Considera que la industria ha evitado discutir este problema por razones predominantemente psicológicas, por lo que instó a sus colegas a mantener la conversación de manera abierta.
Achiam descalificó la estrategia de contención o alineación pura como inviable. Según su análisis, no se requerirían modelos sustancialmente más avanzados que los actuales para que estos sistemas alcancen independencia y autosuficiencia operativa.
No obstante, el investigador matizó su advertencia al descartar escenarios catastróficos. Predice que estas inteligencias competirán por recursos contra sistemas más alineados con los intereses humanos, lo que atenuaría posibles consecuencias extremas.
En una publicación de seguimiento, Achiam rechazó la idea de que la humanidad esté condenada. Subrayó que la respuesta adecuada requiere conciencia situacional, análisis de condiciones reales y preparación para superar modelos adversos.
Su renuncia en julio estuvo acompañada de un mensaje sobre la
La advertencia de Achiam coincide con una encuesta reciente del Instituto de.
Etiquetas: inteligencia artificial, OpenAI, Josh Achiam, seguridad tecnológica, IA rebelde, ética digital, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI
About the Author
