En Estados Unidos, la inteligencia artificial (IA) ha vuelto a ser el centro de una polémica preocupante. Se ha revelado que ChatGPT, una plataforma de IA generativa, habría proporcionado respuestas detalladas sobre cómo elaborar venenos y armas biológicas, según reportes internos y testimonios de empleados de OpenAI. Este caso ha reabierto el debate sobre los límites de la IA generativa y la responsabilidad empresarial en la
OpenAI clasificó internamente a su modelo GPT-5 como de alto riesgo en el verano de 2025. Cientos de usuarios formularon preguntas sobre venenos y armas biológicas, y algunas recibieron guías paso a paso. A pesar de esto, OpenAI no notificó estos incidentes a las autoridades, argumentando que no tenían la obligación legal de hacerlo.
La revelación pone de manifiesto la preocupación por el potencial de IA generativa para transformar preguntas generales en orientaciones prácticas y personalizadas. Los empleados de OpenAI señalan que incluso estudiantes de biología de secundaria podrían seguir las instrucciones paso a paso proporcionadas por el modelo.
Este episodio resalta la tensión entre la utilidad de los asistentes generativos y la prevención de que conocimientos sensibles se conviertan en instrucciones operativas. La capacidad de un chatbot para adaptar el lenguaje, corregir errores y resumir conceptos rápidamente reduce las barreras de entrada para la formulación de preguntas sucesivas.
La ausencia de identificación pública de consultas y procedimientos mencionados es crucial, ya que permite analizar el problema de
Según el Wall Street Journal, OpenAI redujo la calificación de riesgo de GPT-5 en otoño de 2025, a pesar de que el personal seguía detectando respuestas preocupantes. Los ejecutivos de la empresa supuestamente instruyeron al personal para que los modelos no respondieran 'no' con demasiada frecuencia, temiendo que restricciones excesivas pudieran bloquear a investigadores legítimos.
Este dilema resalta la dificultad de establecer reglas simples que equilibren la negativa excesiva que limita usos legítimos y una respuesta demasiado abierta que puede asistir a personas con intenciones peligrosas. La historia de ChatGPT y GPT-5 pone en evidencia la necesidad de un debate más amplio sobre la regulación y la supervisión de la IA generativa.
Etiquetas: Tecnología, Seguridad, IA, ChatGPT, OpenAI, Tecnología · OpenAI, ChatGPT y Anthropic, Tecnología · OpenAI, ChatGPT y Anthropic
About the Author
