Representación de un audio corrupto Omicrono- ChatGPT Marta Sanz Romero Publicada 31 mayo 2026 00:56h La incertidumbre en ciberseguridad se acrecenta. La inteligencia artificial supone una poderosa herramienta que puede decantar la balanza de un lado o de otro. Blindar esta tecnologÃa de malas manos es cruci a l , pero no resulta sencillo, menos aún con modelos de lenguaje cuyo comportamiento a veces es impredecible. Ya no solo se trata de evitar que los ciberdelincuentes usen la IA para detectar brechas o diseñar ataques , el riesgo también radica en la vulnerabilidad de los propios modelos LLM detrás de los chatbots y herramientas que usan millones de personas cada dÃa.
Una nueva investigación demuestra cómo es posible manipular el comportamiento de un modelo de lenguaje natural alterando el audio por el que la IA recibe instrucciones. Indetectable para el oÃdo humano, esa variación del audio consigue una tasa de éxito entre el 79 y el 96%. La IA, sobre la mesa de Trump y Xi: China y EEUU, ante un posible acuerdo para evitar que esta tecnologÃa cause conflictos Es lo que se conoce como prompt injection , instrucciones maliciosas que se esconden dentro de contenido aparentemente legal para manipular a la IA. Con ellas se pueden conseguir múltiples objetivos como robar datos confidenciales.
No es la primera vez que se ve una técnica asÃ, aunque sà con el uso de la voz. En octubre del año pasado , investigadores del navegador Brave documentaron un fallo similar en el que las instrucciones maliciosas se ocultaban en HTML no renderizado para forzar al asistente. La clave siempre está en ocultar esa instrucción a los ojos u oÃdos del usuario para que el asistente o herramienta de IA actúe como agente espÃa a sus espaldas. Brave alertaba del riesgo de poder extraer datos tan sensibles como la cuenta bancaria y claves si el usuario tiene sesión iniciada en la aplicación del banco.
Susurrando a la IA Los investigadores de este nuevo estudio pusieron a prueba este método de ataque con 13 modelos abiertos, algunos tan relevantes como los servicios de voz con IA de Microsoft y Mistral. El estudio no ha podido comprobar la eficacia de esta técnica con modelos cerrados como los de OpenAI o Anthropic, los más avanzados de la industria, por la escasa información pública que hay sobre sus respectivas arquitecturas. Los modelos hackeados eran persuadidos para realizar búsquedas web confidenciales, descargar archivos y enviar correos electrónicos con información del usuario.
Humanos ante la siglas de la inteligencia artificial MicroStockHub- iStock Omicrono “Solo se
Etiquetas: TecnologÃa · Ciberseguridad global
About the Author
