Por: Ales Holecek, arquitecto jefe y vicepresidente corporativo de Microsoft Security. Estamos en un punto de inflexión en ciberseguridad. Los avances recientes en las capacidades de los modelos de IA han comenzado a cambiar la manera en que se descubren y explotan las vulnerabilidades. Los modelos de IA pueden descubrir de manera autónoma debilidades, encadenar múltiples problemas de menor gravedad en exploits de extremo a extremo y producir código de prueba de concepto funcional. Esto comprime de manera significativa la ventana entre el descubrimiento y la explotación de vulnerabilidades.
Estos cambios obligan a las organizaciones a replantearse la exposición, la respuesta y el riesgo. Sin embargo, las mismas capacidades que pueden dar ventaja a los atacantes también crean una oportunidad única para los defensores. Cuando se aplican de manera correcta, pueden acelerar la detección de vulnerabilidades, mejorar la ingeniería de detección y reducir el tiempo de mitigación. Esperamos trabajar juntos como industria para utilizar estas capacidades de modelos de IA como parte de soluciones empresariales que inclinen la balanza a favor de los defensores.
Colaboración con proveedores líderes de modelos La seguridad ha sido y sigue como la máxima prioridad en Microsoft. En los últimos dos años, a través de nuestra Iniciativa Futuro Seguro (SFI, por sus siglas en inglés), hemos reforzado nuestras bases de seguridad para esta era de la IA, en parte a través de utilizar la IA para acelerar el descubrimiento y la remediación de vulnerabilidades y ayudar a defendernos de amenazas. También hemos invertido en IA fundamental para la investigación en seguridad, incluido el desarrollo de benchmarks industriales de código abierto que puedan utilizarse para evaluar si los modelos están preparados para trabajos reales de seguridad.
A medida que avanzamos, aceleramos este trabajo y colaboramos con la industria para utilizar modelos líderes, junto con nuestras plataformas y experiencia, para convertir el descubrimiento impulsado por IA en protección a gran escala. A través del Proyecto Glasswing , Microsoft trabaja de manera estrecha con socios de Anthropic e industria para probar Claude Mythos Preview, identificar y mitigar vulnerabilidades antes y coordinar la respuesta defensiva. Evaluamos Mythos por medio de CTI-REALM , nuestro benchmark de código abierto para tareas reales de ingeniería de detección, y los resultados mostraron mejoras sustanciales en comparación con modelos anteriores.
Microsoft también evalúa otros modelos. Como parte de nuestro enfoque general de seguridad, evaluamos de manera continua modelos de múltiples proveedores a medida que están disponibles y los integramos en nuestra plataforma de seguridad de nivel empresarial. Este enfoque multimodelo es intencionado, ya que ningún modelo único define nuestra estrategia. Actuar en tres áreas fundamentales Los defensores deben moverse más rápido para mantenerse al ritmo de las amenazas impulsadas por la IA. Nos centramos en tres áreas para ayudar a los clientes a reducir riesgos y mejorar la resiliencia. 1.
Descubrimiento y mitigación de vulnerabilidades liderados por IA para mantenernos actualizados en el software Planeamos incorporar modelos avanzados de IA, como Claude Mythos Preview, directo en nuestro Ciclo de Vida de Desarrollo de Seguridad (SDL, por sus siglas en inglés) para identificar vulnerabilidades y desarrollar mitigaciones y actualizaciones. Esto nos permite descubrir más problemas más rápido en una superficie más amplia que métodos anteriores y abordarlos más temprano en el ciclo de vida.
Los descubrimientos asistidos por IA se gestionan a través de nuestros procesos existentes del Centro de Respuesta de Seguridad de Microsoft (MSRC, por sus siglas en inglés), incluido el Update Tuesday—nuestra manera predecible y sistemática de distribuir actualizaciones a los clientes—y actualizaciones fuera de banda, cuando corresponde. Los clientes que utilizan la plataforma Microsoft como servicio (PaaS, por sus siglas en inglés) y los servicios de software como servicio (SaaS, por sus siglas en inglés) no necesitan tomar ninguna acción; las mitigaciones y actualizaciones se aplican en automático.
Para los clientes que despliegan productos de Microsoft en su propia infraestructura, ya sea local o autoalojado, mantenerse al día con todas las actualizaciones de seguridad ya no solo es la mejor práctica; es un requisito fundamental para mantenerse seguros frente a la exposición a la IA. Desplegaremos las detecciones en Microsoft Defender , nuestra solución de protección contra amenazas, cuando se publiquen actualizaciones y compartiremos detalles a través de los socios del Programa de Protecciones Activas de Microsoft (MAPP, por sus siglas en inglés) para ayudar a mitigar riesgos.
También utilizamos modelos avanzados de IA para escanear de manera proactiva bases de código de código abierto seleccionadas. Los problemas identificados se abordarán mediante una divulgación coordinada de vulnerabilidades. 2. Postura lista para IA para reducir la exposición El parcheo, aunque crítico, no es suficiente por sí solo.
Etiquetas: Tecnología, ciberseguridad, inteligencia artificial, Microsoft, vulnerabilidades, Claude Mythos, Tecnología · IA general
About the Author
