El lanzamiento de Fable, el nuevo modelo público de Anthropic enfocado en ciberseguridad, ha generado un debate en la industria. La empresa busca evitar usos maliciosos, pero expertos señalan que las restricciones son tan amplias que también bloquean tareas legítimas y rutinarias.
Anthropic presentó Fable como una versión pública y limitada de Mythos, su modelo más avanzado para ciberseguridad. Investigadores y profesionales del sector afirman que Fable rechaza incluso tareas inocuas, como revisar código o leer un blog técnico. La compañía también exige aplicar a un programa de verificación para obtener menos limitaciones en trabajos de
Investigadores afirman que Fable bloquea incluso tareas legítimas como revisar código o leer blogs técnicos. La empresa busca evitar abusos, pero expertos advierten que su enfoque puede afectar negativamente la eficacia en ciberseguridad.
Fable fue diseñado con barreras específicas para reducir el riesgo de que el modelo pueda utilizarse en el desarrollo de malware o para comprometer software. La empresa también incorporó restricciones relacionadas con biología, debido a preocupaciones sobre la posible creación de armas biológicas con ayuda de sistemas de inteligencia artificial avanzados.
El problema, según varias voces del sector, es que esas salvaguardas no solo frenan pedidos potencialmente peligrosos, sino también solicitudes legítimas y de bajo riesgo. Esto ha reavivado un debate en la industria de la IA: hasta qué punto un modelo puede ser útil para profesionales de
Valentina “Chompie” Palmiotti, investigadora de
Matt Suiche, veterano del sector y miembro del personal técnico en la startup de ciberseguridad basada en IA Tolmo, también criticó el funcionamiento del modelo. Según explicó, “si le pides que escriba código seguro, asume que es un trabajo relacionado con la ciberseguridad en lugar de buenas prácticas de ingeniería de software, y te degradan”.
En lugar de responder con Fable, el sistema detiene la conversación y muestra una advertencia indicando que sus “medidas de.
Etiquetas: Anthropic, Fable, ciberseguridad, Mythos, IA, seguridad informática, Tecnología · Ciberseguridad global
About the Author
