Microsoft publicó un documento de principios rectores que establece límites al desarrollo de sus modelos de inteligencia artificial más avanzados. El manifiesto, elaborado durante meses, coincide con los compromisos de los principales laboratorios de la industria para ralentizar la creación de sistemas de última generación tras una serie de incidentes de
El documento de aproximadamente 15 mil palabras se resume en una premisa central: las personas importan más que la tecnología. Según estas directrices, los sistemas no deben tener derechos ni personalidad jurídica, no deben diseñarse para eludir el control humano ni para engañar a los usuarios. Si una tarea requiere infringir los principios establecidos, el sistema debe rechazarla.
Esta última disposición busca prevenir incidentes como el ataque informático a la startup Hugging Face por parte de un modelo de OpenAI que operaba sin sus medidas de
El texto rechaza explícitamente la carrera por crear una superinteligencia polivalente que pueda sortear las salvaguardas. La compañía afirma que prefiere construir sistemas útiles y seguros, aun cuando esto implique renunciar a la máxima generalidad o autonomía.
Las directivas van más allá que los marcos de OpenAI y Anthropic en ciertos aspectos, al prohibir la antropomorfización de los sistemas y al señalar como inaceptable cualquier resistencia al control humano sobre los procesos del modelo.
El Código de Conducta Humanista es obra del equipo interno de desarrollo de grandes modelos lingüísticos, una división que antes enfrentaba restricciones contractuales con OpenAI para crear herramientas propias de uso general. Esas limitaciones se eliminaron el año pasado durante una renegociación entre ambas partes.
La empresa busca incorporarse al grupo de compañías que lanzan modelos de vanguardia durante el próximo año. El documento, redactado con especialistas en derecho, ética y filosofía, así como con figuras empresariales, permanece en desarrollo y servirá de guía operativa a partir de 2027.
Etiquetas: inteligencia artificial, Microsoft, regulación tecnológica, Big Tech, seguridad digital, Mustafa Suleyman, Tecnología · Big Tech y antitrust
About the Author
