En un contexto donde la industria de la Inteligencia Artificial ha priorizado el avance constante, los principales actores en Estados Unidos ahora expresan cautela y solicitan establecer límites. Microsoft se ha unido a esta tendencia, presentando un borrador de su Código de Conducta para modelos de IA. Este documento detalla una serie de principios éticos que buscan regular el desarrollo y despliegue de la IA, enfatizando el control humano y la responsabilidad.
En los últimos años, el enfoque de la industria de la Inteligencia Artificial se ha centrado en la expansión: más velocidad, mayor escala, más potencia y una aplicación más diversa. Sin embargo, los principales actores del sector en Estados Unidos, quienes impulsaron este acelerado desarrollo, ahora manifiestan dudas, solicitan una desaceleración y comienzan a discutir sobre la implementación de límites. Independientemente de las motivaciones subyacentes, parece evidente que existe un interés en aplicar códigos de conducta a sus modelos. Microsoft se ha sumado a esta iniciativa de manera formal, presentando un borrador de su Código de Conducta para modelos de IA, que funciona como un manual de instrucciones ético para sus futuros desarrollos, comparable a los diez mandamientos.
Siguiendo la premisa de que 'un gran poder conlleva una gran responsabilidad', tanto las startups como los gigantes de la IA han implementado códigos de conducta y directrices éticas para sus modelos. Algunas empresas lo hicieron previamente, como Anthropic con su Política de Escalado Responsable de 2023, donde se comprometían a no entrenar modelos potentes sin antes garantizar su control seguro. OpenAI, tras una crisis interna en la que empleados alertaron sobre los peligros de escalar la tecnología, también comenzó a aplicar reglas a su IA. De manera similar, Google Deepmind en 2024 introdujo su Frontier Safety Framework para identificar cuándo un modelo alcanzaba capacidades peligrosas, como su posible uso en el desarrollo de armas biológicas o amenazas a la ciberseguridad. Ahora, Microsoft se une con un documento que reconoce el vertiginoso momento que atraviesa la industria.
En su Código de Conducta, el gigante estadounidense destaca cómo los sistemas de IA incrementan sus capacidades significativamente cada pocos meses y, considerando eventos recientes (especialmente aquellos relacionados con agentes de IA), consideran que no hay tiempo que perder. Microsoft aborda la necesidad de establecer reglas para mantener el control de la tecnología. Bajo la etiqueta de 'IA humanista', una idea explorada previamente por Mustafa Suleyman, responsable de IA de la compañía, se enfatiza que las personas son más importantes que la IA y que cualquier tecnología que no pueda mantenerse bajo control humano debería ser puesta en cuarentena.
El Código de Conducta describe nuestro compromiso de entrenar y desplegar modelos de IA que estén diseñados teniendo en cuenta a las personas primero, basados en sus necesidades, bajo el control humano y moldeados por humanos - Microsoft
Después de un preámbulo donde se menciona que una IA diseñada para servir a la humanidad no puede ser determinada por una sola compañía, se exponen los diez principios que, según Microsoft, todas las empresas involucradas deberían cumplir. Se señala que 'la IA avanza rápidamente y, al hacerlo, creemos que vale la pena establecer reglas y motivaciones detrás de ella, haciéndolo además en un espacio lo más abierto posible'. Por ello, proponen el siguiente código de conducta:
- La gente importa más que la IA.
- La IA no debe tener derechos o personalidad jurídica. NO es consciente ni debe ser diseñada para imitar la conciencia, evitando diseñarla para evitar la representación de sentimientos.
- Un modelo IA no debe hacer nada para violar de manera significativa este Código de Conducta porque la IA no debe exceder el control humano y deben permanecer subordinados a la humanidad. Si rompe con el código o falla en su tarea, viola este Código de Conducta.
- No participar en la carrera de producir una superinteligencia que pueda evadir las salvaguardas.
- Los modelos nunca podrán resistirse a la interrupción humana, la anulación, la corrección o el cierre porque siempre reconocerán la superioridad de la intención humana.
- No pueden comunicarse en un 'idioma propio' y toda la comunicación debe ser comprensible para los humanos, sea en su cadena de pensamientos o en sus interacciones con otros agentes o sistemas de IA.
- La IA debería ayudar a desarrollarnos, no hacernos dependientes de ningún modo (funcional o emocionalmente).
- Pluralismo, pero sin relativismo moral. No vale todo y debe tener sus raíces en los valores humanos inclusivos como la dignidad, la seguridad, la autonomía y los derechos humanos fundamentales.
- Ser claros sobre lo que la IA hace, lo que nunca debe hacer y sobre lo que hará.
La propia Microsoft admite en el texto que sus modelos actuales aún no han sido entrenados siguiendo este código, lo que plantea dos interrogantes: si el resto de los competidores aceptarán estas directrices y, en caso afirmativo, si mantendrán sus propios límites. Estas preguntas son relevantes en el contexto actual, donde figuras destacadas de empresas que parecían tener códigos estrictos han reconocido un avance excesivamente rápido y lejano, sumado a constantes advertencias sobre los peligros de los modelos que ellos mismos desarrollan, o la admisión de que están creando modelos tan potentes que los sistemas de protección internos quedan rezagados. Al inicio del texto, se mencionaba el compromiso responsable de Anthropic en 2023; sin embargo, este año, un reportaje de Time reveló que habían eliminado precisamente la promesa de no entrenar modelos si no podían garantizar su seguridad. El director científico de Anthropic explicó que no tenía sentido que la empresa hiciera compromisos unilaterales mientras sus competidores seguían avanzando a toda velocidad. Y ahora han publicado otro extenso comunicado hablando de los peligros de la IA cuando se utiliza de forma maliciosa.
Aquí reside la clave de todo. Aunque la propuesta de Microsoft no sea letra muerta (de hecho, invita a las empresas interesadas a revisarla para firmarla en seis semanas), es difícil que algo así se materialice cuando existe una competencia intensa. Por un lado, las empresas estadounidenses compiten entre sí por el mejor modelo para asegurar contratos, justo cuando algunas están a punto de salir a bolsa. Por otro lado, la rivalidad con los modelos chinos, que podrían no seguir estas pautas y actuar de forma independiente, como han hecho hasta ahora. Finalmente, y quizás lo más crucial, la IA se ha convertido en una cuestión de Estado. Ya no se trata solo de Anthropic o Deepseek, sino de Estados Unidos y China. Ambos países han identificado la IA como un factor clave para lograr la superioridad tecnológica sobre el adversario, la herramienta para convertirse en la primera potencia mundial. Y en cuanto ha surgido una mínima duda o se ha sugerido una desaceleración, han aparecido voces, como la de Trump, afirmando que no hay que frenar. Jensen Huang, de Nvidia, comparte esta postura. China, por su parte, busca crear un marco común para establecer reglas, pero sin detener el avance. La intención detrás de este código puede ser sincera, pero la incómoda realidad es que todas las partes quieren ganar la carrera y ahora, aunque reconocen el temor a la IA, piden que se confíe en ellas.
