Los 12 principios fundamentales de la gobernanza de la IA

Los 12 principios esenciales de la gobernanza de la IA

Equilibrio entre Ética e Innovación: Una Introducción a los Principios Guía de la IA Responsable

Sarah, una experimentada desarrolladora de IA, se encontraba en una encrucijada moral. Un algoritmo podría maximizar la eficiencia pero a costa de la privacidad. El otro protege los datos personales pero carece de velocidad.

Si fueras Sarah, ¿qué algoritmo elegirías?

Estos tipos de decisiones se toman a diario. Sin embargo, rara vez nos detenemos a considerar marcos de pensamiento para tomar la decisión más informada.

• Reka AI presenta a Yasa-1 un asistente de lenguaje multimodal con sensores visuales y auditivos que puede tomar acciones mediante la ejecución de código.
• Investigadores de la Universidad Tsinghua y Microsoft presentan ToRA un agente de razonamiento integrado con herramientas de inteligencia artificial para la resolución de problemas matemáticos.
• ¿Cómo funciona el PPO con recorte?

La Necesidad de un Marco de Gobierno de la IA

La verdad es que tomar decisiones como estas requiere más que experiencia técnica; se necesita un marco para equilibrar eficiencia con consideraciones éticas. Aquí es donde entra en juego el Gobierno de la IA, ofreciendo pautas para reconciliar las prioridades competitivas de rendimiento y ética.

Los principios fundamentales del Gobierno de la IA no son solo construcciones teóricas; son guías prácticas que pueden ayudar a profesionales como Sarah a tomar decisiones informadas.

En las siguientes secciones, exploraremos los 12 Principios Fundamentales del Gobierno de la IA, mostrando cómo pueden ser instrumentales para resolver los dilemas complejos que caracterizan el panorama de la IA.

1. Responsabilidad

Los actores de la IA deben ser responsables del correcto funcionamiento de los sistemas de IA y del respeto de la ética y los principios de la IA, de acuerdo a sus roles, el contexto y en consonancia con el estado del arte.

La responsabilidad implica que deben existir mecanismos para identificar y mitigar sesgos, errores y consecuencias no deseadas, y asegurar que las responsabilidades legales y éticas estén claramente definidas y se cumplan.

La responsabilidad busca responder a la pregunta: ¿Quién debería ser responsable de las decisiones buenas (o malas) que toman los sistemas de IA?

2. Auditabilidad

Los sistemas de IA deben permitir a terceros interesados investigar, comprender y revisar el comportamiento del algoritmo a través de la divulgación de información que permita la supervisión, comprobación o crítica.

La auditabilidad implica que los sistemas de IA deben ser diseñados y operados de manera que permitan que se inspeccionen, evalúen y verifiquen sus decisiones, datos y operaciones por terceros independientes.

La auditabilidad busca responder a la pregunta: ¿Cómo podemos asegurarnos de que los sistemas de IA estén funcionando según lo previsto y cumplan con las pautas legales y éticas?

3. Explicabilidad

Los sistemas de IA deben ser diseñados de manera que tengamos la capacidad de evaluar los factores que llevaron a la decisión del sistema de IA, su comportamiento general, resultados e implicaciones

La explicabilidad implica que los mecanismos internos de los sistemas de IA y las relaciones entre los datos de entrada y las decisiones deben ser comprensibles.

La explicabilidad busca responder a la(s) pregunta(s): ¿Cuáles son los factores que influyen en la decisión del sistema de IA y cómo se utilizan en el proceso de toma de decisiones?

4. Imparcialidad

Los sistemas de IA deben estar diseñados para tratar a todas las personas y grupos de manera justa y no discriminar a cohortes específicas.

La equidad significa diseñar y operar sistemas de IA de manera imparcial, justa y equitativa, asegurando que las decisiones tomadas no favorezcan a un grupo sobre otro debido a sesgos, prejuicios o estereotipos.

La equidad pretende responder a la pregunta: ¿Cómo se diseñan los sistemas de IA para ser justos e imparciales con todas las personas y grupos?

5. Robustez

Los sistemas de IA deben ser resistentes a manipulaciones y funcionar de manera confiable y efectiva en circunstancias imprevistas

La robustez significa que los sistemas de IA deben ser construidos para resistir manipulaciones, asegurando que continúen operando de manera confiable y efectiva incluso en condiciones inesperadas y desafiantes.

La robustez pretende responder a la pregunta: ¿Qué tan resiliente es el sistema de IA frente a diferentes tipos de cambios y desafíos operativos y ambientales?

6. Seguridad

Los sistemas de IA y su infraestructura relacionada deben ser seguros contra ataques y capaces de mantener la confidencialidad, integridad y disponibilidad

La seguridad significa que los sistemas de IA y sus infraestructuras de apoyo están fortificadas contra diversas formas de ataques, asegurando la confidencialidad, integridad y disponibilidad de datos y sistemas.

La seguridad pretende responder a la pregunta: ¿Qué tan bien estamos protegiendo los sistemas e infraestructuras para resistir ataques y garantizar la confidencialidad, integridad y disponibilidad?

7. Seguridad

Los sistemas de IA deben ser diseñados para ser seguros y no causar daño (físico) a los seres humanos.

La seguridad significa que los sistemas de IA deben ser diseñados con un gran énfasis en el bienestar humano, asegurando que no representen riesgos ni causen daño físico a las personas.

La seguridad pretende responder a la pregunta: ¿Qué tan seguros y arriesgados son los sistemas de IA?

8. Transparencia

Los sistemas de IA y sus operadores deben asegurar que los procesos, decisiones e impactos de las aplicaciones de IA sean claros, comprensibles y accesibles para las partes afectadas y las partes interesadas.

La transparencia significa que hay apertura y claridad en compartir información sobre el diseño, operación y procesos de toma de decisiones del sistema de IA.

La transparencia pretende responder a la pregunta: ¿Hay información clara y accesible sobre el sistema de IA disponible para todas las partes interesadas?

9. Reproducibilidad

Los resultados de IA deben ser reproducibles; otras personas deberían poder replicar los resultados dados los mismos datos y condiciones.

La reproducibilidad significa que las decisiones y resultados de la IA pueden replicarse de manera consistente utilizando los mismos datos y condiciones.

La reproducibilidad pretende responder a la pregunta: ¿Pueden reproducirse las decisiones del sistema de IA en las mismas condiciones?

10. Agencia y supervisión humanas

Los sistemas de IA deben apoyar la autonomía humana y la toma de decisiones; los humanos deben tener la capacidad de intervenir, supervisar y tomar el control de los sistemas de IA.

La agencia y la supervisión humanas significan que la IA no debe socavar la autonomía humana y la capacidad de tomar decisiones, y los humanos deben mantener el control.

La agencia y la supervisión humanas buscan responder a la pregunta: ¿Hasta qué punto los humanos tienen control y la capacidad de intervenir en las decisiones del sistema de IA?

11. Privacidad y gobernanza de datos

Los sistemas de IA deben respetar la privacidad, la protección de datos y las normas de seguridad, garantizando que los datos individuales se manejen con la máxima integridad.

La privacidad y la gobernanza de datos significa que los datos personales están protegidos, y los sistemas se diseñan y operan de manera que respeten la privacidad individual.

La privacidad y la gobernanza de datos buscan responder a la pregunta: ¿Cómo garantiza el sistema de IA la protección de la privacidad y los datos individuales?

12. Crecimiento inclusivo, desarrollo sostenible y bienestar

Los sistemas de IA deben diseñarse para fomentar la prosperidad universal, la equidad y la salud ambiental, asegurando beneficios para todas las personas, sociedades y generaciones, al mismo tiempo que protegen el equilibrio ecológico.

El crecimiento inclusivo, desarrollo sostenible y bienestar significa que los sistemas de IA deben diseñarse e implementarse para beneficiar a todas las personas y comunidades, promoviendo la equidad, la sostenibilidad y el bienestar general.

El crecimiento inclusivo, desarrollo sostenible y bienestar buscan responder a la pregunta: ¿Cómo contribuye el sistema de IA al crecimiento económico equitativo, la sostenibilidad ambiental y el bienestar de las personas y comunidades?

Utilización de los principios de gobernanza de IA

¿Recuerdas a Sarah? La experimentada desarrolladora de IA que debe elegir entre dos algoritmos que priorizan la eficiencia o la privacidad.

Si Sarah conociese los principios fundamentales de la gobernanza de IA, elegiría el algoritmo que protege la privacidad de los usuarios, de acuerdo con el principio de Privacidad y gobernanza de datos.

Por supuesto, este escenario es un ejemplo sencillo donde los principios básicos de gobernanza de IA no están en conflicto entre sí. En realidad, los principios a menudo se entrecruzan y entran en conflicto.

Los conflictos entre los principios de gobernanza de IA no son una falla, sino una característica, que nos obliga a examinar, debatir y perfeccionar continuamente el papel de la IA en nuestra sociedad. Es en este espacio dinámico, donde los principios se encuentran con la práctica, donde se revela el valor real de la gobernanza de IA.

Conclusión: La importancia de los principios

En el desarrollo continuo de la IA, estos 12 principios fundamentales de gobernanza de IA sirven como elementos fundamentales, proporcionando dirección y claridad. Ayudan a garantizar que la IA se desarrolle y utilice en beneficio de todos, fomentando la innovación y mejorando el bienestar humano al mismo tiempo que se equilibran las demandas éticas.

En los próximos artículos, nos sumergiremos en cada uno de los principios fundamentales, dando vida a estudios de casos del mundo real y evaluando cómo diferentes organizaciones siguen (o violan) los principios fundamentales de gobernanza de IA.

Espero que hayas encontrado este artículo introductorio esclarecedor.

¡Saludos!

Reconocimientos & Referencias

• Marco de Gobernanza de IA Modelo de Singapur 2.0; AI Verify Foundation
• Principios de IA de la OCDE
• Comisión Europea, “Directrices Éticas para una IA de Confianza”, Estrategia Digital
• Iniciativa Global de IEEE sobre Ética de Sistemas Autónomos e Inteligentes
• Recomendación de la UNESCO sobre Ética de la Inteligencia Artificial

*Otros principios como la inclusividad, precisión, progresividad y centrado en el ser humano y el bienestar no se incluyen, ya que no se establecieron comúnmente entre varias fuentes.

Gracias por acompañarme en mi introducción a “The AI Governance Journal”. A medida que nos adentramos en los dominios de la gobernanza de IA, te invito a unirte a la conversación, desafiar el statu quo y promover una IA responsable. Para una comprensión holística, sígueme para obtener más artículos perspicaces sobre gobernanza de IA. Mantén la curiosidad y mantente informado.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!