Explorando instituciones para la gobernanza global de la IA

Exploring institutions for global AI governance

Nuevo informe técnico investiga modelos y funciones de instituciones internacionales que podrían ayudar a gestionar oportunidades y mitigar riesgos de la IA avanzada

La creciente conciencia del impacto global de la inteligencia artificial avanzada (IA) ha inspirado discusiones públicas sobre la necesidad de estructuras de gobernanza internacional para ayudar a gestionar las oportunidades y mitigar los riesgos involucrados.

Muchas de estas discusiones se han basado en analogías con la OACI (Organización de Aviación Civil Internacional) en la aviación civil; el CERN (Organización Europea para la Investigación Nuclear) en la física de partículas; el OIEA (Organismo Internacional de Energía Atómica) en la tecnología nuclear; y organizaciones intergubernamentales y multiactor en muchos otros ámbitos. Y sin embargo, aunque las analogías pueden ser un buen punto de partida, las tecnologías emergentes de la IA serán diferentes a la aviación, la física de partículas o la tecnología nuclear.

Para tener éxito en la gobernanza de la IA, necesitamos comprender mejor:

1. Qué beneficios y riesgos específicos debemos gestionar a nivel internacional.
2. Qué funciones de gobernanza requieren estos beneficios y riesgos.
3. Qué organizaciones pueden proporcionar mejor estas funciones.

Nuestro último informe, realizado en colaboración con la Universidad de Oxford, la Université de Montréal, la Universidad de Toronto, la Universidad de Columbia, la Universidad de Harvard, la Universidad de Stanford y OpenAI, aborda estas preguntas e investiga cómo las instituciones internacionales podrían ayudar a gestionar el impacto global del desarrollo de la IA de vanguardia y garantizar que los beneficios de la IA lleguen a todas las comunidades.

• Med-PaLM 2 de Google será la IA médica más avanzada
• ¿Por qué DuckDB se está volviendo popular?
• Talmo Pereira sobre el poder de la herramienta de IA SLEAP para estudios biológicos y neurológicos

El papel crítico de las instituciones internacionales y multilaterales

El acceso a ciertas tecnologías de IA podría mejorar considerablemente la prosperidad y la estabilidad, pero los beneficios de estas tecnologías pueden no estar distribuidos de manera equitativa o enfocados en las mayores necesidades de las comunidades subrepresentadas o del mundo en desarrollo. El acceso insuficiente a servicios de internet, potencia informática o disponibilidad de capacitación o experiencia en aprendizaje automático también puede impedir que ciertos grupos se beneficien plenamente de los avances en IA.

Las colaboraciones internacionales podrían ayudar a abordar estos problemas al alentar a las organizaciones a desarrollar sistemas y aplicaciones que satisfagan las necesidades de las comunidades desatendidas y al mejorar la educación, la infraestructura y los obstáculos económicos para que estas comunidades aprovechen al máximo la tecnología de IA.

Además, los esfuerzos internacionales pueden ser necesarios para gestionar los riesgos que plantean las capacidades poderosas de la IA. Sin salvaguardias adecuadas, algunas de estas capacidades, como el desarrollo de software automatizado, la investigación en química y biología sintética y la generación de texto y video, podrían ser utilizadas de manera perjudicial. Los sistemas de IA avanzada también pueden fallar de formas difíciles de anticipar, creando riesgos de accidentes con consecuencias potencialmente internacionales si la tecnología no se despliega de manera responsable.

Las instituciones internacionales y multilaterales podrían ayudar a avanzar en el desarrollo de la IA y en los protocolos de implementación que minimicen tales riesgos. Por ejemplo, podrían facilitar un consenso global sobre las amenazas que diferentes capacidades de IA plantean a la sociedad y establecer estándares internacionales en torno a la identificación y el tratamiento de modelos con capacidades peligrosas. Las colaboraciones internacionales en investigación de seguridad también mejorarían nuestra capacidad para hacer que los sistemas sean confiables y resistentes al uso indebido.

Por último, en situaciones en las que los estados tienen incentivos (por ejemplo, derivados de la competencia económica) para socavar los compromisos regulatorios de otros, las instituciones internacionales pueden ayudar a respaldar e incentivar las mejores prácticas e incluso monitorear el cumplimiento de los estándares.

Cuatro posibles modelos institucionales

Exploramos cuatro modelos institucionales complementarios para apoyar la coordinación global y las funciones de gobernanza:

• Una Comisión sobre IA de Vanguardia intergubernamental podría establecer un consenso internacional sobre las oportunidades y los riesgos de los sistemas de IA avanzada y cómo se pueden gestionar. Esto aumentaría la conciencia pública y la comprensión de las perspectivas y problemas de la IA, contribuiría a un enfoque científicamente informado del uso de la IA y la mitigación de riesgos, y sería una fuente de experiencia para los responsables de la formulación de políticas.
• Una Organización de Gobernanza de IA Avanzada intergubernamental o multiactor podría ayudar a internacionalizar y alinear los esfuerzos para abordar los riesgos globales de los sistemas de IA avanzada mediante el establecimiento de normas y estándares de gobernanza y ayudando en su implementación. También podría desempeñar funciones de monitoreo del cumplimiento para cualquier régimen de gobernanza internacional.
• Una Colaboración de IA de Vanguardia podría promover el acceso a la IA avanzada como una asociación público-privada internacional. De esta manera, ayudaría a las sociedades desatendidas a beneficiarse de la tecnología de IA de vanguardia y promovería el acceso internacional a la tecnología de IA para objetivos de seguridad y gobernanza.
• Un Proyecto de Seguridad de IA podría reunir a investigadores e ingenieros líderes y proporcionarles acceso a recursos informáticos y modelos de IA avanzados para investigar mitigaciones técnicas de los riesgos de la IA. Esto promovería la investigación y desarrollo de seguridad de la IA al aumentar su escala, recursos y coordinación.

Desafíos operativos

Muchas preguntas importantes siguen sin respuesta en torno a la viabilidad de estos modelos institucionales. Por ejemplo, una Comisión de IA Avanzada enfrentará desafíos científicos significativos dados la extrema incertidumbre sobre las trayectorias y capacidades de la IA y la limitada investigación científica sobre temas de IA avanzada hasta la fecha.

El rápido avance de la IA y la capacidad limitada en el sector público en temas de IA fronteriza también podrían dificultar que una Organización de Gobernanza de IA Avanzada establezca estándares que se mantengan al día con el panorama de riesgos. Las muchas dificultades de coordinación internacional plantean preguntas sobre cómo se incentivarán los países a adoptar sus estándares o aceptar su monitoreo.

De la misma manera, los numerosos obstáculos para que las sociedades aprovechen al máximo los beneficios de los sistemas de IA avanzada (y otras tecnologías) pueden impedir que una Colaboración de IA Fronteriza optimice su impacto. También puede haber una tensión difícil de gestionar entre compartir los beneficios de la IA y prevenir la proliferación de sistemas peligrosos.

Y para el Proyecto de Seguridad de IA, será importante considerar cuidadosamente qué elementos de la investigación de seguridad se deben llevar a cabo a través de colaboraciones versus los esfuerzos individuales de las empresas. Además, un Proyecto podría enfrentar dificultades para acceder adecuadamente a los modelos más capaces para llevar a cabo investigaciones de seguridad de todos los desarrolladores relevantes.

Dadas las inmensas oportunidades y desafíos globales que presentan los sistemas de IA en el horizonte, es necesario un mayor debate entre los gobiernos y otras partes interesadas sobre el papel de las instituciones internacionales y cómo sus funciones pueden promover la gobernanza y coordinación de la IA.

Esperamos que esta investigación contribuya a las crecientes conversaciones dentro de la comunidad internacional sobre formas de garantizar que la IA avanzada se desarrolle en beneficio de la humanidad.

Lea nuestro artículo: https://arxiv.org/abs/2307.04699

We will continue to update Zepes; if you have any questions or suggestions, please contact us!