Una agenda de políticas para el progreso responsable de la inteligencia artificial Oportunidad, Responsabilidad, Seguridad.

A policy agenda for responsible progress in artificial intelligence Opportunity, Responsibility, Security.

Hoy Google publica un libro blanco con sugerencias para una agenda de políticas para el progreso responsable de la IA.

Como dijo Sundar en el Google I/O de este mes, el crecimiento de la IA es un cambio tecnológico tan grande como hemos visto. Los avances en los modelos de IA de hoy no solo están creando nuevas formas de interactuar con la información, encontrar las palabras adecuadas o descubrir nuevos lugares, están ayudando a las personas a romper completamente nuevos terrenos científicos y tecnológicos.

Nos encontramos en el umbral de una nueva era, lo que nos permite reinventar las formas en que podemos mejorar significativamente la vida de miles de millones de personas, ayudar a las empresas a prosperar y crecer y apoyar a la sociedad en responder a nuestras preguntas más difíciles. Al mismo tiempo, todos debemos ser conscientes de que la IA conllevará riesgos y desafíos.

En este contexto, estamos comprometidos a avanzar con audacia, responsabilidad y en colaboración con otros.

• Casos de uso revolucionarios de IA en la industria logística
• Rastreador de Temas de GitHub | Web-Scraping con Python
• Cómo implementar la IA adaptativa en tu negocio.

Las demandas de detener los avances tecnológicos son poco probables de ser exitosas o efectivas, y corren el riesgo de perder los beneficios sustanciales de la IA y quedarse atrás de aquellos que aprovechan su potencial. En su lugar, necesitamos esfuerzos amplios, a través del gobierno, las empresas, las universidades y más, para ayudar a traducir los avances tecnológicos en beneficios generalizados, al tiempo que se mitigan los riesgos.

Cuando señalé la necesidad de una Agenda Compartida para el Progreso Responsable de la IA hace algunas semanas, dije que las prácticas individuales, los estándares de la industria compartidos y las políticas gubernamentales sólidas serían esenciales para hacer bien la IA. Hoy estamos lanzando un libro blanco con recomendaciones de políticas para la IA en el que alentamos a los gobiernos a centrarse en tres áreas clave: desbloquear oportunidades, promover la responsabilidad y mejorar la seguridad:

1. Desbloquear oportunidades maximizando la promesa económica de la IA

Las economías que adopten la IA verán un crecimiento significativo, superando a los competidores que son más lentos en la adopción. La IA ayudará a muchas industrias diferentes a producir productos y servicios más complejos y valiosos, y ayudará a aumentar la productividad a pesar de los crecientes desafíos demográficos. La IA también promete impulsar tanto a las pequeñas empresas que utilizan productos y servicios impulsados por la IA para innovar y crecer, como a los trabajadores que pueden centrarse en elementos no rutinarios y más gratificantes de sus trabajos.

Lo que se necesita para hacer esto bien: Para desbloquear la oportunidad económica que ofrece la IA y minimizar las interrupciones en la fuerza laboral, los responsables políticos deberían invertir en innovación y competitividad, promover marcos legales que respalden la innovación responsable de la IA y preparar a las fuerzas laborales para la transición laboral impulsada por la IA. Por ejemplo, los gobiernos deberían explorar la investigación básica en IA a través de laboratorios nacionales e instituciones de investigación, adoptar políticas que respalden el desarrollo responsable de la IA (incluidas las leyes de privacidad que protejan la información personal y permitan flujos de datos confiables a través de las fronteras nacionales), y promover la educación continua, programas de capacitación, el movimiento de talento clave a través de las fronteras y la investigación sobre el futuro en evolución del trabajo.

2. Promover la responsabilidad mientras se reducen los riesgos de mal uso

La IA ya está ayudando al mundo a enfrentar desafíos desde enfermedades hasta el cambio climático, y puede ser una fuerza poderosa para el progreso. Pero si no se desarrolla y se implementa de manera responsable, los sistemas de IA también podrían amplificar los problemas sociales actuales, como la desinformación, la discriminación y el mal uso de herramientas. Y sin confianza en los sistemas de IA, las empresas y los consumidores dudarán en adoptar la IA, limitando su oportunidad de capturar los beneficios de la IA.

Lo que se necesita para hacer esto bien: Abordar estos desafíos requerirá un enfoque de múltiples partes interesadas para la gobernanza. Aprendiendo de la experiencia de internet, las partes interesadas se sentarán a la mesa con una comprensión saludable tanto de los posibles beneficios como de los desafíos. Algunos desafíos requerirán investigación fundamental para comprender mejor los beneficios y riesgos de la IA, y cómo manejarlos, y desarrollar e implementar nuevas innovaciones técnicas en áreas como la interpretabilidad y el marcaje de agua. Otros se abordarán mejor mediante el desarrollo de estándares comunes y las mejores prácticas compartidas y una regulación proporcional basada en el riesgo para garantizar que las tecnologías de IA se desarrollen e implementen de manera responsable. Y otros pueden requerir nuevas organizaciones e instituciones. Por ejemplo, las empresas líderes podrían unirse para formar un Foro Global sobre IA (GFAI), basándose en ejemplos anteriores como el Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT). La alineación internacional también será esencial para desarrollar enfoques políticos comunes que reflejen los valores democráticos y eviten la fragmentación.

3. Mejorar la seguridad global mientras se evita que los actores malintencionados exploten esta tecnología

La IA tiene importantes implicaciones para la seguridad y la estabilidad globales. La IA generativa puede ayudar a crear (pero también identificar y rastrear) información errónea y desinformación y medios manipulados. La investigación de seguridad basada en IA está impulsando una nueva generación de defensas cibernéticas a través de operaciones de seguridad avanzadas e inteligencia de amenazas, mientras que los exploits generados por IA también pueden permitir ataques cibernéticos más sofisticados por parte de los adversarios.

Lo que se necesita para hacer esto bien: El primer paso es establecer protecciones técnicas y comerciales para evitar el uso malintencionado de la IA y trabajar colectivamente para abordar a los actores malintencionados, al tiempo que se maximizan los beneficios potenciales de la IA. Por ejemplo, los gobiernos deberían explorar políticas de control comercial de próxima generación para aplicaciones específicas de software impulsado por IA que se consideren riesgos de seguridad, y en entidades específicas que brinden apoyo a la investigación y el desarrollo relacionados con la IA de maneras que puedan amenazar la seguridad global. Los gobiernos, la academia, la sociedad civil y las empresas también necesitan una mejor comprensión de las implicaciones de los sistemas de IA cada vez más poderosos y complejos, y cómo podemos alinear la IA sofisticada y compleja con los valores humanos. Al final del día, la seguridad es un deporte de equipo y el progreso en este espacio requerirá cooperación en forma de investigación conjunta, adopción de gobernanza de datos de primera clase, foros público-privados para compartir información sobre vulnerabilidades de seguridad de IA y más.

Pensamientos finales

Con un pleno reconocimiento de los posibles desafíos, estamos seguros de que una agenda política centrada en los pilares fundamentales de oportunidad, responsabilidad y seguridad puede desbloquear los beneficios de la inteligencia artificial y asegurar que dichos beneficios sean compartidos por todos.

Como ya hemos dicho anteriormente, la inteligencia artificial es demasiado importante para no regularla, y es demasiado importante no regularla bien. Desde el marco de verificación de inteligencia artificial de Singapur hasta el enfoque pro-innovación de la regulación de inteligencia artificial del Reino Unido y el marco de gestión de riesgos de inteligencia artificial del Instituto Nacional de Estándares y Tecnología de los Estados Unidos, nos alienta ver a los gobiernos de todo el mundo abordando seriamente los marcos políticos adecuados para estas nuevas tecnologías, y esperamos poder apoyar sus esfuerzos.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!