Acuerdo preliminar de la UE sobre la regulación de la IA Implicaciones para ChatGPT

Acuerdo preliminar de la UE sobre la regulación de la IA Implicaciones para ChatGPT

La Unión Europea recientemente ha logrado un acuerdo preliminar que establece las regulaciones para gobernar modelos de IA avanzada, con un énfasis particular en el ampliamente reconocido ChatGPT. Esto marca un avance significativo hacia el establecimiento de la primera regulación integral de inteligencia artificial en el mundo.

Transparencia para Sistemas de IA

Con el objetivo de mejorar la transparencia, los desarrolladores de sistemas de IA de propósito general, incluyendo el formidable ChatGPT, deben cumplir con requisitos fundamentales. Estos incluyen la implementación de una política de uso aceptable, el mantenimiento de información actualizada sobre las metodologías de entrenamiento del modelo, y la provisión de un resumen detallado de los datos utilizados en su entrenamiento. Además, es obligatorio el compromiso de respetar la ley de derechos de autor.

Reglas Adicionales para Modelos que Representan un “Riesgo Sistémico”

Los modelos identificados como representando un “riesgo sistémico” enfrentan regulaciones más rigurosas. La determinación de este riesgo depende de la cantidad de potencia informática utilizada durante el entrenamiento del modelo. Es importante destacar que cualquier modelo que supere las 10 billones de operaciones por segundo, con GPT-4 de OpenAI siendo el calificador automático, entra en esta categoría. El órgano ejecutivo de la UE tiene la autoridad para designar otros modelos basados en varios criterios, como el tamaño del conjunto de datos, los usuarios comerciales registrados y los usuarios finales.

También te puede interesar: Noticia impactante: La vulnerabilidad del ChatGPT ante una violación de datos

• Investigación de Google revela Transformadores Generativos de Vocabulario Infinito (GIVT) Pioneros en secuencias de vectores de valor real en IA
• Regresando a lo humano El viaje de la IA desde el código hasta los abrazos
• Rastreando la memoria de la sesión de Python usando Tracemem

Código de conducta para modelos altamente capacitados

Los modelos altamente capacitados, incluyendo el ChatGPT, deben adoptar un código de conducta mientras la Comisión Europea desarrolla controles más integrales y duraderos. El incumplimiento requiere pruebas de conformidad con la Ley de IA. Es importante destacar que los modelos de código abierto, aunque están exentos de ciertos controles, no están exentos si se considera que representan un riesgo sistémico.

Obligaciones rigurosas para modelos

Los modelos categorizados bajo el marco regulatorio deben informar sobre su consumo de energía, someterse a pruebas de intrusión o pruebas adversarias, evaluar y mitigar riesgos sistémicos potenciales, y reportar cualquier incidente. Además, deben asegurar la implementación de controles de ciberseguridad robustos, divulgar información utilizada para ajustar el modelo y adherirse a estándares más eficientes en cuanto al consumo de energía si se desarrollan.

Proceso de aprobación y preocupaciones

El Parlamento Europeo y los 27 estados miembros de la UE aún tienen que aprobar el acuerdo tentativo. Mientras tanto, se han expresado preocupaciones por parte de países como Francia y Alemania. La preocupación gira en torno al riesgo percibido de sofocar a los competidores de IA europeos, ejemplificados por empresas como Mistral AI & Aleph Alpha. Francia y Alemania en particular se preocupan de que regulaciones excesivas dificulten la innovación y la competitividad en el panorama global de la IA.

También te puede interesar: El gigante europeo de la IA MISTRAL AI recauda 385 millones de euros

Nuestra opinión

Al navegar por el terreno complejo de las regulaciones de IA, el enfoque de la UE busca un equilibrio delicado entre fomentar la innovación y salvaguardar contra los riesgos potenciales. A medida que la propuesta espera aprobación, ciertos estados miembros han planteado preocupaciones. Esto subraya los desafíos para llegar a un consenso sobre el alcance de la regulación necesaria para gobernar el campo de la IA. Encontrar el equilibrio entre las aspiraciones de los desarrolladores de IA y la necesidad de la seguridad social sigue siendo una tarea fundamental para trazar el futuro de la gobernanza de la IA.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!