Regs necesarias para la IA de alto riesgo, dice ACM Es el Viejo Oeste

ACM dice que se necesitan regs para la IA de alto riesgo, es el Viejo Oeste

La probabilidad de que la IA se descontrole y perjudique a las personas ha aumentado considerablemente gracias a la explosión en el uso de tecnologías de IA generativa, como ChatGPT. Esto, a su vez, está haciendo necesario regular ciertos casos de uso de IA de alto riesgo en Estados Unidos, según los autores de un nuevo artículo de la Asociación de Maquinaria Computacional (ACM, por sus siglas en inglés) la semana pasada.

Usar una tecnología como ChatGPT para escribir un poema o para redactar un lenguaje de sonido fluido cuando conoces bien el contenido y puedes verificar los resultados tú mismo es una cosa, dijo Jeanna Matthews, una de las autoras del nuevo artículo del Consejo de Política Tecnológica de la ACM, titulado “Principios para el desarrollo, implementación y uso de tecnologías de IA generativa”.

“Es completamente diferente esperar que la información que encuentres allí sea precisa en una situación en la que no eres capaz de verificar los errores por ti mismo”, dijo Matthews. “Esos son dos casos de uso muy diferentes. Y lo que estamos diciendo es que debería haber límites y orientación en las implementaciones y el uso. ‘Es seguro usar esto para este propósito. No es seguro usarlo para este propósito'”.

El nuevo artículo de la ACM, al que se puede acceder aquí, establece ocho principios que recomienda a los usuarios seguir al crear sistemas de IA. Los primeros cuatro principios, relacionados con la transparencia; la auditabilidad y la impugnabilidad; la limitación del impacto ambiental; y la seguridad y la política incrementadas, se tomaron prestados de un artículo anterior publicado en octubre de 2022.

• La Huella de Carbono de la Inteligencia Artificial
• La modelación en 3D se basa en la inteligencia artificial
• Algoritmo para la detección y movimiento robótico

Desde Datanami Ver artículo completo

We will continue to update Zepes; if you have any questions or suggestions, please contact us!