NVIDIA brinda apoyo a los esfuerzos de Washington para garantizar la seguridad de la inteligencia artificial

NVIDIA apoya la seguridad de la inteligencia artificial en Washington

En un evento en la Casa Blanca hoy, NVIDIA anunció su apoyo a compromisos voluntarios que la Administración Biden desarrolló para garantizar que los sistemas de inteligencia artificial avanzada sean seguros, seguros y confiables.

La noticia llegó el mismo día en que el científico jefe de NVIDIA, Bill Dally, testificó ante un subcomité del Senado de Estados Unidos buscando aportes sobre una posible legislación que cubra la inteligencia artificial generativa. Por separado, el fundador y CEO de NVIDIA, Jensen Huang, se unirá a otros líderes de la industria en una reunión a puerta cerrada sobre IA el miércoles con el Senado completo.

Siete empresas, incluyendo Adobe, IBM, Palantir y Salesforce, se unieron a NVIDIA en apoyo a los ocho acuerdos que la administración Biden-Harris publicó en julio con el respaldo de Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI.

Los compromisos están diseñados para avanzar en estándares comunes y mejores prácticas para garantizar la seguridad de los sistemas de inteligencia artificial generativa hasta que se establezcan regulaciones, dijo la Casa Blanca. Incluyen:

• Un Enfoque Más Suave hacia la Robótica
• Investigadores descubren miles de nudos transformables
• Un caso que rima con Microsoft

• Probar la seguridad y capacidades de los productos de inteligencia artificial antes de implementarlos,
• Proteger los modelos de inteligencia artificial contra amenazas cibernéticas y de insiders, y
• Utilizar la inteligencia artificial para ayudar a enfrentar los mayores desafíos de la sociedad, desde el cáncer hasta el cambio climático.

Dally Comparte la Experiencia de NVIDIA

En su testimonio, Dally le dijo al subcomité del Senado que el gobierno y la industria deberían equilibrar el fomento de la innovación en la inteligencia artificial con la garantía de que los modelos se implementen de manera responsable.

La audiencia del subcomité, “Supervisión de la IA: Reglas para la Inteligencia Artificial”, es una de las acciones que los legisladores de todo el mundo están tomando para identificar y abordar los posibles riesgos de la inteligencia artificial generativa.

A principios de este año, el subcomité escuchó testimonios de líderes de Anthropic, IBM y OpenAI, así como de académicos como Yoshua Bengio, profesor de la Universidad de Montreal considerado uno de los padres fundadores de la IA.

Dally, quien lidera un equipo global de más de 300 en NVIDIA Research, compartió la mesa de testigos el martes con Brad Smith, presidente y vicepresidente de Microsoft. El testimonio de Dally resumió brevemente el papel único de NVIDIA en la evolución de la IA en las últimas dos décadas.

Cómo la Computación Acelerada Desató la IA

Describió cómo NVIDIA inventó la GPU en 1999 como una unidad de procesamiento gráfico, y luego la adaptó para un papel más amplio en el procesamiento paralelo en 2006 con el software de programación CUDA. Con el tiempo, los desarrolladores en diversos campos científicos y técnicos descubrieron que esta nueva forma de computación acelerada podría avanzar significativamente en su trabajo.

En el camino, los investigadores descubrieron que las GPU también eran adecuadas para las redes neuronales de la IA, ya que requieren un procesamiento paralelo masivo.

En 2012, el modelo AlexNet, entrenado en dos GPU de NVIDIA, demostró capacidades similares a las humanas en el reconocimiento de imágenes. Ese resultado ayudó a impulsar una década de avances rápidos utilizando las GPU, lo que llevó a ChatGPT y otros modelos de IA generativa utilizados por cientos de millones de personas en todo el mundo.

Hoy en día, la computación acelerada y la IA generativa están mostrando el potencial de transformar industrias, abordar desafíos globales y beneficiar profundamente a la sociedad, dijo Dally, quien presidió el departamento de ciencias de la computación de la Universidad de Stanford antes de unirse a NVIDIA.

El Potencial y los Límites de la IA

En su testimonio por escrito, Dally proporcionó ejemplos de cómo la IA está empoderando a los profesionales para que realicen su trabajo mejor de lo que podrían haber imaginado en campos tan diversos como los negocios, la atención médica y la ciencia del clima.

Al igual que cualquier tecnología, los productos y servicios de IA tienen riesgos y están sujetos a las leyes y regulaciones existentes que buscan mitigar esos riesgos.

La industria también tiene un papel que desempeñar en la implementación responsable de la IA. Los desarrolladores establecen límites para los modelos de IA cuando los entrenan y definen sus salidas.

Dally señaló que NVIDIA lanzó en abril NeMo Guardrails, un software de código abierto que los desarrolladores pueden utilizar para guiar las aplicaciones de IA generativa en la producción de respuestas de texto precisas, apropiadas y seguras. Dijo que NVIDIA también mantiene pautas internas de gestión de riesgos para los modelos de IA.

Mirando hacia el Futuro

Dally sugirió que garantizar que los modelos de IA nuevos y excepcionalmente grandes sean precisos y seguros es un papel natural para los reguladores.

Dijo que estos modelos “fronterizos” se están desarrollando a una escala gigantesca. Superan las capacidades de ChatGPT y otros modelos existentes que ya han sido ampliamente explorados por desarrolladores y usuarios.

Dally instó al subcomité a equilibrar una regulación reflexiva con la necesidad de fomentar la innovación en una comunidad de desarrolladores de IA que incluye miles de nuevas empresas, investigadores y empresas de todo el mundo. Las herramientas de IA deben estar ampliamente disponibles para garantizar una competencia justa, dijo.

Durante el interrogatorio, la senadora Amy Klobuchar (D-MN) le preguntó a Dally por qué NVIDIA anunció en marzo que está trabajando con Getty Images.

“En NVIDIA, creemos en respetar los derechos de propiedad intelectual de las personas”, respondió Dally. “Nos asociamos con Getty para entrenar modelos de lenguaje grandes con un servicio llamado Picasso, para que las personas que proporcionaron el contenido original recibieran remuneración”.

Al final, Dally reafirmó el compromiso de NVIDIA de innovar en inteligencia artificial generativa y computación acelerada de manera que sirva al mejor interés de todos.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!