Perspectivas de expertos sobre el desarrollo de marcos de IA seguros, confiables y confiables

Perspectivas de expertos en el desarrollo de marcos de IA seguros, confiables y confiables

Por: Dr. Charles Vardeman, Dr. Christ Sweet y Dr. Paul Brenner

En línea con la reciente Orden Ejecutiva del Presidente Biden que enfatiza una inteligencia artificial segura, confiable y confiable, compartimos nuestras lecciones aprendidas de IA confiable (TAI) dos años después del inicio de nuestros proyectos de investigación. Esta iniciativa de investigación, visualizada en la figura a continuación, se centra en operacionalizar la IA que cumple con rigurosos estándares éticos y de rendimiento. Se alinea con una creciente tendencia de la industria hacia la transparencia y la responsabilidad en los sistemas de IA, especialmente en áreas sensibles como la seguridad nacional. Este artículo reflexiona sobre el cambio de la ingeniería de software tradicional a enfoques de IA donde la confianza es fundamental.

 

Dimensiones de TAI aplicadas al ciclo de desarrollo de ML y AI

 

• De la Ficción a la Realidad ChatGPT y el Sueño de Ciencia Ficción de una Verdadera Conversación de AI
• Microsoft Azure Potenciando el futuro de la computación en la nube
• ¿Puede la generación sintética de texto clínico revolucionar las tareas de IA clínica? Conozca a ClinGen un modelo de IA que implica la extracción de conocimientos clínicos y la generación de indicaciones de LLM informadas por contexto.

 

Transición de la ingeniería de software a la ingeniería de IA

 

La transición de “Software 1.0 a 2.0 y nociones de 3.0″ requiere una infraestructura confiable que no solo conceptualice sino que también haga cumplir prácticamente la confianza en la IA. Incluso un simple conjunto de componentes de ML de ejemplo como el que se muestra en la figura a continuación demuestra la complejidad significativa que se debe comprender para abordar las preocupaciones de confianza en cada nivel. Nuestro subproyecto de Marcos de TAI aborda esta necesidad al ofrecer un punto de integración para el software y las mejores prácticas de los productos de investigación de TAI. Marcos como estos reducen las barreras para la implementación de TAI. Al automatizar la configuración, los desarrolladores y los tomadores de decisiones pueden enfocar sus esfuerzos en la innovación y la estrategia, en lugar de lidiar con las complejidades iniciales. Esto asegura que la confianza no sea una idea tardía, sino un requisito previo, con cada fase desde la gestión de datos hasta la implementación del modelo que esté inherentemente alineada con los estándares éticos y operativos. El resultado es un camino simplificado para implementar sistemas de IA que no solo sean tecnológicamente avanzados sino también éticamente sólidos y estratégicamente confiables para entornos de alto riesgo. El proyecto de Marcos de TAI encuesta y aprovecha herramientas de software existentes y las mejores prácticas que tienen sus propias comunidades sostenibles de código abierto y se pueden aprovechar directamente dentro de los entornos operacionales existentes.

 

Componentes y explotaciones ejemplares del Marco de IA

 

 

GitOps y CI/CD

 

GitOps se ha convertido en parte integral de la ingeniería de IA, especialmente dentro del marco de TAI. Representa una evolución en la forma en que se gestionan los flujos de trabajo de desarrollo de software y operaciones, ofreciendo un enfoque declarativo para la infraestructura y la gestión del ciclo de vida de la aplicación. Esta metodología es fundamental para garantizar la calidad continua e incorporar la responsabilidad ética en los sistemas de IA. El Proyecto de Marcos de TAI aprovecha GitOps como un componente fundamental para automatizar y agilizar la canalización de desarrollo, desde el código hasta la implementación. Este enfoque garantiza que se cumplan automáticamente las mejores prácticas en ingeniería de software, lo que permite un registro de auditoría inmutable, un entorno controlado por versiones y capacidades de reversión sin problemas. Simplifica los procesos de implementación complejos. Además, GitOps facilita la integración de consideraciones éticas al proporcionar una estructura donde se pueden automatizar verificaciones éticas como parte de la canalización de CI/CD. La adopción de CI/CD en el desarrollo de IA no se trata solo de mantener la calidad del código; se trata de garantizar que los sistemas de IA sean confiables, seguros y funcionen según lo esperado. TAI promueve protocolos de prueba automatizados que abordan los desafíos únicos de la IA, especialmente a medida que ingresamos a la era de la IA generativa y los sistemas basados en indicaciones. Las pruebas ya no se limitan al análisis de código estático y las pruebas unitarias. Se extienden a la validación dinámica de los comportamientos de la IA, incluyendo los resultados de los modelos generativos y la eficacia de las indicaciones. Las suites de pruebas automatizadas deben ser capaces de evaluar no solo la precisión de las respuestas, sino también su relevancia y seguridad.

 

Centrado en datos y documentado

 

En la búsqueda de la TAI, un enfoque centrado en los datos es fundamental, ya que prioriza la calidad y claridad de los datos por encima de las complejidades de los algoritmos, estableciendo así confianza e interpretación desde el principio. Dentro de este marco, hay una variedad de herramientas disponibles para garantizar la integridad y trazabilidad de los datos. dvc (control de versiones de datos) es particularmente favorecido por su congruencia con el marco de GitOps, mejorando Git para abarcar la gestión de datos y experimentos (ver alternativas aquí). Facilita un control preciso de versiones para conjuntos de datos y modelos, al igual que Git para el código, lo cual es esencial para prácticas eficaces de CI/CD. Esto asegura que los motores de datos que alimentan los sistemas de IA se alimenten de manera constante con datos precisos y auditables, un requisito previo para una IA confiable. Utilizamos nbdev, que complementa dvc al convertir Jupyter Notebooks en un VoAGI para programación literaria y programación exploratoria, agilizando la transición del análisis exploratorio a código bien documentado. La naturaleza del desarrollo de software está evolucionando hacia este estilo de “programación” y solo se acelera por la evolución de los “Co-Pilotos” de IA que ayudan en la documentación y construcción de aplicaciones de IA. El software de materiales (SBoM) y los BoMs de IA, respaldados por estándares abiertos como SPDX, son fundamentales en este ecosistema. Sirven como registros detallados que complementan dvc y nbdev, encapsulando la procedencia, composición y cumplimiento de los modelos de IA. Los SBoM proporcionan una lista completa de componentes, asegurando que cada elemento del sistema de IA se tenga en cuenta y verifique. Los BoMs de IA extienden este concepto para incluir fuentes de datos y procesos de transformación, ofreciendo un nivel de transparencia a los modelos y datos en una aplicación de IA. Juntos, forman una imagen completa del linaje de un sistema de IA, promoviendo la confianza y facilitando la comprensión entre las partes interesadas.

 

La Imperativa TAI

 

Los enfoques éticos y centrados en los datos son fundamentales para la TAI, asegurando que los sistemas de IA sean efectivos y confiables. Nuestro proyecto de marcos de TAI aprovecha herramientas como dvc para el versionado de datos y nbdev para programación literaria, reflejando un cambio en la ingeniería de software que se adapta a las particularidades de la IA. Estas herramientas son emblemáticas de una tendencia mayor hacia la integración de calidad de datos, transparencia y consideraciones éticas desde el inicio del proceso de desarrollo de IA. Tanto en los sectores civiles como de defensa, los principios de TAI son constantes: un sistema es tan confiable como los datos en los que se basa y el marco ético al que se adhiere. A medida que aumenta la complejidad de la IA, también lo hace la necesidad de marcos sólidos que puedan manejar esta complejidad de manera transparente y ética. El futuro de la IA, especialmente en aplicaciones críticas para la misión, dependerá de la adopción de estos enfoques centrados en los datos y éticos, consolidando la confianza en los sistemas de IA en todas las áreas.

 

Sobre los Autores

 

Charles Vardeman, Christ Sweet y Paul Brenner son científicos de investigación en el Centro de Investigación Computacional de la Universidad de Notre Dame. Tienen décadas de experiencia en software científico y desarrollo de algoritmos, con un enfoque en la investigación aplicada para la transferencia de tecnología a operaciones de productos. Tienen numerosos artículos técnicos, patentes y actividades de investigación financiadas en los ámbitos de la ciencia de datos y la ciberinfraestructura. Puedes encontrar aquí proyecciones semanales de TAI alineadas con proyectos de investigación de estudiantes.

[Dr. Charles Vardeman](https://www.linkedin.com/in/charles-vardeman-7897759) es un científico de investigación en el Centro de Investigación Computacional de la Universidad de Notre Dame.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!