Explorando qué hace que una caja de herramientas de ética de IA funcione

Ética de IA lo que hace que una caja de herramientas funcione

Los kits de herramientas de ética de IA están en todas partes, pero ¿realmente los entendemos?

Introducción

A medida que aumenta el uso de sistemas de IA en aplicaciones con implicaciones críticas, los expertos han estado llamando a prácticas más participativas y conscientes de los valores al diseñar estos sistemas. Hay una serie de beneficios que la participación de las partes interesadas puede aportar al diseño de sistemas de IA, como hacerlos más inclusivos, combatir los sesgos existentes y proporcionar rendición de cuentas. En respuesta, el campo de la ética de la IA ha producido una cantidad significativa de kits de herramientas en los últimos años. Estos han surgido de diferentes fuentes como universidades, empresas e institutos reguladores, han utilizado varias técnicas y marcos diferentes, y han tenido diferentes audiencias previstas que van desde científicos de datos e ingenieros de IA hasta diseñadores y el público en general (Wong et al., 2023).

Muchos kits de herramientas de ética de IA se centran únicamente en aspectos técnicos relacionados con la creación de IA y se dirigen principalmente a profesionales técnicos (por ejemplo, la herramienta de autoevaluación de FAIR). Sin embargo, existen varios kits de herramientas que abogan por y se centran en la participación de las partes interesadas, especialmente las partes interesadas fuera del equipo de creación de IA, como los usuarios finales y los expertos en el dominio (por ejemplo, el kit de herramientas AI Meets Design). Los kits de herramientas que se centran en la inclusión de las partes interesadas suelen hacerlo proporcionando recursos como lienzos o mazos de cartas que permiten a las partes interesadas, especialmente aquellas con antecedentes no técnicos, participar en actividades de diseño. Esta participación puede dar lugar a una amplia gama de resultados, desde el brainstorming de las consecuencias de diferentes decisiones hasta la generación de empatía con los usuarios de IA.

A pesar de este gran número de kits de herramientas, nadie ha intentado realmente comprender qué los hace funcionar o cuáles son sus estrategias subyacentes. Esto hace que no esté claro si realmente tienen un efecto positivo en los usuarios de los kits de herramientas y los resultados que producen al usarlos, a pesar de su uso generalizado. Debido a esto, quería analizar cómo funciona un determinado kit de herramientas; lo cual resultó ser una experiencia muy educativa.

Lo que hice

Realicé un taller de diseño con 9 participantes que trabajan con IA en diferentes capacidades. El taller consistió en una actividad de ideación para generar casos de uso y características de diseño para una IA conversacional ficticia que ayuda a las personas a autogestionar la diabetes. Incluía un kit de herramientas de ética de IA que fue creado por un diseñador individual en lugar de una corporación o universidad. Elegí esto a propósito para explorar realmente qué hacía que un kit de herramientas a pequeña escala, que no estaba respaldado por financiamiento masivo, funcionara.

• ¿Cómo crear un gráfico de cascada en Excel?
• Los Juegos Olímpicos de la IA Evaluando los Sistemas de Aprendizaje Automático
• Elija su arma Estrategias de supervivencia para consultores de IA deprimidos

El taller se realizó en Miro y duró dos horas. La forma en que funciona el kit de herramientas es que está compuesto por un mazo de cartas. Estas cartas tienen cada una un valor (por ejemplo, privacidad, autonomía, seguridad, etc.) y preguntas de “¿Cómo podríamos?” que actúan como estímulos para diferentes ideas que podrían conducir a que se respete el valor dado en la tecnología que se está produciendo. Coloqué estas cartas en el tablero de Miro y dejé notas adhesivas para que las personas hicieran brainstorming, luego asigné a cada persona dos valores en los que enfocarse individualmente.

Después de una hora, todos nos reunimos y volteé las cartas para que ahora las personas no pudieran ver los valores, solo las ideas en las notas adhesivas que las personas habían dejado. Le pedí a cada persona que presentara las ideas que había anotado, y todas las demás tenían que adivinar el valor al que apuntaban.

Lo que aprendí

Usar valores como trampolines para construir empatía y consideraciones más amplias

La herramienta fue diseñada para utilizar la lista de valores que proporcionaron como trampolines para idear y generar ideas. 3 participantes mencionaron que este enfoque fue muy útil:

“Fue interesante ver cómo diferentes valores se aplican al desarrollo de un agente conversacional”.

“Pensar en el diseño desde la perspectiva de un valor a la vez”.

“Mirar las tarjetas de valores y generar ideas en torno a ellas”.

• Hubo poco enfoque en la viabilidad técnica en favor de centrarse en los valores y la importancia de diferentes ideas desde la perspectiva del usuario. A los participantes pareció gustarles/preferir esto, ya que ofrecía un cambio bienvenido al enfocarse en aspectos técnicos y pasar por alto valores como la seguridad y la equidad. Un participante expresó que sentía que estos valores podrían no surgir cuando uno está pensando en un sistema y en lo que se puede construir y la tecnología detrás de él, o pensando en lo que es más fácil o rápido de hacer. Dijeron que aunque las personas deberían pensar en estos valores al diseñar, eso no siempre es el caso, ya que hay otras prioridades que lo eclipsan. En resumen, destacar los valores ayudó a los participantes a generar ideas y considerar aspectos no técnicos comúnmente pasados por alto.
• El ejercicio hizo que los participantes quisieran saber más sobre la vida de los diabéticos y sus experiencias para entender cómo apoyarlos de la manera más personalizada y específica posible y para encontrar soluciones que fueran realmente relevantes y no basadas en suposiciones. Los valores que despertaron este deseo fueron ‘tranquilidad’ (llevando a querer información sobre las situaciones que les causan estrés y ansiedad) y ‘seguridad’ (llevando a querer información sobre las situaciones que ponen en peligro su vida). En resumen, enfocarse en los valores aumentó la empatía de los participantes hacia los usuarios objetivo y su curiosidad/deseo de aprender cómo apoyarlos mejor.

Usar la gamificación para aumentar la participación y mejorar los resultados

Los participantes disfrutaron enormemente del aspecto de gamificación cuando tenían que adivinar los valores:

“Disfruté adivinando a qué valor estaban relacionadas las ideas; me mantuvo mucho más comprometido con las ideas que se compartían en lugar de simplemente leerlas/discutirlas”.

“Creo que la parte de adivinar el valor fue la más útil para comprender realmente los diferentes valores y cómo están interconectados”.

• Cuando adivinaban los valores, los participantes sentían que varias ideas podían corresponder a diferentes valores y que diferentes ideas bajo diferentes valores se referían al mismo concepto o sugerencia. Las discusiones también resaltaron que varios valores eran demasiado similares o tenían grandes superposiciones y que era difícil diferenciar entre ellos. – Se pensaba que muchos valores eran demasiado similares o se superponían, y los participantes tenían dificultades para adivinarlos o diferenciar entre ellos. Hay muchos vínculos entre los diferentes valores y algunos pueden llevar a otros o facilitarlos, o encarnar fenómenos/emociones similares. Durante la adivinanza, se confundió ‘equidad’ con ‘inclusividad’; ‘comunidad’, ‘libertad’ y ‘autonomía’ no se podían diferenciar entre sí; ‘maestría’ se confundió con ‘coraje’ y ‘curiosidad’; y ‘inclusividad’ se confundió con ‘accesibilidad’ y ‘respeto’. En resumen, la gamificación permitió a los participantes comprender realmente las interconexiones entre ideas y valores.

Mejoras e ideas futuras

• Tres participantes señalaron que les hubiera gustado contar con más información contextual y sugerencias para poder empatizar mejor con los grupos de interés objetivo de la IA conversacional. Con valores específicos como “seguridad” y “tranquilidad”, los participantes se estaban poniendo en el lugar de los usuarios y querían conocer más sobre sus experiencias para poder brindarles soluciones más personalizadas que aborden específicamente sus necesidades. Un participante sintió que la sugerencia inicial carecía de retroalimentación de las personas para las cuales estaban diseñando (diabéticos) para poder generar ideas para ellos. Querían obtener información más personalizada/específica sobre los escenarios de los usuarios, descripciones de momentos de sus vidas o información contextual del mundo real que se pueda utilizar para personalizar aún más las ideas generadas.
• Una sugerencia fue realizar un taller como este, que se centre en lo abstracto y de alto nivel primero, sin mucha información previa, y luego recopilar información del usuario posteriormente para obtener contexto. Porque si se recopila la información del usuario primero, se podrían perder ideas o valores y estar demasiado enfocados en lo que se recopiló. Después se puede integrar todo y generar escenarios y aspectos técnicos nuevamente, teniendo en cuenta ambas fuentes de conocimiento.
• Dos participantes señalaron que si no tuvieran la lista de valores con definiciones, podrían haber tenido dificultades para pensar en las palabras exactas utilizadas para describir los valores, tal vez algo relacionado con ellos, pero no las palabras exactas. También hubiera sido difícil comprender qué significaban los valores sin proporcionar las descripciones correspondientes.

Cómo Esto Puede Ayudarte

Este experimento sobre lo que hace que una caja de herramientas de ética de IA funcione me llevó a comprender mejor el poder de utilizar la gamificación y ejercicios basados en valores. A continuación, he resumido mis conocimientos en seis puntos que podrían ayudarte a realizar tus propios talleres de diseño utilizando cajas de herramientas de ética de IA con los grupos de interés para generar ideas o conceptos sobre el diseño de IA:

• Uno de los principales puntos de pensar colaborativamente sobre la ética de la IA es hacer que la IA esté más centrada en el ser humano. Por esta razón, es muy importante incluir mucha información contextual (y preferiblemente de primera mano) sobre tus usuarios objetivo y a quiénes estás diseñando para ayudar. Recuerda que muchos profesionales técnicos pueden no estar acostumbrados a ejercicios de empatía y generación de ideas, por lo que ayúdalos a llegar allí aclarando realmente a quiénes están tratando de ayudar.
• Considera si tu taller necesita tener muchas actividades para pasar de una visión de alto nivel de lo que podría ser relevante o importante, hasta los detalles. Mezclar ambos puede confundir a los participantes, especialmente si les pides que clasifiquen o valoren ideas que pueden no ser comparables al mismo nivel.
• Si estás trabajando con valores, asegúrate de definir claramente qué significa cada valor. Esto es importante porque diferentes valores pueden tener diferentes significados dependiendo de a quién preguntes, y puede haber muchos conflictos y superposiciones entre ellos si no están claramente definidos.
• Incorporar valores en tus actividades de diseño de IA puede ayudar a los participantes a generar ideas y considerar aspectos no técnicos comúnmente pasados por alto, ayudarlos a crear empatía con los usuarios objetivo y aumentar su curiosidad y deseo de brindar un mejor apoyo a esos usuarios.
• Incorporar técnicas de gamificación puede ayudar a mejorar la participación y el disfrute de los participantes durante los talleres de ética de IA, y también puede ayudarles a comprender las conexiones entre ideas de manera más profunda.

Dónde Encajo

Mi proyecto de doctorado examina cómo aprovechar herramientas y técnicas de campos de diseño para hacer que el diseño de los sistemas de IA sea accesible e inclusivo. Estoy trabajando para crear un proceso participativo y una caja de herramientas para respaldarlo, para involucrar sistemáticamente a las personas en todo el ciclo de vida de la IA, con un enfoque en la sensibilidad a los valores.

Puedes consultar la página oficial de mi proyecto en el sitio web del Imperial College London. También puedes consultar este otro artículo que escribí explicando los detalles de mi proyecto de doctorado.

He creado esta cuenta de VoAGI para publicar hallazgos interesantes a medida que trabajo en mi proyecto de doctorado, con la esperanza de difundir noticias e información sobre sistemas de IA de una manera comprensible para todos.

Referencias

Richmond Y. Wong, Michael A. Madaio y Nick Merrill. 2023. Seeing Like a Toolkit: How Toolkits Envision the Work of AI Ethics. Proc. ACM Hum.-Comput. Interact. 7, CSCW1, Artículo 145 (abril de 2023), 27 páginas. https://doi.org/10.1145/3579621

We will continue to update Zepes; if you have any questions or suggestions, please contact us!