Equidad en el aprendizaje automático (Parte 1)

Equidad en el aprendizaje automático La importancia de la igualdad (Parte 1)

Contenido

1. Igualdad en el Aprendizaje Automático
2. Evidencia del problema
3. Concepto fundamental: Discriminación, Sesgo e Igualdad

1. Igualdad en el Aprendizaje Automático

Los algoritmos de aprendizaje automático afectan de manera sustancial la vida cotidiana en áreas como educación, empleo, publicidad y seguridad. Si bien los algoritmos de aprendizaje automático (ML) pueden parecer objetivos, la tendencia a favorecer el sesgo está intrínseca en la esencia del ML. El uso generalizado del ML en una variedad de campos sensibles fomenta la idea de que las decisiones basadas en el ML se basan únicamente en hechos y no se ven afectadas por sesgos cognitivos humanos, tendencias discriminatorias o emociones. De hecho, estos sistemas aprenden de datos que son, directa o indirectamente, influenciados por sesgos humanos. Existen pruebas abrumadoras que indican que los algoritmos pueden heredar o incluso perpetuar los sesgos humanos en la toma de decisiones cuando sus datos subyacentes contienen decisiones humanas con sesgos [1].

En áreas como la justicia penal, la política de bienestar social, la contratación y las finanzas personales, es importante garantizar que las decisiones automatizadas respeten los principios de equidad, dado que los conjuntos de datos contienen atributos sensibles (es decir, raza, género, edad, estado de discapacidad) y/o características estrechamente relacionadas con estos atributos. Esto significa que ignorar las consideraciones de equidad puede tener consecuencias socialmente inaceptables. Es particularmente preocupante en el contexto de la toma de decisiones secuenciales automatizadas, el potencial de “perpetuar la injusticia, es decir, cuando maximizar la utilidad mantiene, refuerza o incluso introduce una dependencia injusta entre características sensibles, decisiones y resultados” [2].

Como resultado, el impacto del sesgo en el aprendizaje automático está creciendo a un ritmo tal que resulta difícil siquiera darse cuenta de los cambios reales. El impacto diario de los sistemas de IA es enorme y no se limita a empresas o sistemas nacionales, sino que se puede sentir literalmente en nuestras manos cada vez que buscamos información en un navegador.

• Noticias VoAGI, 11 de octubre 3 proyectos de Ciencia de Datos para conseguir ese trabajo • 7 pasos para dominar el Procesamiento del Lenguaje Natural
• Toma el control NVIDIA NeMo SteerLM permite a las empresas personalizar las respuestas de un modelo durante la inferencia
• Indexa tu contenido rastreado en la web utilizando el nuevo Rastreador web para Amazon Kendra

We will continue to update Zepes; if you have any questions or suggestions, please contact us!