La carrera para evitar el peor escenario para el aprendizaje automático

Race to prevent worst-case scenario for machine learning.

Dave Willner ha tenido una vista de primera fila sobre la evolución de lo peor de internet.

Comenzó a trabajar en Facebook en 2008, cuando las empresas de redes sociales estaban creando sus reglas sobre la marcha. Como jefe de política de contenido de la empresa, fue el señor Willner quien redactó las primeras normas comunitarias oficiales de Facebook hace más de una década, convirtiendo lo que él ha dicho era una lista informal de una página que en su mayoría se reducía a una prohibición de “Hitler y gente desnuda” en lo que ahora es un catálogo voluminoso de insultos, delitos y otras atrocidades que están prohibidas en todas las plataformas de Meta.

Por lo tanto, el año pasado, cuando el laboratorio de inteligencia artificial de San Francisco, OpenAI, se preparaba para lanzar Dall-E, una herramienta que permite crear instantáneamente una imagen describiéndola en pocas palabras, la empresa eligió al señor Willner para ser su jefe de confianza y seguridad. Inicialmente, eso significaba examinar todas las imágenes y sugerencias que los filtros de Dall-E señalaban como posibles violaciones, y descubrir formas de evitar que los posibles infractores tuvieran éxito.

No pasó mucho tiempo en el trabajo antes de que el señor Willner se encontrara considerando una amenaza familiar.

• 8 cosas potencialmente sorprendentes que debes saber sobre los Modelos de Lenguaje Grandes (LLMs)
• Segmentación de Imágenes Eficiente utilizando PyTorch Parte 1
• Segmentación de Imágenes Eficiente Utilizando PyTorch Parte 2

Del artículo completo de The New York Times

We will continue to update Zepes; if you have any questions or suggestions, please contact us!