De GPT2 a Stable Diffusion Hugging Face llega a la comunidad de Elixir

Hugging Face llega a la comunidad de Elixir desde GPT2 a Stable Diffusion.

La comunidad de Elixir se complace en anunciar la llegada de varios modelos de Redes Neuronales, desde GPT2 hasta Stable Diffusion, a Elixir. Esto es posible gracias a la recién anunciada biblioteca Bumblebee, que es una implementación de Hugging Face Transformers en Elixir puro.

Para ayudar a cualquiera a comenzar con estos modelos, el equipo detrás de Livebook, una plataforma de cuadernos computacionales para Elixir, ha creado una colección de “Celdas inteligentes” que permite a los desarrolladores crear estructuras básicas para diferentes tareas de Redes Neuronales en solo 3 clics. Puedes ver mi video de anuncio para obtener más información:

Gracias al soporte de concurrencia y distribución en la Máquina Virtual Erlang, en la que se ejecuta Elixir, los desarrolladores pueden incrustar y servir estos modelos como parte de sus aplicaciones web Phoenix existentes, integrarlos en sus tuberías de procesamiento de datos con Broadway y desplegarlos junto con sus sistemas embebidos Nerves, sin necesidad de dependencias de terceros. En todos los escenarios, los modelos de Bumblebee se compilan tanto para CPU como para GPU.

Antecedentes

Los esfuerzos para llevar el Aprendizaje Automático a Elixir comenzaron hace casi 2 años con el proyecto Numerical Elixir (Nx). El proyecto Nx implementa tensores multidimensionales junto con “definiciones numéricas”, un subconjunto de Elixir que se puede compilar para CPU/GPU. En lugar de reinventar la rueda, Nx utiliza enlaces para Google XLA (EXLA) y Libtorch (Torchx) para la compilación de CPU/GPU.

• Ilustrando el Aprendizaje por Reforzamiento a través de la Retroalimentación Humana (RLHF)
• Una Guía Completa de Conjuntos de Datos de Audio
• ¡Hablemos de sesgos en el aprendizaje automático! Boletín de Ética y Sociedad #2

Varios otros proyectos surgieron de la iniciativa Nx. Axon trae Redes Neuronales funcionales y componibles a Elixir, tomando inspiración de proyectos como Flax y PyTorch Ignite. El proyecto Explorer toma prestado de dplyr y Polars de Rust para proporcionar dataframes expresivos y de alto rendimiento a la comunidad de Elixir.

Bumblebee y Tokenizers son nuestros lanzamientos más recientes. Agradecemos a Hugging Face por permitir el Aprendizaje Automático colaborativo entre comunidades y herramientas, lo cual desempeñó un papel esencial en el desarrollo del ecosistema de Elixir.

A continuación, planeamos centrarnos en el entrenamiento y transferencia de aprendizaje de Redes Neuronales en Elixir, lo que permitirá a los desarrolladores mejorar y especializar modelos pre-entrenados según las necesidades de sus negocios y aplicaciones. También esperamos publicar más sobre nuestro desarrollo de algoritmos tradicionales de Aprendizaje Automático.

Tu turno

Si quieres probar Bumblebee, puedes:

• Descargar Livebook v0.8 y generar automáticamente “tareas de Redes Neuronales” desde el menú de celdas “+ Smart” dentro de tus cuadernos. Actualmente estamos trabajando en ejecutar Livebook en plataformas y espacios adicionales (¡mantente atento! 😉).

• También hemos escrito aplicaciones Phoenix de un solo archivo como ejemplos de modelos Bumblebee dentro de tus aplicaciones Phoenix (+ LiveView). Estas deberían proporcionar los bloques de construcción necesarios para integrarlos como parte de tu aplicación en producción.

• Para un enfoque más práctico, lee algunos de nuestros cuadernos.

Si quieres ayudarnos a construir el ecosistema de Aprendizaje Automático para Elixir, echa un vistazo a los proyectos mencionados y pruébalos. Hay muchas áreas interesantes, desde el desarrollo de compiladores hasta la construcción de modelos. Por ejemplo, los pull requests que agreguen más modelos y arquitecturas a Bumblebee son bienvenidos. ¡El futuro es concurrente, distribuido y divertido!

We will continue to update Zepes; if you have any questions or suggestions, please contact us!