Cómo crear el Chatbot LLaMa 2 con Gradio y Hugging Face en Free Colab.

Crear el Chatbot LLaMa 2 con Gradio y Hugging Face en Free Colab.

¡Gracias a Gradio, puedes construir la interfaz de usuario del chatbot en una sola línea de código!

El panorama de los modelos de lenguaje de código abierto de gran tamaño es fascinante.

En el momento de escribir este artículo, los modelos LLaMa 2 están recibiendo mucha atención. Por lo tanto, vale la pena aprender cómo interactuar con estos modelos.

En este artículo, aprenderás cómo construir un chatbot con la interfaz de Gradio ChatInterface y Hugging Face. ¡Y podrás ejecutar el código en el cuaderno gratuito de Colab!

Como seguiremos todos los pasos detalladamente, este tutorial es apto para principiantes. Pero también los ingenieros experimentados podrán aprender mucho, ya que hablaremos de tecnologías de vanguardia, como Llama 2.

• Esta investigación de IA revoluciona el diseño del modulador Mach-Zehnder de silicio a través del aprendizaje profundo y algoritmos evolutivos
• Tiempo 100 IA ¿Los más influyentes?
• Python Enumerate() Simplifica el bucle con contadores

Flujo de trabajo

En esta guía paso a paso, seguiremos los siguientes pasos:

1. Instalaciones: Comenzaremos configurando nuestro entorno con las bibliotecas requeridas.
2. Requisitos previos: Asegurémonos de tener acceso al modelo Llama-2 7B en Hugging Face.
3. Carga del modelo y del tokenizador: Obtengamos el modelo y el tokenizador para nuestra sesión.
4. Creación del pipeline de Llama: Preparemos nuestro modelo para generar respuestas.
5. Formateo de la indicación para Llama 2: Preparemos los mensajes para seguir la estructura de indicación correcta.
6. Generación de respuestas de Llama: Creemos una función para obtener respuestas basadas en el historial de chat.
7. Interacción con Llama a través de la interfaz de chat de Gradio: Solicitemos respuestas al modelo y exploremos sus capacidades.

Nota: Al final de este artículo, encontrarás todos los enlaces útiles, incluido un cuaderno de Colab listo para usar con el proyecto descrito en este artículo (y una versión en video de esta guía).

¡Sumérgete y diviértete!

Requisitos previos.

Antes de pasar al código, deberás invertir 2 minutos para seguir estos 3 pasos necesarios:

1. Asegúrate de haber cambiado el entorno de ejecución de tu Colab a GPU para un rendimiento óptimo. En el menú superior, ve a Entorno de ejecución -> Cambiar tipo de entorno de ejecución y selecciona “GPU T4”.
2. Crea una cuenta en Hugging Face para acceder a…

We will continue to update Zepes; if you have any questions or suggestions, please contact us!