Una guía paso a paso para seleccionar y ejecutar tu propio modelo generativo

Una guía detallada para seleccionar y ejecutar tu propio modelo generativo paso a paso

¿Cómo navegar por el mar de modelos que se lanzan todos los días?

Los últimos meses han sido testigos de una drástica reducción en el tamaño de los parámetros de los diversos modelos generativos, como el nuevo modelo de Mistral AI que acaba de salir. La reducción de tamaño abre la puerta a tener tu propio asistente personal de IA habilitado que se pueda vincular a través de tu ordenador local. Este tipo de inferencia local es muy tentador para garantizar la computación confidencial en tus datos. Con todos estos nuevos avances, implementar y gestionar una carga de trabajo de IA se ve diferente a como era hace 6 meses y está en constante evolución. ¿Cómo usar uno de estos modelos para experimentar con él o incluso alojarlo en la infraestructura de tu empresa?

Creo que antes de usar cualquier tipo de modelo de API que sea alojado por otra persona, es bueno experimentar con diferentes tipos de modelos para tener una idea de cómo se desempeñan estas diferentes familias de modelos. Entonces supongamos que no estás utilizando un modelo de API de inmediato. ¿Cómo descargas un modelo y lo usas?

Para esto tienes dos tipos de modelos: propietarios y modelos de acceso abierto. Los modelos propietarios serán OpenAI, Cohere, etc., y todos ellos tienen su propia API. Los modelos de acceso abierto pueden ser totalmente abiertos o semirestringidos debido a su licencia, como comercial, no comercial, solo para fines de investigación…

El mejor lugar para encontrar estos modelos es en HuggingFace. En la página de modelos, puedes ver que tienen más de 350,000 modelos disponibles para una amplia variedad de tareas. ¡Así que tienes varios para elegir!

• Todo lo que necesitas saber sobre la serie de modelos de lenguaje (LLMs) Qwen Large
• Desde el Internet de las Cosas hasta el Internet de Todo La Convergencia de la IA y el 6G para una Inteligencia Conectada
• La mejor aventura de IA residencia de OpenAI

Algo a tener en cuenta es que no todos estos modelos se están utilizando o se utilizarán. Algunos de ellos podrían ser solo alguien que intentó algo durante una tarde y luego nunca lo actualizó de nuevo. Una de las métricas clave para encontrar los modelos más útiles es ver cuántas personas descargaron el modelo y les gustó. Por ejemplo, puedes filtrar por el tipo de tarea que estás buscando, como clasificación de texto, y a partir de ahí puedes ver cuáles son los modelos más descargados y los modelos populares filtrados por…

We will continue to update Zepes; if you have any questions or suggestions, please contact us!