Cómo ajustar finamente un LLM para una tarea de preguntas y respuestas (QA) localmente

Ajuste fino de LLM para QA local.

Una guía práctica paso a paso para extraer información de tus datos personalizados haciendo preguntas

Existen tres tipos principales de tareas de preguntas y respuestas.

QA Extractivo: Es la tarea en la que los sistemas extraen la respuesta a la pregunta de un texto dado (texto alimentado). Esta es la forma más común de sistema de preguntas y respuestas y forma parte de la mayoría de los sistemas de automatización de propósito general como Alexa o Google Search, etc.

QA Generativo Abierto: Es una tarea en la que el sistema genera respuestas en lenguaje natural. El enfoque se centra en una IA más generativa para que la respuesta se sienta más natural que una simple extracción de información. Sin embargo, las tareas de QA generativo abierto necesitan que se proporcione el contexto y la respuesta se genera a partir del contexto (en su mayoría, recordar las alucinaciones)

QA Generativo Cerrado: Esta es la tarea en la que no se proporciona contexto y la respuesta se genera puramente a partir del modelo.

Foto de Severin Höin en Unsplash

Guía práctica para QA Extractivo

Hoy haremos una rápida descripción de cómo ajustar un modelo utilizando tus propios datos personalizados. ¡Soy partidario de ajustar los modelos generando tus propios datos! Así que empecemos con

  1. Cómo crear los datos para el entrenamiento?
  2. Cómo convertirlos al formato correcto – Preprocesamiento?
  3. Cómo tokenizarlos?
  4. Cómo ajustar el modelo en tu computadora?
  5. Bonus – cómo ajustar el API en la nube como Hugging Face?

Tuve que reescribir este tutorial ya que la documentación de HuggingFace está bastante desactualizada y las dependencias están rotas. He solucionado todos los problemas con su tutorial y he compartido una versión completa y funcional que puedes seguir fácilmente (con un colab completo compartido). ¡Salud!

Creación de datos personalizados

Utilizaremos datos de SQuAD como ejemplo. Aprende más sobre SQuAD (Stanford Question Answering Dataset) aquí.

Supondré que estás ejecutando este experimento en el Jupyter Notebook/Ipython notebook.

Instala los conjuntos de datos (porque podemos ver cómo se ven los datos)

We will continue to update Zepes; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Related articles

Discover more

Inteligencia Artificial

Sabemos que las LLM pueden utilizar herramientas, ¿pero sabías que también pueden crear nuevas herramientas? Conoce a las LLM como fabricantes de herramientas (LATM) un sistema de bucle cerrado que permite a las LLM crear sus propias herramientas reutilizables.

Los modelos de lenguaje grandes (LLMs) han destacado en una amplia gama de tareas de procesamiento del lenguaje natur...

Investigación

Imágenes detalladas desde el espacio ofrecen una imagen más clara de los efectos de la sequía en las plantas.

Los investigadores de J-WAFS están utilizando observaciones de teledetección para construir sistemas de alta resoluci...

Inteligencia Artificial

Investigadores de Google DeepMind y YouTube anuncian Lyria un modelo avanzado de generación de música AI

En un anuncio reciente, DeepMind de Google, en colaboración con YouTube, presentó Lyria, un modelo de generación de m...

Inteligencia Artificial

Conoce a RoboPianist una nueva suite de referencia para el control de alta dimensionalidad en el dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del dominio del

El proceso de medición en los dominios del control y el aprendizaje por refuerzo es bastante desafiante. Un área part...

Inteligencia Artificial

Investigadores de Alibaba presentan la serie Qwen-Audio Un conjunto de modelos de audio-idioma a gran escala con habilidades universales de comprensión de audio.

Investigadores de Alibaba Group presentaron Qwen-Audio, que aborda el desafío de los modelos de audio pre-entrenados ...

Investigación

Entrenando máquinas para aprender más como lo hacen los humanos

Los investigadores identifican una propiedad que ayuda a los modelos de visión por computadora a aprender a represent...

Want to read more? Go here