Técnicas de ingeniería rápida con Azure OpenAI - Azure OpenAI Service (2023)

Esta guía no profundiza en la mecánica detrás de la estructura de mensajes para Finalización de chat. Si no está familiarizado con la interacción con los modelos ChatGPT y GPT-4 mediante programación, le recomendamos leer nuestra guía para empezar paso a paso en la API de finalización de chat.

Mensaje del sistema

El mensaje del sistema se incluye al principio de la solicitud y se usa para preparar el modelo con el contexto, las instrucciones y el resto de la información relevante para su caso de uso. Puede usar el mensaje del sistema para describir la personalidad del asistente, definir qué debe y no debe responder el modelo y definir el formato de las respuestas del modelo.

En el ejemplo siguiente se muestra un mensaje del sistema de ejemplo y la respuesta resultante del modelo:

Algunos otros ejemplos de mensajes del sistema son:

• "El asistente es un modelo de lenguaje grande entrenado por OpenAI".
• "El asistente es un bot de chat inteligente diseñado para ayudar a los usuarios a responder preguntas técnicas sobre Azure OpenAI Service. Responde a preguntas usando únicamente el contexto siguiente y si no estás seguro de una respuesta, puedes decir "No lo sé".
• "El asistente es un bot de chat inteligente diseñado para ayudar a los usuarios a responder a sus preguntas relacionadas con los impuestos".
• "Eres un asistente diseñado para extraer datos de textos. Los usuarios pegarán una cadena de texto y tú responderás con los datos extraídos del texto como un objeto JSON. Este es un ejemplo del formato de salida:

{ "name": "", "company": "", "phone_number": ""}

Un detalle importante que es necesario comprender es que aunque indique a un modelo en el mensaje del sistema que responda No lo sé cuándo no esté seguro de una respuesta, esto no garantiza que se respete la solicitud. Un mensaje del sistema bien diseñado puede aumentar la probabilidad de obtener cierto resultado, pero sigue siendo posible que se genere una respuesta incorrecta que contradiga la intención de la instrucción en el mensaje del sistema.

Aprendizaje en pocos pasos

Una manera común de adaptar los modelos de lenguaje a nuevas tareas es usar el aprendizaje en pocos pasos. En el aprendizaje en pocos pasos, se proporciona un conjunto de ejemplos de entrenamiento como parte de la solicitud para ofrecer un contexto adicional al modelo.

Cuando se usa la API de finalizaciones de chat, una serie de mensajes entre el usuario y el asistente (escrito en el nuevo formato de solicitud), puede servir a modo de ejemplos para el aprendizaje en pocos pasos. Estos ejemplos se pueden usar para preparar el modelo para responder de una manera determinada, emular comportamientos concretos y inicializar respuestas a preguntas comunes.

En la tabla anterior se describe la estructura básica de la solicitud, pero para obtener una explicación detallada del formato de solicitud exacto, deberá consultar la guía de finalización del chat.

Escenarios que no son de chat

Aunque la API de finalización de chat está optimizada para trabajar con conversaciones multiturno, también se puede usar para escenarios que no son de chat. Por ejemplo, para un escenario de análisis de sentimiento, puede usar la solicitud siguiente:

Empieza con instrucciones claras

La secuencia en la que la información aparece en la solicitud es importante. Esto se debe a que los modelos de estilo GPT se crean de una manera determinada que define cómo procesan la entrada de información. Nuestra investigación sugiere indicar al modelo la tarea que quiere que haga al principio del mensaje, antes de compartir información contextual adicional o ejemplos, puede ayudar a producir salidas de mayor calidad.

Repetir instrucciones al final

Los modelos pueden ser susceptibles a sesgos de rectitud, lo que en este contexto significa que la información al final de la solicitud podría tener una influencia más significativa sobre la salida que la información del principio de la solicitud. Por lo tanto, vale la pena experimentar con la repetición de las instrucciones al final del aviso y evaluar el impacto en la respuesta generada.

Preparar la salida

Esto hace referencia a incluir algunas palabras o frases al final del mensaje para obtener una respuesta del modelo que siga la forma deseada. Por ejemplo, el uso de una indicación como “Here’s a bulleted list of key points:\n- ” puede ayudar a asegurar que la salida tiene el formato de una lista de puntos de viñetas.

En la solicitud anterior, el texto Una posible consulta de búsqueda es: prepara el modelo para generar una única salida. Sin esta indicación, el modelo genera varias consultas de búsqueda como salida.

Agregar una sintaxis clara

El uso de una sintaxis clara para el mensaje, incluidos los signos de puntuación, los encabezados y los marcadores de sección, ayuda a comunicar la intención y, a menudo, facilita el análisis de las salidas.

En el ejemplo siguiente, se han agregado separadores (--- en este caso) entre diferentes orígenes de información o pasos. Esto permite el uso de --- como condición de parada para la generación. Además, los encabezados de sección o variables especiales se presentan en mayúsculas para diferenciarlos.

Si no está seguro de qué sintaxis usar, considere la posibilidad de usar Markdown o XML. Los modelos se han entrenado en una gran cantidad de contenido web en XML y Markdown, con los que puede proporcionar mejores resultados.

Dividir la tarea

Los modelos de lenguaje grandes (LLM) suelen funcionar mejor si la tarea se divide en pasos más pequeños. Por ejemplo, en la consulta de búsqueda mencionada anteriormente, la consulta puede reestructurarse de modo que el modelo reciba una primera instrucción para extraer hechos relevantes y, luego, otra para generar consultas de búsqueda que puedan utilizarse para comprobar esos hechos.

Observe el uso de una sintaxis clara para diferenciar las secciones y preparar la salida. En este ejemplo sencillo, dividir la tarea de uno a dos pasos no es muy dramático, pero al intentar hacerlo para un fragmento de texto más grande con muchas afirmaciones objetivas, dividir la tarea puede suponer una diferencia significativa.

Uso de prestaciones

A veces, podemos coger el modelo para usar una prestación en lugar de confiar en sus propios parámetros para obtener información y respuestas. Buscar, por ejemplo, puede ser una prestación para ayudar a mitigar las respuestas fabricadas y para obtener información actualizada.

Una manera sencilla de usar una prestación es detener la generación una vez que el modelo genera las llamadas a la prestación y, a continuación, pegar los resultados de nuevo en la solicitud. A continuación se muestra un ejemplo de lo que podría ser la llamada de seguimiento después de realizar las llamadas de BÚSQUEDA anteriores. Observe cómo pegamos los resultados de la búsqueda en la solicitud y reemplazamos las llamadas de BÚSQUEDA anteriores.

Cadena de pensamientos

Se trata de una variación en la técnica de división de la tarea. En lugar de dividir una tarea en pasos más pequeños, en este enfoque se indica a la respuesta del modelo que continúe paso a paso y presente todos los pasos implicados. Esto reduce la posibilidad de imprecisión de los resultados y facilita la evaluación de la respuesta del modelo.

Especificación de la estructura de salida

El uso de la solicitud para especificar la estructura de la salida puede tener un impacto significativo en la naturaleza y la calidad de los resultados. A veces, las entradas del mensaje del sistema como "solo escriben hechos verdaderos" o "no inventar información" podrían no ser mitigaciones adecuadas. En su lugar, pedir que la respuesta del modelo incluya también citas puede ayudar a reducir la prevalencia de respuestas incorrectas.

Si das instrucciones al modelo que cite la fuente cuando haga afirmaciones, es mucho más probable que esas afirmaciones estén fundamentadas. La solicitud de citas hace que el modelo deba realizar dos errores cada vez que genera una respuesta: el primer error es la respuesta fabricada y el segundo es la cita incorrecta. Tenga en cuenta que cuanto más cerca esté la cita del texto al que apoya, menor es la distancia por delante que el modelo necesita para anticipar la cita, lo que sugiere que las citas insertadas son mejores mitigaciones para la generación de contenido falso que las citas al final del contenido.

Del mismo modo, si pide al modelo que extraiga afirmaciones fácticas de un párrafo, puede extraer instrucciones compuestas como "X está haciendo Y Y Z" (que pueden ser más difícil de comprobar). Esto se puede evitar especificando una estructura de salida como (entidad1, relación, entidad2).

En los ejemplos siguientes se muestra el uso de citas y la dirección de la respuesta del modelo para ajustar una estructura definida.

Parámetros Temperature y Top_p

Cambiar el parámetro Temperature cambia la salida del modelo. El parámetro Temperature se puede establecer entre 0 y 2. Un valor mayor, por ejemplo, 0,7 hará que la salida sea más aleatoria y genere más respuestas divergentes, mientras que un valor inferior, como 0,2, hará que la salida sea más focalizada y concreta. Se podría generar una historia ficticia con un valor mayor. Mientras que para generar un documento legal se recomienda usar un valor mucho menor.Top_probability es otro parámetro y es similar a Temperature en cuanto a que también controla la aleatoriedad de la respuesta del modelo, pero lo hace de otra manera. La recomendación general es modificar uno de estos dos parámetros cada vez, no ambos.

Proporcionar un contexto de referencia

Una de las formas más eficaces de proporcionar respuestas fiables es proporcionar al modelo datos de los que extraer sus respuestas (datos de base). Si su caso de uso se basa en información actualizada y fiable y no es puramente un escenario creativo, le recomendamos encarecidamente proporcionar datos de base. En general, cuanto más se acerque el material de origen a la forma final de la respuesta que se quiere, menos trabajo debe hacer el modelo, lo que significa que hay menos posibilidad de error.Este es un ejemplo en el que al sistema se le proporciona un blog reciente que describe el lanzamiento de GPT-4 en Azure OpenAI Service y se le pide que asigne un nombre a algunos de sus primeros clientes.

¹ Texto del blog de inicio de GPT-4 de Azure OpenAI.

Pasos siguientes

• Obtenga información sobre Azure OpenAI.
• Empiece a trabajar con el modelo ChatGPT con el inicio rápido de ChatGPT.
• Para obtener más ejemplos, consulte el repositorio de GitHub de ejemplos de Azure OpenAl

Empieza con instrucciones claras

La secuencia en la que la información se introduce en la solicitud es importante. Nuestra investigación sugiere indicar al modelo la tarea que quiere que haga al principio del mensaje, antes de compartir información contextual adicional o ejemplos, puede ayudar a producir salidas de mayor calidad.

En el primer ejemplo siguiente, una parte clave de las instrucciones solo se comparte al final y la finalización resultante es incorrecta.

En este ejemplo siguiente, proporcionamos la instrucción exacta que queremos comprobar ("Varias fuentes mencionan una posibilidad de otra erupción") antes de dar el contexto del fragmento. Esto permite que las representaciones de token extraídas de los fragmentos se adapten a la instrucción que estamos comprobando. Ahora la respuesta del modelo resultante es precisa:

Repetir las instrucciones al final

Los modelos pueden ser susceptibles a sesgos de rectitud, lo que significa que la información al final de la solicitud podría tener una influencia más significativa sobre la salida que la información del principio de la solicitud. Por lo tanto, vale la pena experimentar con la repetición de las instrucciones al final del aviso y evaluar el impacto para cada caso de uso.

Hemos visto en el ejemplo anterior cómo repetir la instrucción al principio y el final del aviso conduce a una mayor probabilidad de obtener una respuesta de modelo precisa.

Preparar la salida

Esto hace referencia a incluir algunas palabras o frases al final del mensaje para obtener una respuesta del modelo que siga la forma deseada. Por ejemplo, el uso de una indicación como “Here’s a bulleted list of key points:\n- ” puede ayudar a asegurar que la salida tiene el formato de una lista de puntos de viñetas.

En la solicitud anterior, el texto "Una posible consulta de búsqueda es:" prepara el modelo para generar una salida en la forma de una consulta de búsqueda. Esta técnica puede ayudar a eliminar coberturas que el modelo podría agregar normalmente, como "Una posibilidad es...".

Agregar una sintaxis clara

El uso de una sintaxis clara para el mensaje, incluidos los signos de puntuación, los encabezados y los marcadores de sección, ayuda a comunicar la intención y, a menudo, facilita el análisis de las salidas.

En el ejemplo siguiente, se han agregado separadores (--- en este caso) entre diferentes orígenes de información o pasos. Esto permite el uso de --- como condición de parada para la generación. Además, los encabezados de sección o variables especiales se presentan en mayúsculas para diferenciarlos.

Si no está seguro de qué sintaxis usar, considere la posibilidad de usar Markdown o XML, ya que los modelos de lenguaje grandes se han entrenado en una gran cantidad de contenido web en XML o Markdown.

Dividir la tarea

Los modelos suelen funcionar mejor si la tarea se divide en pasos más pequeños. Por ejemplo, en la consulta de búsqueda mencionada anteriormente, la consulta puede reestructurarse de modo que el modelo reciba una primera instrucción para extraer hechos relevantes y, luego, otra para generar consultas de búsqueda que puedan utilizarse para comprobar esos hechos.

Observe el uso de una sintaxis clara para diferenciar las secciones y preparar la salida. En este ejemplo sencillo, dividir la tarea de uno a dos pasos no es muy dramático, pero al intentar hacerlo para un fragmento de texto más grande con muchas afirmaciones objetivas, dividir la tarea puede suponer una diferencia significativa.

Uso de prestaciones

A veces, podemos coger el modelo para usar una prestación en lugar de confiar en sus propios parámetros para obtener información y respuestas. Buscar, por ejemplo, puede ser una prestación para ayudar a mitigar las respuestas fabricadas y para obtener información actualizada.

Una manera sencilla de usar una prestación es detener la generación una vez que el modelo genera las llamadas a la prestación y, a continuación, pegar los resultados de nuevo en la solicitud. A continuación se muestra un ejemplo de lo que podría ser la llamada de seguimiento después de realizar las llamadas de BÚSQUEDA anteriores. Observe cómo pegamos los resultados de la búsqueda en la solicitud y reemplazamos las llamadas de BÚSQUEDA anteriores.

Cadena de pensamientos

Se trata de una variación en la técnica de división de la tarea. En lugar de dividir una tarea en pasos más pequeños, en este enfoque se indica a la respuesta del modelo que continúe paso a paso y presente todos los pasos implicados. Esto reduce la posibilidad de imprecisión de los resultados y facilita la evaluación de la respuesta del modelo.

Si observa que la respuesta del modelo no es la deseada, a menudo puede resultar útil agregar una solicitud de metadatos que corrija directamente el comportamiento. Se trata de una directiva antepuesto a la parte de instrucción de la solicitud. Considere este ejemplo, donde el equipo parece ser demasiado agresivo:

Aunque los metadatos a menudo pueden ayudar a minimizar las salidas incorrectas involuntarias, tenga en cuenta que no son sólidos contra los ataques adversarios, ya que son vulnerables a la inyección de solicitudes.

Además, las instrucciones condicionales que explican lo que debe hacer el modelo si encuentra una circunstancia determinada suelen ser más eficaces que simplemente indicar al modelo que no haga algo.

Aprendizaje en pocos pasos

Una manera muy común de adaptar los modelos de lenguaje a nuevas tareas es usar el aprendizaje en pocos pasos. En pocos pasos se proporciona un conjunto de ejemplos de entrenamiento en la solicitud y, a continuación, se pide al modelo que complete uno o varios ejemplos sin terminar.En el ejemplo siguiente, usamos una instrucción combinada con un aprendizaje de pocos disparos para componer punciones:

Elija cuidadosamente sus ejemplos de pocos planos y asegúrese de que cubren una variedad de circunstancias relevantes para su escenario, incluidos los casos perimetrales.

Además, como ya se ha mencionado, los modelos de lenguaje grandes pueden presentar una forma de sesgo de recencia. Esto significa que el orden en el que se proporcionan ejemplos de "pocos planos" al modelo, es importante. Si no quiere que esto sea importante, considere la posibilidad de realizar un muestreo de varias finalizaciones de solicitudes basadas en orden aleatorios de los ejemplos o elementos de lista.

Usar comillas para generar una sola oración

Si la respuesta del modelo deseada es tan solo una sola frase o cadena simple, podemos finalizar la guía de finalización con un símbolo de comillas " y establecer " como una secuencia de detención.

Especificación de la estructura de salida

El uso de la solicitud para especificar la estructura de la salida puede tener un impacto significativo en la naturaleza y la calidad de los resultados. A veces, las solicitudes de metadatos como "solo escriben hechos verdaderos" o "no inventar información" podrían no ser mitigaciones adecuadas. En su lugar, pedir que la respuesta del modelo incluya también citas puede ayudar a reducir la prevalencia de respuestas incorrectas.

Por ejemplo, si fuerza al LLM a citar la fuente cuando haga afirmaciones, es mucho más probable que esas afirmaciones estén fundamentadas. La solicitud de citas hace que el modelo deba realizar dos errores cada vez que crea una respuesta: el primer error es la respuesta fabricada y el segundo es la cita incorrecta. Tenga en cuenta que cuanto más cerca esté la cita del texto al que apoya, menor es la distancia por delante que el LLM necesita para anticipar la cita, lo que sugiere que las citas insertadas son mejores mitigaciones para la generación de contenido falso que las citas al final del contenido.

Del mismo modo, si pide al modelo que extraiga afirmaciones fácticas de un párrafo, puede extraer instrucciones compuestas como "X está haciendo Y Y Z" (que pueden ser más difícil de comprobar), lo que se puede evitar especificando una estructura de salida como (entidad1, relación, entidad2).

Ajuste de los parámetros Temperature y Top_p

Cambiar el parámetro de temperatura permite que los modelos tengan niveles de riesgo diferentes. Un valor mayor, por ejemplo, 0,7 hará que la salida sea más aleatoria y genere más respuestas divergentes. Aunque un valor inferior, como 0,2, hará que la salida sea más centrada y concreta. Por ejemplo, se podría generar una historia ficticia con un valor mayor. Mientras que para generar un documento legal se recomienda usar un valor mucho menor.

En el ejemplo siguiente, se prueban dos respuestas del modelo con una configuración de temperatura diferente de 0,1 y 0,9, respectivamente. Aunque la evaluación del contenido creativo, como los fragmentos de texto siguientes, es un ejercicio dinámico y las opiniones pueden variar, la diferencia en la respuesta del modelo a la misma petición únicamente de cambiar el parámetro de temperatura es evidente.

Top_probability es otro parámetro y es similar a Temperature en cuanto a que también controla la aleatoriedad de la respuesta del modelo, pero lo hace de otra manera. Experimente con diferentes respuestas del modelo variando Temperature y Top_P, pero no ambas a la vez.

Pasos siguientes

• Obtenga información sobre Azure OpenAI.
• Empiece a trabajar con el modelo ChatGPT con el inicio rápido de ChatGPT.
• Para obtener más ejemplos, consulte el repositorio de GitHub de ejemplos de Azure OpenAl