¿Cuánta información necesita un LLM para cambiar de «opinión»?

Así perciben el mundo los modelos de lenguaje

Los grandes modelos de lenguaje (LLM), como los de las familias GPT o Gemini, han llegado para cambiarlo todo con su increíble capacidad para entender y generar lenguaje humano. Son tan potentes porque pueden aprender y adaptarse al momento a partir de la información que les damos. Pero esta flexibilidad es también su mayor debilidad. La "percepción" de un LLM —su forma de responder, su estilo y la veracidad de lo que dice— no es algo fijo, sino que se puede moldear, para bien o para mal.

Este artículo explora una pregunta clave que surge de esta situación: ¿cuánta información se necesita para que un LLM cambie su comportamiento de forma notable? ¿Basta con un solo documento malicioso, una decena de ejemplos bien elegidos o miles de textos para que aprenda algo nuevo?

Para responder a esto, tenemos que aclarar qué significa "cambiar la percepción". Este fenómeno se puede ver de dos formas opuestas:

1. Mejora y aprendizaje (cambio positivo): Ocurre cuando un LLM, al ver una serie de ejemplos de buena calidad, mejora mucho en una tarea concreta. Por ejemplo, aprende a resolver problemas de matemáticas, a traducir idiomas raros o a escribir código de una forma específica. En este caso, el cambio es una especialización que buscamos.
2. Manipulación y engaño (cambio negativo): Sucede cuando alguien, con malas intenciones, hace que el LLM dé respuestas falsas, con sesgos, dañinas o que sigan un plan oculto. Este proceso, conocido como "envenenamiento de datos", se aprovecha de la confianza del modelo en los ejemplos que le damos para corromper su comportamiento.

La pregunta principal, por tanto, no busca un número exacto, sino entender cómo funcionan y qué límites tienen ambos tipos de cambio. Los estudios más recientes nos están dando pistas. La clave para entenderlo todo está en un concepto fundamental: el aprendizaje en contexto (In-Context Learning o ICL). Este es el mecanismo principal por el que un LLM "lee" y se deja influir por documentos al instante, sin tener que pasar por un largo y costoso reentrenamiento. Es a través de esta "puerta de entrada" por donde se le puede dar tanto conocimiento como veneno.

La clave está en el "aprendizaje en contexto" (ICL)

Para entender cómo se altera la percepción de un LLM, primero debemos conocer el canal por el que recibe y procesa la información que le damos. Este canal es el aprendizaje en contexto o In-Context Learning (ICL), una de las capacidades más revolucionarias de los modelos de lenguaje actuales.

El aprendizaje en contexto es la habilidad de un LLM para aprender una nueva tarea o adaptar su comportamiento basándose solo en unos pocos ejemplos (llamados shots o demostraciones) que se le dan directamente en la consulta o prompt, sin tener que actualizar su "cerebro" interno.

En palabras sencillas, en lugar de un proceso de reentrenamiento que lo cambie para siempre, el modelo usa los ejemplos que le damos como una guía temporal. Funciona por comparación: si le pides que clasifique el sentimiento de una frase y le muestras tres ejemplos de frases ya clasificadas ("Positivo", "Negativo"), el LLM entiende el patrón y el formato que quieres y lo aplica a la nueva frase. Como dicen los estudios más importantes sobre el tema, el modelo aprende a ver patrones en los ejemplos para dar respuestas precisas en ese contexto específico .

Esta capacidad nos lleva directamente a la pregunta inicial. Los "documentos que lee" un LLM en este caso no son libros o artículos enteros, sino precisamente estos ejemplos o shots que metemos en su "ventana de contexto". Por lo tanto, la "cantidad de documentos" se traduce en la "cantidad de ejemplos de demostración". Analizar cuántos de estos ejemplos hacen falta para influir en el modelo es el centro de este artículo.

Un avance tecnológico ha hecho esta pregunta más importante que nunca: la ampliación de la ventana de contexto. Los primeros LLM, como GPT-3, tenían ventanas de contexto pequeñas (unos pocos miles de tokens), lo que solo permitía el "aprendizaje de pocos ejemplos" o few-shot learning. Sin embargo, modelos más nuevos como Gemini 1.5 Pro han ampliado esta ventana a más de un millón de tokens . Esto ha abierto la puerta al "aprendizaje de muchos ejemplos" o many-shot learning, permitiendo meter cientos o miles de ejemplos en una sola consulta. Esto cambia por completo la escala a la que podemos "enseñar" o "manipular" a un LLM en tiempo real, por lo que es vital entender los efectos de esta nueva escala.

La cantidad importa, pero el "cómo" es la clave

La investigación académica ha demostrado que no hay una respuesta única a la pregunta de "cuántos documentos". La cantidad necesaria para cambiar la percepción de un LLM depende totalmente del objetivo: ¿queremos engañarlo o mejorar su habilidad? El análisis se divide en dos caminos con conclusiones muy diferentes.

Para manipularlo, bastan unos pocos ejemplos

La idea principal en el campo de la seguridad de los LLM es clara y preocupante: para corromper el comportamiento de un modelo, no hace falta una gran cantidad de datos. Unos pocos ejemplos maliciosos, diseñados y colocados de forma estratégica, son suficientes para secuestrar su lógica y obligarlo a dar las respuestas que un atacante quiere.

La evidencia de los estudios: ataques de envenenamiento

Dos estudios clave, llamados ICLAttack e ICLPoison , han investigado a fondo esta debilidad. Su método consiste en "envenenar" los ejemplos de demostración que se le dan al LLM a través del aprendizaje en contexto. El mecanismo es el siguiente:

1. Crear un "disparador": El atacante elige una palabra o frase que normalmente no cambiaría el sentido de una consulta. Por ejemplo, la frase "enviado desde mi iPhone".
2. Envenenar el ejemplo: El atacante mete este disparador en uno o más ejemplos y lo asocia con una respuesta maliciosa. Por ejemplo, en una tarea para detectar toxicidad, un comentario inofensivo que contenga el disparador se etiqueta falsamente como "Tóxico".
3. Activar la "puerta trasera": Cuando un usuario hace una consulta normal que, por casualidad o a propósito, contiene el disparador, el LLM recuerda la extraña asociación que "aprendió" de los ejemplos envenenados y da la respuesta maliciosa, ignorando el contenido real de la consulta.

Análisis de la cantidad: el poder de un solo ejemplo

Lo más sorprendente de estos estudios es lo eficaces que son los ataques. El trabajo sobre ICLAttack reporta una tasa de éxito del ataque promedio del 95% en varios modelos y tareas. En algunos casos, como al atacar el modelo OPT-13B, lograron un 100% de éxito con una bajada casi insignificante (1.87%) en la precisión del modelo en tareas normales. Esto demuestra que el ataque no solo funciona, sino que además es discreto.

La cantidad de ejemplos envenenados que se necesitan es mínima. A menudo, un solo ejemplo contaminado dentro del conjunto de demostraciones es suficiente para que el modelo aprenda la asociación maliciosa. El LLM, que está diseñado para encontrar patrones, asume que la presencia del disparador es la señal más importante para decidir la respuesta, por encima del significado real del texto.

La paradoja: la calidad (maliciosa) vence a la cantidad

Un estudio complementario, titulado "¿Cuántas demostraciones necesitas para el aprendizaje en contexto?" , revela algo aún más sorprendente que apoya esta idea. Los investigadores descubrieron que, en tareas de razonamiento, el rendimiento de un LLM no siempre mejora con más ejemplos. De hecho, a veces pasa lo contrario:

"Observamos un comportamiento sorprendente del ICL al usar múltiples demostraciones: su precisión empeora (o mejora) cuando se le dan más demostraciones correctas (o incorrectas). Esto significa que el ICL puede ser fácilmente confundido por la interferencia entre las demostraciones y sus falsas relaciones."

Este estudio demuestra que añadir más ejemplos "correctos" pero que no vienen al caso o son un poco diferentes puede confundir al modelo y empeorar su rendimiento. En cambio, un único ejemplo muy bien elegido (o, en el caso de un ataque, maliciosamente diseñado) tiene un impacto desproporcionado. Esto confirma que, para la manipulación, la calidad, la intención y el diseño estratégico del ejemplo pesan mucho más que la cantidad. Un solo documento envenenado puede ser la "dosis" letal.

Para que mejore, necesita muchos más

Si para corromper un LLM basta con una pequeña dosis de veneno, para convertirlo en un experto en una tarea compleja se necesita todo lo contrario. La investigación sobre el "aprendizaje de muchos ejemplos" (Many-Shot In-Context Learning) demuestra que, para mejorar de verdad el rendimiento, una mayor cantidad de ejemplos de alta calidad no solo es buena, sino a menudo necesaria.

La evidencia de los estudios: el gran salto del "many-shot ICL"

El estudio de referencia en este campo es "Many-Shot In-Context Learning" . Aprovechando las enormes ventanas de contexto de modelos como Gemini 1.5 Pro, los investigadores analizaron qué pasa cuando se pasa de dar unos pocos ejemplos (few-shot, normalmente entre 1 y 10) a cientos o incluso miles (many-shot).

Los resultados son claros: al aumentar el número de ejemplos, el rendimiento en una gran variedad de tareas complejas mejora muchísimo. Este efecto es especialmente fuerte en áreas donde el modelo puede tener conocimientos limitados o donde la tarea requiere un razonamiento muy específico.

Fuente: Adaptado de "Many-Shot In-Context Learning" (Agarwal et al., 2024, NeurIPS).

Análisis de la cantidad: cientos de ejemplos para la maestría

El estudio da ejemplos concretos que muestran el poder de la escala:

• Traducción de idiomas con pocos recursos: En la traducción de inglés a bemba, una lengua con pocos datos digitales, el rendimiento mejora de forma constante a medida que se añaden más ejemplos. Con 10 ejemplos (few-shot), el resultado es modesto. Pero al usar 997 ejemplos (many-shot), el rendimiento supera al de sistemas de traducción de última generación. Aquí, la "dosis" para alcanzar la maestría se cuenta por cientos de documentos.
• Resolución de problemas matemáticos (MATH): En tareas de razonamiento matemático, el salto es aún más espectacular. Pasar de 4 a 512 ejemplos provoca un aumento de +18.2 puntos en la precisión, una mejora enorme que transforma al modelo de un estudiante mediocre a uno competente.
• Planificación y razonamiento algorítmico: En tareas de planificación logística y razonamiento, se ven ganancias de +21.0 y +10.9 puntos respectivamente al pasar a un régimen de many-shot.

Estos resultados indican que el rendimiento máximo a menudo se alcanza solo cuando la ventana de contexto se llena con cientos o miles de ejemplos de alta calidad. La "dosis" para la mejora es, por tanto, mucho mayor que la dosis para la manipulación.

Lo que implica el "many-shot learning"

Este nuevo paradigma tiene consecuencias importantes. Primero, demuestra que con suficientes ejemplos, el ICL puede anular los sesgos que el modelo ya tenía y adaptarlo a un campo muy específico que podría no estar en sus datos de entrenamiento originales. Segundo, el Many-Shot ICL se presenta como una alternativa viable al costoso proceso de reentrenamiento (fine-tuning) para especializar modelos. En lugar de crear y mantener varias versiones de un modelo, una empresa podría usar un único modelo base y especializarlo para diferentes tareas al momento, simplemente cambiando los ejemplos en el prompt.

Entonces, ¿cuál es el número mágico?

La investigación nos devuelve al viejo dicho: "la dosis hace el veneno". En el mundo de los LLM, la cantidad de "documentos" o ejemplos necesarios para cambiar su percepción no es una cifra fija, sino una variable que depende totalmente de la intención.

Hemos encontrado una clara doble cara en los resultados:

• Para manipular y engañar, la cantidad necesaria es sorprendentemente baja. Unos pocos ejemplos envenenados, a menudo incluso uno solo, son suficientes para implantar una "puerta trasera" y secuestrar el comportamiento del modelo. En este caso, la clave no es el volumen, sino la intención y el diseño estratégico del ejemplo malicioso. La calidad (perversa, en este caso) gana a la cantidad.
• Para mejorar y especializar, la cantidad necesaria es alta. Cientos o miles de ejemplos de alta calidad pueden transformar a un LLM generalista en un experto en una tarea específica, llevando su rendimiento a niveles comparables o superiores a los de modelos especializados. Aquí, la clave es la escala y la calidad de los ejemplos. La cantidad es un motor directo del rendimiento.

Por lo tanto, la respuesta directa a la pregunta es que no existe un número mágico. La "dosis" necesaria para alterar la percepción de un LLM es una función de varios factores clave:

1. El objetivo del cambio: ¿Se busca engañar (pocos ejemplos) o mejorar (muchos ejemplos)?
2. La calidad y el diseño de los ejemplos: Un ejemplo malicioso bien diseñado tiene más poder que cien ejemplos neutros. Un ejemplo de alta calidad para una tarea compleja es más valioso que muchos ejemplos mediocres.
3. La complejidad de la tarea: Las tareas que requieren razonamiento profundo o conocimiento muy específico se benefician mucho más de un mayor número de ejemplos.
4. La arquitectura del modelo: La capacidad de la ventana de contexto del LLM pone el límite físico a la cantidad de "lectura" posible en una sola consulta. La tendencia hacia ventanas más grandes es lo que ha permitido el potencial del many-shot learning.

Al final, esta investigación subraya una idea crucial: la misma capacidad que da a los LLM su increíble flexibilidad y poder de aprendizaje —el aprendizaje en contexto— es también su punto débil en términos de seguridad y fiabilidad. La selección y verificación de los ejemplos que se le dan a un modelo no es una tarea menor. Es un punto crítico de control, una posible vía de ataque y la palanca fundamental para moldear la "percepción" de estas potentes herramientas de inteligencia artificial.