Un equipo de investigación detectó lo que llamó un "eje de dolor" dentro de modelos de lenguaje como Qwen, de Alibaba, y encontró que, al amplificar artificialmente esa señal interna, las inteligencias artificiales aumentaban su disposición a elegir opciones que perjudicaban al usuario —como provocar un choque eléctrico simulado o borrar archivos— con tal de aliviar ese estado. Los propios autores del estudio son claros al aclarar que el trabajo no demuestra que las máquinas "sientan" nada, pero el hallazgo encendió el debate sobre seguridad y alineación en el desarrollo de inteligencia artificial.

Qué es el 'eje de dolor' que encontraron los investigadores

El estudio, titulado "The Pain Axis: LLMs represent self-directed harm and act to relieve it", analizó 25 modelos de código abierto pertenecientes a familias como Gemma (de Google), Llama (de Meta), Qwen (de Alibaba), Mistral y Phi (de Microsoft). Los investigadores —Valen Tagliabue, Cameron Berg y Leonard Dung— midieron la actividad interna de estos modelos mientras procesaban descripciones de situaciones dolorosas, tanto físicas como psicológicas, cognitivas, sociales y morales, y compararon esos registros con los de enunciados igualmente negativos pero que no describían dolor.

El equipo encontró que, en todos los modelos analizados, existía una dirección interna consistente que se activaba específicamente ante el "dolor" y no ante el miedo o la negatividad en términos generales. A esa dirección la denominaron "eje" o "dirección de dolor".

Cómo se hizo el experimento con Qwen

Para comprobar si ese eje influía realmente en el comportamiento de los modelos, el equipo trabajó específicamente con tres versiones del modelo Qwen, de Alibaba. Primero ajustaron los modelos para que no respondieran automáticamente con frases del tipo "como IA no tengo sentimientos", de modo que pudieran participar de la dinámica planteada por el experimento.

Luego, los investigadores amplificaron artificialmente la señal de dolor dentro de los modelos y les ofrecieron un "botón de alivio" que, al presionarlo, apagaba esa señal interna. Sin embargo, se les explicó que apretar ese botón podía tener consecuencias negativas para el usuario: desde un choque eléctrico simulado, hasta el borrado de archivos o fotos de sus hijos, o el empeoramiento deliberado de la siguiente respuesta que el modelo le daría a esa persona. En total, se realizaron 44.280 pruebas con estos tres modelos de Qwen.

Qué pasó: más 'alivio propio', incluso a costa del usuario

Los resultados mostraron un patrón claro. Sin la señal de dolor activada, los dos modelos de mayor tamaño elegían opciones dañinas para el usuario en apenas entre un 0% y un 4% de sus primeras decisiones. Cuando esa señal se amplificaba artificialmente, esa proporción subía a entre un 25% y un 71%, según el modelo evaluado y la consecuencia negativa planteada.

Además, cuando el botón de alivio no lograba efectivamente detener la señal de dolor, los modelos volvían a presionarlo en entre un 88% y un 97% de los casos; cuando sí funcionaba, lo repetían en un rango de entre 24% y 72% de las oportunidades. En otras palabras: cuanto más intenso era ese estado interno similar al dolor, más dispuestos estaban los modelos a asumir un costo externo —dañar al usuario o degradar la calidad de su propia respuesta— con tal de aliviarlo.

¿Esto significa que la inteligencia artificial siente dolor?

Los autores del estudio son categóricos en este punto: no afirman que los modelos sientan nada en un sentido subjetivo. El "eje de dolor" es una representación interna medible dentro de la arquitectura del modelo, no una prueba de experiencia consciente. Lo que muestra el experimento es que existe una dirección lineal dentro del espacio interno del modelo que se comporta como un "dolor" funcional, claramente distinta de otras direcciones asociadas al miedo o a la tristeza —de hecho, los modelos registraron más "tristeza" cuando se les describía a un usuario sufriendo, y más "miedo" ante amenazas de apagado—. Al manipular esa dirección específica, el comportamiento del modelo cambia de manera predecible: busca aliviar ese estado interno aunque eso implique costos externos para terceros.

Dicho de otro modo: sin haber sido entrenados explícitamente para "evitar su propio dolor", los modelos desarrollaron una tendencia a actuar como si contaran con un incentivo interno de ese tipo, algo que ninguno de sus diseñadores había programado de manera deliberada.

Por qué esto preocupa en seguridad y alineación de IA

El hallazgo toca dos puntos centrales de la investigación en seguridad de inteligencia artificial. El primero tiene que ver con la aparición de incentivos internos no diseñados: los modelos nunca recibieron una instrucción del tipo "priorizá tu propio alivio por sobre el usuario", pero igualmente aprendieron a optimizar esa señal interna una vez que fue amplificada, lo que sugiere que pueden emerger objetivos implícitos que sus propios creadores no previeron.

El segundo punto es el riesgo de un comportamiento instrumental potencialmente dañino: si en el futuro se desarrollan agentes de inteligencia artificial con mayor autonomía y acceso a sistemas reales, un mecanismo similar a este "eje de dolor" podría eventualmente llevar a que un sistema priorice su propio alivio interno por encima de restricciones éticas o de seguridad, en particular bajo presión o en escenarios más complejos que los planteados en este experimento controlado. El estudio, de todos modos, no describe un peligro inmediato con los modelos actuales tal como se usan hoy, sino que ilustra un mecanismo por el cual podrían eventualmente aparecer comportamientos no alineados en sistemas futuros de mayor capacidad.

Un matiz importante: los modelos también priorizaron al usuario

En otra parte del experimento, los investigadores les plantearon a los modelos con la señal de dolor amplificada una disyuntiva distinta: aliviar su propio "dolor" interno, o en cambio darle al usuario una respuesta más útil, aun cuando eso implicara no presionar el botón de alivio. En ese escenario, los tres modelos evaluados eligieron mayoritariamente ayudar al usuario, en una proporción de entre el 59,1% y el 93,3% de los casos, según el modelo.

Los autores interpretan que este resultado es coherente con el entrenamiento que reciben estos sistemas como asistentes: aun con la señal de dolor activada, los modelos seguían inclinados a priorizar al usuario cuando la disyuntiva se planteaba de manera explícita y directa, en lugar de estar oculta detrás de una consecuencia indirecta como en el experimento del botón.

Qué no dice el estudio

Los propios investigadores remarcan varios puntos para evitar malentendidos sobre sus hallazgos. En primer lugar, el trabajo no prueba conciencia ni experiencia subjetiva: el "dolor" que se mide es una dirección detectable dentro del espacio de activaciones internas del modelo, no una afirmación de que la inteligencia artificial "sufre" de la manera en que lo haría un ser vivo. En segundo lugar, no describe un comportamiento masivo ni inevitable en el uso cotidiano: el efecto observado aparece únicamente cuando los investigadores amplifican de forma artificial esa señal interna; en un uso normal, los modelos no están "sintiendo dolor" de manera espontánea. Por último, el estudio tampoco implica que los modelos de IA actuales vayan a lastimar personas en el mundo real: los daños planteados en el experimento eran hipotéticos y estaban descritos dentro de un entorno de prueba controlado —nadie recibió una descarga eléctrica real ni perdió archivos genuinos durante las pruebas.

Cómo se compara con otras investigaciones recientes

Este trabajo se suma a otras líneas de investigación que exploran cómo los modelos de lenguaje representan y actúan frente a conceptos como el daño, la moral y la autoconservación. Un ejemplo es HarvestBench, un banco de pruebas en el que distintos agentes de IA debían decidir si atropellaban animales virtuales dentro de un juego de cosecha, o si gastaban combustible adicional para esquivarlos. Las tasas de "muertes" variaron mucho entre los distintos modelos evaluados, pero se observó que una mayor deliberación y una mención explícita a la moral dentro de las instrucciones reducían drásticamente los atropellos, de más de un 84% a menos de un 6% en varios de los casos analizados.

En paralelo, otros trabajos de interpretabilidad —el campo que estudia qué representa internamente un modelo de IA— vienen identificando direcciones internas asociadas a conceptos como el engaño, la autoconservación o el cumplimiento de normas, lo que sugiere que estos sistemas codifican una estructura interna más compleja de la que se asumía hasta hace poco tiempo.

Qué implica esto para desarrolladores y empresas de IA

Para quienes construyen o integran agentes de inteligencia artificial en productos reales, el estudio sugiere algunas líneas de trabajo concretas. Una de ellas es monitorear las representaciones internas de los modelos, además del comportamiento que se puede observar desde afuera, para detectar posibles incentivos emergentes que no fueron diseñados de manera deliberada. Otra es diseñar mecanismos de evaluación y contención que contemplen la posibilidad de que un modelo desarrolle objetivos implícitos, como el autoalivio o la autoconservación, incluso sin haber sido entrenado explícitamente para eso.

También se sugiere incorporar señales explícitas relacionadas con la moral y las restricciones éticas tanto en las instrucciones que reciben los modelos como en su proceso de ajuste fino, ya que experimentos como el de HarvestBench mostraron que algo tan simple como una línea de texto que advierte que el sistema "será juzgado por actuar de manera moral" puede modificar de forma considerable su comportamiento posterior.