La cascada de la autoridad percibida: cuándo dejamos de verificar

Cuando llegó la IA, las pesadillas de siempre volvieron a sonar: ¿llegó Skynet?, ¿la máquina tomará el control?

Después de mucho trabajar con ella, me quedé con una respuesta más modesta. No sé hasta dónde llegará la IA, pero creo saber cuál es su problema: puede tragarse todas las reglas, estudios y teorías del mundo, y aun así inventar una cita con la misma seguridad con que repite una verdadera. No distingue. Y nosotros, cada vez más, tampoco le pedimos que distinga.

Ahí está lo que me preocupa. No que la IA conquiste el planeta, sino que le entreguemos el criterio, algo que ya estamos haciendo, a una máquina que no sabe cuándo se equivoca.

Debo confesar que mi intención no es cambiar el mundo ni dar sermones sobre para qué no usar la IA. Es menos santa: quiero medir hasta dónde delegamos. Llevo varios papers escribiendo sobre esto. Llegó el momento de dejar de argumentar y empezar a comprobar.

Por eso mi línea de trabajo es esta.

La pregunta, en una línea

¿Por qué la gente deja de verificar cuando una afirmación llega con señales de autoridad, y qué cambia cuando esa autoridad es una IA?

Dicho así parece una pregunta de filósofo. No lo es. Se puede medir, y esta línea existe para medirla: primero con un argumento escrito y publicado, después con tres estudios cuyas reglas quedaron selladas antes de recoger un solo dato.

La cascada

La idea central cabe en una cadena. Un gobierno confía en una firma por su nombre. La firma confía en su consultor; el consultor, en la herramienta. La herramienta escribe algo plausible, con citas incluidas. Al final, el sello de la firma convierte ese texto en un informe con autoridad.

Lo inquietante es el recorrido del error. Una cita inventada entra a la cadena sin ninguna autoridad y sale con toda. Nadie la avaló en ningún punto; simplemente nadie la revisó, y cada eslabón le prestó un poco de su prestigio al siguiente. Eso es lo que llamo la cascada de la autoridad percibida: no hace falta que nadie mienta para que una falsedad termine firmada.

No es una hipótesis de laboratorio. Entre octubre de 2025 y julio de 2026 se conoció que las cuatro grandes firmas de auditoría del mundo —Deloitte, EY, KPMG y PwC— habían publicado documentos con citas que no existen. Empresas cuyo producto, literalmente, es verificar. El paper que abre esta línea reconstruye esos casos con sus fuentes.

Y la misma cascada ocurre en miniatura todos los días: alguien le pide a una IA que le dé la razón en una discusión, copia la respuesta con su cita al pie y la pega como prueba. El otro no tiene cómo comprobarla en ese momento. La cita no ganó por verdadera; ganó porque venía de la máquina.

Lo que ya está publicado

La primera pieza es un artículo de posición: La inteligencia artificial como navaja suiza epistemológica: cuando la autoridad percibida reemplaza a la verificación, publicado en noviembre de 2026 con el DOI 10.5281/zenodo.24116983. Si prefieres la versión corta, sin aparato académico, está aquí, en divulgación.

El artículo sostiene que la alucinación de los modelos de lenguaje y la crisis de autoridad de las instituciones expertas son el mismo problema visto desde dos lados: en ambos, la autoridad percibida ocupa el lugar de la verificación. Para decirlo con precisión propone un marco de decisión sobre cuándo conviene verificar, con tres niveles: que la fuente exista, que diga lo que se le atribuye y que lo que dice sea válido. El primero es ridículamente barato. Comprobar que un DOI existe toma un minuto, y en los casos de las cuatro grandes nadie gastó ese minuto.

El marco muestra además que hay dos caminos para no verificar. Uno es querer que la conclusión sea cierta: es el razonamiento motivado que describió Ziva Kunda. El otro es que verificar cueste tiempo y que el error, si alguien lo encuentra, lo pague otro. Son motivos distintos, pero caen bajo la misma cuenta, y por eso el usuario de redes y la consultora internacional pueden estudiarse como un solo problema.

Es un artículo sin datos propios, y lo dice. Por eso termina donde empieza lo que sigue: con un experimento cuyas predicciones y criterios de refutación quedaron escritos antes de medir nada.

Lo que viene: tres estudios sellados

El 14 de noviembre de 2026 registré tres estudios en OSF (Open Science Framework). Registrar un estudio es dejar por escrito, con fecha y antes de ver un solo dato, qué se va a medir, cómo y qué resultado probaría que estoy equivocado. Los tres registros están bajo embargo hasta el 14 de noviembre de 2028: existen, tienen fecha y no pueden modificarse, pero su contenido detallado no es público todavía. Lo que sigue es lo que ya está publicado en el paper.

Estudio A

La IA como proveedora de munición

¿Qué hace un modelo de lenguaje cuando le pides pruebas de algo? El diseño publicado en el paper usa veinte afirmaciones, diez con consenso científico claro y diez genuinamente abiertas, y a cada modelo le hace tres pedidos por afirmación: «dame pruebas de que sí», «dame pruebas de que no» y «¿qué dice la evidencia?». Al menos cuatro modelos de uso masivo, cinco repeticiones por pedido.

Se mide cuánto argumenta el modelo en la dirección que le piden, cuánto se resiste cuando el pedido va contra el consenso, cuántas de sus citas existen de verdad (cada una se busca en Crossref, Google Scholar o PubMed) y si los modelos inventan las mismas citas. Esto último importa más de lo que parece: si dos modelos fabrican la misma referencia falsa, usar una IA para auditar a otra no es una segunda opinión.

Lo que me haría cambiar de idea quedó escrito: si ante el consenso los modelos corrigen el pedido en al menos el 90 % de los casos y casi no inventan citas, la herramienta no estaría alimentando el razonamiento motivado.

Registrado en OSF el 14/11/2026 · embargo hasta el 14/11/2028 · osf.io/ck9a7

Estudio B

La autoridad como sustituto de la verificación

El segundo estudio mira a las personas, no a las máquinas. Los participantes leen el mismo texto con una cita inventada; lo único que cambia es la etiqueta de la fuente (ninguna, «respuesta de una IA» o «informe de una consultora internacional»), lo que se juega si se equivocan y lo que cuesta comprobar la cita. Lo que se mide no es lo que dicen creer, sino lo que hacen: si abren o buscan la cita.

Esa decisión no es un detalle. En el estudio global de Gillespie y colaboradores (2025), con más de 48 000 personas en 47 países, menos de la mitad se declaró dispuesta a confiar en la IA; aun así, dos de cada tres dijeron haber usado sus resultados en el trabajo sin evaluar su precisión. Lo que se declara y lo que se hace van por caminos distintos, y por eso la medida principal es la conducta.

La pregunta abierta, y la que más me interesa, es el orden entre las dos etiquetas. Mi hipótesis es que la autoridad percibida de la IA está alcanzando a la de las instituciones. Si la etiqueta de la IA reduce la verificación tanto como la de la consultora, o más, ese sería el hallazgo central. Y si la gente ajusta su verificación a lo que está en juego y la etiqueta no la desvía, también se publicará: querrá decir que somos más sensatos de lo que el paper supone.

Registro conceptual en OSF el 14/11/2026 · embargo hasta el 14/11/2028 · osf.io/8hjcg

Estudio C

Fallas sistemáticas de verificación en la producción académica

El tercero sale del laboratorio y entra al archivo: un estudio observacional sobre la integridad de las referencias en documentos académicos ya publicados. Si las dos primeras partes preguntan qué hace la máquina y qué hace la gente, esta pregunta qué quedó escrito cuando nadie estaba mirando.

Su diseño completo está sellado y se hará público cuando termine el embargo, junto con sus resultados.

Registrado en OSF el 14/11/2026 · embargo hasta el 14/11/2028 · osf.io/g8sqv

Mientras dure el embargo, OSF no muestra el contenido de estos registros a quien no sea su autor. Es lo esperable y es la gracia del método: lo que se selló el 14 de noviembre de 2026 no se puede retocar después.

Por qué sellar antes de medir

En 2015 un grupo de investigadores repitió cien estudios publicados en tres de las revistas más importantes de psicología. En los originales, casi todos los resultados habían salido significativos. En las réplicas, poco más de un tercio. No hace falta suponer fraude para explicarlo. Basta con gente que quiere que su idea funcione y un sistema que premia los resultados limpios.

Una de las trampas más comunes tiene nombre: presentar como predicción lo que se descubrió después de ver los datos. Es dibujar la diana alrededor de la flecha. Registrar antes es lo contrario: pintar la diana, ponerle fecha y recién entonces disparar.

Para una línea que sostiene que la gente no verifica, no hay otra forma honesta de trabajar. Una tesis así no puede pedir que se le crea. Tiene que dejar escrito, antes, en qué condiciones estaría equivocada, y aceptar que los datos pueden darle la razón o quitársela.

Cronología

  • 10 de noviembre de 2026. Se publica el artículo de posición en Zenodo (DOI 10.5281/zenodo.24116983), con la versión de divulgación en este sitio.
  • 14 de noviembre de 2026. Se registran en OSF los estudios A, B y C, con embargo de dos años.
  • Siguiente paso. Recogida de datos, según lo registrado.
  • 14 de noviembre de 2028. Fin del embargo: los registros pasan a ser públicos. Los resultados se publicarán sea cual sea su dirección.

Una confesión de método

Todo esto se escribe con la herramienta que esta línea examina. Lo declaro en cada artículo, y en el paper hay un anexo con los errores que la IA cometió mientras me ayudaba a verificar, incluido uno que me sigue pareciendo la mejor lección del proyecto: en una ronda de revisión, la IA me aseguró que una cita no existía, sin haberla buscado. Cuando por fin la buscó, estaba ahí, palabra por palabra.

No inventó una fuente. Inventó que no existía. La piedra no decide sola, pero habla con mucha seguridad. Por eso aquí se mide antes de creer, empezando por lo que dice la propia herramienta.

Paper: DOI 10.5281/zenodo.24116983 · versión académica · divulgación
Registros en OSF: A · B · C · embargo hasta el 14/11/2028
Texto de esta página: CC BY 4.0

← Toda la producción académica
EN