Saltar al contenido

La ignorancia en la era de la IA

9 min de lectura · 1.938 palabras

Hay una escena que se repite en consultorios, aulas y sobremesas: alguien lee una respuesta generada por inteligencia artificial, le parece bien escrita, y la repite. No verificó la fuente, porque la respuesta venía con tono de autoridad. Días después, el dato es falso. Nadie mintió a propósito, y sin embargo el error se propagó con la misma facilidad con que se lee un mensaje de texto.

La pregunta que ordena este artículo es simple: si tenemos acceso a prácticamente todo el conocimiento humano, ¿por qué resulta cada vez más difícil distinguir lo verdadero de lo falso?

La nueva ignorancia: respuestas fáciles

Durante casi toda la historia, acceder a conocimiento costaba. Había que aprender a leer, encontrar el libro, viajar a la biblioteca, entender el idioma del autor. Ese costo tenía un efecto secundario útil: obligaba a pensar mientras se buscaba.

Hoy el costo es cero. Escribimos una pregunta y llega una respuesta redactada en segundos, con estructura, ejemplos y un tono tranquilo de experto. La fricción desapareció. Y con la fricción desapareció también el momento en que uno se detenía a evaluar lo que tenía delante.

Ese es el cambio de fondo, y no es un cambio de información: es un cambio en la forma en que la información nos llega. Una respuesta generada no nos entrega un documento con autor, fecha y método. Nos entrega una conclusión, ya masticada, en el registro de alguien que sabe.

De ahí nace una ignorancia de otro tipo. No la de quien no tiene datos, sino la de quien tiene muchos y no sabe cómo se produjeron. Es una ignorancia que no se siente como tal, porque viene acompañada de la sensación de haber entendido.

Lo que dice el metaanálisis del IPIE

Dato verificado En mayo de 2026, el International Panel on the Information Environment (IPIE) publicó un metaanálisis de evidencia experimental sobre desinformación generada con IA. Reunió 60 estimaciones de efecto de experimentos controlados, tomadas de 24 publicaciones que suman 33.801 participantes, seleccionadas a partir de casi 7.000 trabajos revisados por pares.[1]

El hallazgo más interesante no es que la IA pueda engañar. Es que la tendencia depende del formato.

En los textos, el efecto crece con el tiempo. Los estudios que recogieron datos entre 2019 y 2024 muestran que la desinformación textual generada por IA se percibe cada vez más como precisa y creíble (β = 0,08; intervalo de confianza del 95 %: 0,02 a 0,15; p = 0,01).[1] Traducido: a medida que los modelos escriben mejor, el ojo humano deja de notar la costura.

En el video pasa lo contrario. La credibilidad percibida de los videos falsos cae con el tiempo (β = −0,22; intervalo de confianza del 95 %: −0,35 a −0,10; p = 0,0003).[1] Los deepfakes se volvieron más comunes, y también más reconocibles.

Tendencias opuestas por formato La credibilidad percibida del texto generado por IA aumenta con los años; la del video disminuye. Credibilidad percibida según el formato · tendencia estimada 2019 2024 efecto + − texto video texto: β = 0,08 por año · video: β = −0,22 por año
Dirección de las dos tendencias descritas en el metaanálisis del IPIE. La heterogeneidad entre estudios es alta, así que se leen como tendencias, no como leyes.

Hay un matiz que el propio informe subraya y que conviene no perder: los intervalos de predicción de varios efectos incluyen el cero. Eso significa que el fenómeno no se reproduce igual en todos los contextos. También hay un estudio con GPT-4 donde las personas siguen reconociendo mejor un texto generado por IA que uno escrito por humanos con intención de engañar.[1]

Hipótesis Si el texto es cada vez más convincente y el video cada vez menos, el riesgo futuro no está en lo espectacular sino en lo ordinario: el párrafo bien escrito que nadie va a auditar porque no parece sospechoso.

Información, conocimiento, comprensión, sabiduría

Cuatro palabras que usamos como sinónimos y que describen cosas distintas. La confusión entre ellas es, en gran medida, la enfermedad de esta época.

Nivel Qué es Cómo se reconoce
1Información Datos disponibles, sin interpretación Se puede copiar y repetir sin entenderla
2Conocimiento Información organizada y relacionada Permite explicar cómo se conecta con otras cosas
3Comprensión Capacidad de explicar por qué algo es así Permite predecir qué pasaría si cambia una condición
4Sabiduría Juicio sobre qué importa y qué conviene hacer Permite decidir, y también decidir no actuar

Un modelo de lenguaje opera con soltura en el primer nivel y produce una apariencia convincente del segundo. Puede redactar una explicación coherente sin que eso garantice que sea verdadera. La coherencia es una propiedad del texto, no del mundo.

Y aquí conviene mirar la evidencia más incómoda, la que no viene de experimentos con participantes sino de conteos.

Estudio (2026) Qué midió Resultado
Seifi y Seyfi, Crit Care Explor Tres modelos, 300 referencias bibliográficas de cuidados neurocríticos, verificadas por dos expertos contra PubMed, DOI y CrossRef 165 de 300 (55 %) con algún error; 85 (28,3 %) inventadas por completo
van Kessel et al., BMJ Health Care Inform 12.197 respuestas diagnósticas de dos modelos sobre viñetas clínicas Omisión de guías clínicas de hasta 97 %; alucinaciones de hasta 9 %

El primer estudio es el más contundente por su diseño: dos especialistas, ciegos a qué modelo había escrito cada referencia, revisaron cada cita contra bases reales. Más de la mitad tenían algo mal; casi una de cada tres no existía.[2] El segundo añade un matiz que sorprende: el problema dominante no es inventar, es omitir. Hasta el 97 % de las respuestas dejaron fuera guías clínicas que correspondían al caso.[3]

Errores en referencias generadas De 300 referencias, 165 con error y 85 fabricadas. 300 referencias generadas por 3 modelos · verificación experta 165 con error (55 %) 85 inventadas 85 165 fabricadas con algún error escala: 1 referencia = 0,8 px
Conteo del estudio de Critical Care Explorations: 300 referencias, 165 con imprecisión y 85 entidades bibliográficas inexistentes.

Sócrates y el arte de no saber

Sócrates no dejó nada escrito. Lo que sabemos de él llega por sus interlocutores, y en la Apología de Platón aparece la escena que funda toda esta discusión: el oráculo dijo que era el más sabio, y él se pasó la vida comprobando que no lo era.[4]

Su conclusión no fue «no se puede saber nada». Fue más fina: los otros creían saber y no sabían; él, al menos, sabía que no sabía.

El pensamiento crítico no consiste en desconfiar de todo. Consiste en saber qué razones tenemos para confiar.

La distinción que separa el escepticismo del criterio

Epicteto aporta la segunda pieza: distinguir entre lo que se presenta ante la mente y el juicio que hacemos sobre ello.[5] Una respuesta generada es una impresión, no una conclusión verificada. Y Marco Aurelio agrega la práctica: examinar la impresión antes de aceptarla, aunque llegue con buena letra.[6]

Reflexión personal Hay una asimetría que el estoicismo describe bien y que la IA volvió urgente: la facilidad para producir una respuesta creció muchísimo; la facilidad para verificarla, casi nada. Toda la diferencia entre saber y creer saber vive en ese espacio.

El texto convence más, el video convence menos

La intuición colectiva dice lo contrario de lo que muestra la evidencia. Nos preocupa el deepfake espectacular, el video imposible, la voz clonada. Y resulta que ese es el formato cuya credibilidad percibida está bajando.

Lo que sube es el párrafo. El texto bien escrito, sin errores de ortografía, con estructura clara y una cita al pasar. Ese formato no activa alarma porque no parece un engaño: parece un artículo.

Hay una segunda contradicción, más incómoda para quien escribe sobre esto. Las contramedidas que la evidencia respalda son modestas en magnitud. El metaanálisis del IPIE encontró un efecto de 0,3 para la información correctiva preventiva —la que se da antes de la exposición— y de 0,24 para el etiquetado de contenido. Son valores entre pequeños y medianos.[1]

Contramedida Efecto estimado Qué implica
Información correctiva preventiva 0,3 Funciona mejor antes del contacto con el contenido falso
Etiquetado del contenido 0,24 Ayuda, pero la heterogeneidad entre estudios es alta

Y hay un límite honesto que conviene decir: varios de esos efectos se calcularon con pocas estimaciones —siete en un caso— y la evidencia no permite afirmar cuál es el tamaño «grande» en este campo. Cualquier titular del tipo «etiquetar arregla el problema» va por delante de los datos.

La tercera contradicción es la más difícil de aceptar: el exceso de desconfianza también tiene costo. Un lector que duda de todo no es un lector crítico; es un lector paralizado, y ese es precisamente el objetivo de quien produce desinformación a escala.

Verificar en cinco pasos

Estos cinco pasos son mecánicos a propósito. No requieren formación científica, y los cinco se pueden hacer en el teléfono.

  1. Separar el dato de la conclusión. Preguntar qué afirmación concreta se está sosteniendo. Si no se puede aislar en una frase, no hay nada que verificar todavía.
  2. Buscar la fuente primaria, no la que la repite. Un número que aparece en diez artículos que se citan entre sí sigue siendo un número sin fuente.
  3. Comprobar que la cita existe. Si el texto dice «según un estudio de 2026», el estudio debe tener título, revista y autores. El conteo del 55 % de referencias con error muestra cuánto importa este paso.
  4. Diferenciar omisión de invención. Un sistema puede decir cosas ciertas y dejar fuera lo esencial. La omisión no deja rastro porque no hay nada falso que detectar.
  5. Escribir el juicio antes de leer la respuesta. Si uno formula su propia hipótesis primero y después consulta, el sesgo de confirmación tiene menos margen. Si consulta primero, la respuesta fija el marco.

Los primeros cuatro pasos son de verificación. El quinto es de orden y es el que más cambia el resultado, porque no depende de la herramienta sino de la secuencia.

La pregunta que queda abierta

La ciencia tiene un método para corregirse: publicar, replicar, refutar. Ese método es lento y funciona. La pregunta es si una conversación privada con una máquina —sin registro, sin revisión, sin réplica— puede heredar algo de esa capacidad de corrección.

El problema de nuestra época no es que falte información. Es que hemos confundido la disponibilidad de respuestas con la posesión de conocimiento.

Idea central del artículo

Queda una pregunta abierta, y no tiene respuesta técnica: si la verificación es individual, ¿cómo se sostiene una sociedad donde la mayoría no verifica?

Esta entrada es la segunda de una serie sobre autonomía y decisión. La primera, sobre la fragilidad de la civilización conectada, mira la dependencia de los sistemas; esta mira la dependencia del conocimiento. Si el tema te interesa, también conviene cómo se decide en quién confiar.

Fuentes

  1. International Panel on the Information Environment. Confronting Misinformation Produced with Generative AI: A Meta-Analysis of Experimental Scientific Evidence. Synthesis Report 2026.2, mayo de 2026. ipie.info
  2. Seifi A, Seyfi A. Hallucination Rate of Peer-Reviewed Citations Generated by Large Language Models in Neurocritical Care. Critical Care Explorations. 2026. doi:10.1097/cce.0000000000001474
  3. van Kessel R, Anderson M, McMillan B, et al. Omission and hallucination prevalence of clinical guidelines in diagnostic large language model outputs. BMJ Health & Care Informatics. 2026. doi:10.1136/bmjhci-2025-101959
  4. Platón. Apología de Sócrates. gutenberg.org
  5. Epicteto. Enquiridión. gutenberg.org
  6. Marco Aurelio. Meditaciones. gutenberg.org

¿Te sirvió esta entrada?

Puedes apoyar con una donación voluntaria. Sin publicidad, sin muros.

Donar con PayPal

También: más formas de apoyar

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.