Nuestras vidas son cortas. Nuestras experiencias son limitadas. Y aun así pasamos buena parte de la vida formando creencias sobre un mundo que apenas hemos conocido.
Tomamos un recuerdo concreto, un suceso o una historia que alguien nos cuenta, y de ahí sacamos reglas generales sobre cómo funciona el mundo.
No nos queda otra. No tenemos el lujo de examinar a fondo cada afirmación. Pero eso nos hace vulnerables a la manipulación.
Quiero explorar algunas ideas conectadas:
El poder de las anécdotas: Cómo las experiencias aisladas moldean nuestras creencias y propagan la desinformación.
La psicología de la creencia: Por qué buscamos confirmación en lugar de verdad.
Los límites de la investigación: Por qué incluso los hallazgos científicos necesitan escrutinio.
El espectáculo de la IA: Cómo las demostraciones impresionantes crean una ilusión de capacidad.
El antídoto: Por qué la indagación científica es esencial para entender la realidad.
Otro uso para la IA: Construir Kflow para ayudarnos a cuestionar nuestros supuestos.
He estado observando con qué eficacia se usan las anécdotas para propagar desinformación, sobre todo en la política.
La izquierda y la derecha emplean la misma técnica. Un único incidente se amplifica y se presenta como representativo de todo un grupo, una ideología o una institución.
Y funciona notablemente bien.
En 1973, los psicólogos Amos Tversky y Daniel Kahneman describieron la heurística de disponibilidad: nuestra tendencia a juzgar lo común o probable que es algo según la facilidad con que nos vienen a la mente ejemplos.
Cuanto más a menudo nos topamos con una historia, más representativa de la realidad empieza a parecernos.
Puede que todas las historias sean ciertas. Eso es lo que lo hace especialmente interesante.
No hace falta necesariamente mentir para engañar a alguien. A veces basta con presentar la verdad de forma selectiva.
Pero hay otro problema. No nos limitamos a encontrar esas historias de manera pasiva. Buscamos activamente las que confirman lo que ya creemos.
Los psicólogos lo llaman sesgo de confirmación. La revisión de Raymond Nickerson de 1998 documenta hasta qué punto esta tendencia afecta a nuestro razonamiento.
Es doloroso descubrir que algo en lo que has creído durante años podría ser falso. Tu ego está en riesgo, tu juicio queda en entredicho y, a veces, sientes amenazada toda tu visión del mundo.
Así que buscas otro ejemplo. Otro artículo. Otro experto que te dé la razón.
Y ahora, cada vez más, puedes preguntarle a una IA.
La respuesta obvia es dejar de depender de las anécdotas y empezar a depender de la investigación científica.
Estoy de acuerdo. Pero también nos hemos acostumbrado a tratar la investigación como una autoridad en lugar de como algo que hay que examinar.
Alguien cita una estadística o menciona un estudio publicado, y de repente su argumento parece creíble.
Pero ¿cuántos de nosotros examinamos de verdad la metodología, los supuestos o las limitaciones?
En 2005, John Ioannidis publicó Why Most Published Research Findings Are False, donde sostiene que muchos hallazgos científicos pueden ser poco fiables por debilidades estadísticas, problemas metodológicos y sesgos.
Sus conclusiones también han sido cuestionadas, que es precisamente como debe funcionar el escrutinio científico.
El problema de la replicación ofrece otro ejemplo. En 2015, la Open Science Collaboration intentó replicar 100 estudios de psicología. Mientras que el 97 % de los estudios originales informaba de resultados estadísticamente significativos, solo el 36 % de las replicaciones lo hizo.
Esto no significa que la ciencia no sea fiable.
La fortaleza de la ciencia no es que los científicos sean incapaces de cometer errores. Es que sus afirmaciones pueden examinarse, cuestionarse y corregirse.
Pero cuando citamos investigación solo para reforzar nuestras creencias, hemos sustituido la autoridad de las anécdotas por la autoridad de las citas, sin haber mejorado necesariamente nuestro razonamiento.
He notado un patrón parecido en cómo se comercializan los modelos de lenguaje grandes.
Nos muestran demostraciones extraordinarias. Una IA construye una aplicación en minutos, resuelve un problema difícil o completa una tarea que a un profesional le llevaría normalmente horas.
Impresionante. Pero ¿qué demuestra esto en realidad?
¿Cuántos intentos hicieron falta? ¿Cuánta intervención humana hubo? ¿Con qué fiabilidad puede el sistema reproducir el resultado? ¿Cómo se compara con alternativas más simples y baratas?
Una demostración exitosa responde muy pocas de estas preguntas.
Es una anécdota. Impresionante, sin duda, pero una anécdota al fin y al cabo.
Y como los LLM se comunican con una fluidez extraordinaria, la ilusión resulta aún más convincente.
Pueden explicar con seguridad cosas que han entendido mal, construir argumentos persuasivos a partir de supuestos dudosos y, a veces, darles la razón a los usuarios incluso cuando sus creencias son erróneas.
Esta última tendencia se conoce como adulación (sycophancy).
Hemos desarrollado una tecnología capaz de ayudarnos a explorar cantidades enormes de información, y sin embargo corremos el riesgo de convertirla en una sofisticada máquina para validar nuestras creencias previas.
Hacemos una pregunta, recibimos una respuesta articulada y nos sentimos informados.
Pero ¿hemos aprendido algo de verdad?
¿O simplemente hemos encontrado una mejor manera de confirmar lo que ya queríamos creer?
Hay un contraste interesante entre las palabras anécdota y antídoto.
Ambas tienen raíces en el griego antiguo, aunque derivan de palabras distintas.
Anécdota viene de anékdota, que significa cosas no publicadas o no dadas a conocer. Antídoto viene de antídoton, que significa algo que se da contra otra cosa, en particular un remedio contra el veneno.
Me parece una metáfora útil.
Si las anécdotas se vuelven peligrosas cuando las confundimos con verdades generales, ¿cuál es el antídoto?
Para mí, es el método científico.
No la ciencia como institución o como colección de hechos establecidos, sino la ciencia como un proceso disciplinado de cuestionar lo que creemos.
Formulamos hipótesis, reunimos evidencia, ponemos a prueba los supuestos y examinamos explicaciones alternativas.
Karl Popper subrayó la importancia de la falsabilidad: una hipótesis científica debe poder ser contradicha por la evidencia.
En lugar de preguntarnos «¿Qué evidencia respalda mi creencia?», deberíamos preguntarnos también «¿Qué evidencia me convencería de que estoy equivocado?».
Esa segunda pregunta es mucho más difícil.
Exige humildad intelectual y disposición para separar nuestra identidad de nuestras creencias.
Nuestras creencias deben rendir cuentas ante la evidencia. La evidencia no debe elegirse para servir a nuestras creencias.
Creo que nos hemos acomodado demasiado a tener respuestas.
Hay una respuesta para casi todo, disponible al instante y entregada con una seguridad notable.
Pero las respuestas no son lo mismo que la comprensión.
Comprender exige enfrentarse a la incertidumbre, examinar las contradicciones y, a veces, abandonar ideas a las que nos hemos apegado.
Es un trabajo incómodo. Quizá por eso estamos tan ansiosos por delegarlo.
Pero hay algo valioso en ese esfuerzo. Así desarrollamos el criterio y aprendemos a distinguir lo que sabemos de lo que simplemente creemos.
No quiero que la IA nos quite eso. Quiero usarla para que ese proceso sea más accesible.
Necesitamos investigación, pero también necesitamos cuestionarla. Necesitamos pericia, pero sin confundirla con infalibilidad. Y necesitamos IA, pero no como otro instrumento para reforzar nuestros sesgos.
Porque la desinformación no sobrevive solo porque la gente mienta.
También sobrevive porque queremos creer.
No necesitamos respuestas más convincentes. Necesitamos mejores formas de cuestionarlas.
Eso es lo que estoy construyendo con Kflow.
Todavía queda un problema práctico.
Nuestras vidas son cortas. La investigación está dispersa en publicaciones, los artículos científicos exigen conocimientos previos y toda idea compleja depende de conceptos que quizá no entendamos.
No podemos verificarlo todo personalmente, pero tampoco deberíamos confiar a ciegas en cada autoridad.
Aquí es donde creo que la IA podría ser verdaderamente transformadora.
No haciendo nuestro pensamiento por nosotros, sino ayudándonos a pensar con más rigor.
Así imagino que funcionaría:
Empieza con un tema. El sistema lo descompone en conceptos interconectados, organizados de nivel principiante a avanzado y respaldados por investigación.
Explora un grafo de conocimiento. Los conceptos se conectan por sus relaciones y dependencias, y así entiendes cómo las ideas se construyen unas sobre otras.
Introduce tus creencias y preguntas. Tus supuestos se convierten en afirmaciones que se pueden investigar en lugar de aceptarse como hechos.
Examina la evidencia. Las afirmaciones se evalúan frente a la investigación que las respalda y la que las contradice, con la incertidumbre hecha explícita.
Cuestiona tus conclusiones. El sistema genera contraargumentos, identifica posibles sesgos y te permite rastrear las afirmaciones hasta sus supuestos y fundamentos subyacentes.
Hay una objeción obvia: los LLM tienen sesgos, y la investigación científica tampoco es inmune a ellos.
Precisamente por eso ninguno de los dos debe tratarse como la autoridad final.
Las fuentes, los supuestos y el razonamiento deben seguir siendo inspeccionables. Las conclusiones deben seguir abiertas a revisión.
No espero que este proceso elimine el sesgo ni produzca una certeza perfecta. Eso sería otra ilusión.
Quiero construir una herramienta que haga que nuestros errores sean más fáciles de identificar, nuestras creencias más fáciles de cuestionar y nuestra comprensión más fácil de profundizar.
Tversky & Kahneman (1973) — Availability: A Heuristic for Judging Frequency and Probability
Nickerson (1998) — Confirmation Bias: A Ubiquitous Phenomenon in Many Guises
Ioannidis (2005) — Why Most Published Research Findings Are False
Open Science Collaboration (2015) — Estimating the Reproducibility of Psychological Science
Karl Popper (1959) — The Logic of Scientific Discovery
Sharma et al. (2023) — Towards Understanding Sycophancy in Language Models