El punto ciego de ChatGPT

Este artículo forma parte de la revista TintaLibre de mayo. Los lectores que deseen suscribirse a EL PAÍS conjuntamente con TintaLibre pueden hacerlo a través de este enlace. Los ya suscriptores deben consultar la oferta en[email protected] o 914 400 135.

La mitad del planeta está jugando con ChatGPT (o DeepSeek u otros), y al menos la mitad de mis amigos también: a ver qué dicen estos sistemas de inteligencia generativa de cada uno de nosotros, qué retrato nos sacan, qué ponderaciones hacen de nuestros (múltiples) méritos, qué destacan adecuadamente y qué orillan, cómo nos venden de cara al público que pregunta, aunque no sabremos la respuesta que cada cual recibirá: ¿sabrá el sistema atenuar este perfil más sombrío y destacar aquel otro más decoroso? ¿El análisis de la evolución de un escritor o de un pensador o de un político o de una idea o de una estética o de una institución se inclinará a subrayar el origen primigenio y bondadoso o el final malévolo y adulterado? ¿Esa exquisita equidistancia que gasta la máquina servirá también para atenuar la gravedad de determinados actos gracias a la compensación de haberse redimido condenándolos años después, o incluso mintiendo y ocultando la verdad sin escrúpulo? ¿Haber sido fascista será un pecado menor en una biografía rescatada, como la de Dionisio Ridruejo, o incluso la de Franco, que visible y notoriamente lo dejó todo atado y bien atado para que prosperara felizmente la heroica causa de la democracia tras su muerte?

La increíble eficiencia de la inteligencia artificial generativa consiste en ofrecer una papilla de datos nutritiva y muy bien filtrada por un criterio… inexistente, un puro hueco, el vacío integral, dado que los hechos objetivos no son hechos hasta que alguien los enuncia, los encaja, los encadena, los interpreta y valora, los juzga desde un punto de vista determinado (y a menudo múltiple) que dota de credibilidad y validez a un análisis. El juego de equilibrios en la IA generativa, basado tantísimas veces en “al parecer”, o en “podría” o en “quizá” o en “algunos creen” o “algunos autores dicen”, transmite certidumbre y altas dosis de persuasión a una respuesta que ha encontrado en el material preexistente en la red las vías para resultar convincente, encajar en el mainstream de opinión y, por tanto y a la vez, depurar cualquier posición pública porque cualquier posición pública (al parecer) es respetable mientras encuentre respaldo en internet y en las fuentes de las que se nutre.

Todo es isible, todo es relativo y así aquella aberrante relatividad a ultranza de la posmodernidad (donde ni siquiera existía la realidad por sí misma) ha culminado con una inaudita eficacia en una tecnología que transmite, como ninguna otra anterior, un hecho pulido y equilibrado, incluso básicamente veraz en los hechos, pero no inteligente, cualitativamente inteligente. La apología de la equidistancia que encarnan estos sistemas significa que no haya nada definitivamente reprobable, de manera que el franquismo tampoco puede ser descrito como un régimen execrable porque también tuvo cosas buenas: por lo menos, logró que la mayoría de la población siguiese sobreviviendo, que ya es mucho (porque a varias decenas de miles se las llevó por delante). El criterio manejado es (nunca mejor dicho) maquinal, mecánico y estadístico, sin que el conocimiento emerja de sus respuestas porque lo que emerge es información ponderada sin criterio alguno fuera de la estadística, y la información desnuda y estadísticamente ponderada no es conocimiento ni merece ser respetado como inteligencia cualitativa.

El punto ciego no está en el instrumento (que es una genialidad total) sino en la función que desempeña en el imaginario cultural y social como fuente de saber fiable y validada como conocimiento apreciable. Seguro que da la fórmula química o matemática para resolver un problema o da los datos y hechos de un momento histórico, de una biografía, de una novela, de una película o una serie, pero la interpretación que haga de cada uno de esos ítems no es conocimiento ni podrá llegar a serlo porque falta exactamente aquello que aporta el conocimiento: la imaginación moral y el criterio singular capaz de explicar lo que la mayoría de nosotros ignoramos porque carecemos de la formación, la experiencia, la inteligencia y el conocimiento para hacerlo.

La apariencia de eficacia está destinada además a sobornar al para que siga en ese ejercicio imantado: la máquina da respuestas exclusivas a cada en función de su propio perfil de de internet. A la misma pregunta el sistema responde de forma diferente porque sabe y aprende a sobornar con la respuesta apropiada a cada perfil, en una conducta idéntica a la de cualquier otra plataforma. Es un simulacro de veracidad sin capacidad de verificación: son números y estadística que hace magia, magia total, pero no conocimiento.

Ese es el centro del fraude de la inteligencia generativa entendida o asumida como si fuese inteligencia cualitativa: es muy, muy buena, y muy rápida, en la recopilación de los datos y su combinación para convertir la respuesta —y los sucesivos matices que es capaz de incorporar a la respuesta, a demanda del — en algo de apariencia fiable. Pero usarla como una forma de conocimiento equivale a otorgarle una confianza y un crédito que no merece. Le falta la sustancia que marca la diferencia entre erudición inerte (suma de datos) y conocimiento productivo (articulación e interpretación de datos). Y esto segundo solo lo hacen los humanos a día de hoy, aunque la IA generativa simule o mimetice el mismo proceso humano con resultados espectacularmente creíbles, sin dejar de ser un simulacro. El efecto corrosivo en términos democráticos y civiles es que se proyecta de forma instintiva y primaria en esos sistemas una confianza en su veracidad y capacidad inteligente que no tienen, quizá porque el primer error ha sido acatar y reproducir universalmente el nombre de la cosa y aceptar que hablamos realmente de inteligencia (aunque sea artificial).

No es enteramente nueva esa simulación hiperrealista o esa deliberada confusión entre lo que la máquina ofrece (ejemplarmente) y el uso inercial que se le da o el crédito que se le otorga. La Wikipedia es una gigantesca fuente de datos, de hechos y documentos en su inmensa mayoría fiables, sometidos a la validación de la opinión pública y a la pereza, la diligencia y los intereses de quienes nutren sus páginas. Pero sigue sin ser conocimiento científicamente fiable por la misma razón por la que la IA generativa es a menudo información fiable pero nunca conocimiento fiable. Le falta lo que hace de Tony Judt o Timothy Garton Ash (o de Santos Juliá o José-Carlos Mainer) ser lo que son cada uno de ellos, con sus propias experiencias y subjetividades y afanes de veracidad interpretativa: ser discutibles, ser imaginativos, contrariar las vulgaridades de otros, iluminar de forma novedosa lo que los demás no veíamos, ser capaces de armar con los mismos datos que los demás (o incluso con otros) una argumentación única y singular precisamente contra las versiones comunes, equidistantes, romas, previsibles, anodinas y mates (o directamente sesgadas y embusteras, que también). A la máquina le falta, y diría que le faltarán, esas aptitudes que hacen de esos nombres historiadores centrales de la cultura del último medio siglo. Tienen los datos y la inteligencia para articularlos contra la herencia informativa e interpretativa recibida, con capacidad para desarticular relatos interesados o manipulados. La imaginación moral es suya, pero no es de la IA generativa.

Los datos solo cobran significado, al menos en el entorno del conocimiento humanístico, cuando se traban en un discurso que los dota de sentido en un contexto determinado, y ahí aflora la intencionalidad y los matices que unos ven y otros no, los intereses tácitos pero reales, las excusas y justificaciones de legitimación tramposa. En los años de la posguerra franquista, el rigor mortis de la información era completo y unánime: no había opinión verdadera en ningún sentido, no solo porque la censura actuase a destajo sino porque la propaganda de Estado era la única dieta informativa de un español con formación media e incluso medio-alta. Y sin embargo hubo manera desde muy temprano de expresar sutil e indirectamente una vocación crítica, un cuestionamiento del triunfalismo, una desviación de la doxa ortodoxa. Pero ese sentido adicional, esa interpretación esquiva no figura en la letra del texto: la ponía (y ha de ponerla hoy) el lector, el lector sintonizado, el lector alertado por una leve desviación del discurso que activaba un doble sentido invisible para la mayoría, a menudo incluso para los censores (y para la inmensa mayoría de lectores). Con la ironía operamos igual: no hay modo de indicar con un piloto encendido o apagado, o una marca tipográfica, si el sentido es irónico y ambiguo para decir lo contrario de lo que dice la literalidad del texto, pero está ahí, y unos la ven y otros no la ven, y eso no tiene remedio.

Ambos ejemplos cuestionan la capacidad analítica e interpretativa de la IA generativa porque le falta lo que dota de conocimiento al conocimiento: imaginación crítica, imaginación moral capaz de descubrir el sentido de las cosas como nadie lo ha visto todavía. Y ese es el criterio central que ha impulsado el conocimiento cualitativamente inteligente: la incuestionable eficiencia en la respuesta de la máquina no es conocimiento, y usarla y asumirla como fábrica de saber no solo devalúa el conocimiento real sino que contribuye a acentuar el reaccionarismo moral e intelectual de una sociedad persuadida de acceder al conocimiento cuando solo accede a una combinación estadística y modulada de datos, unos y ceros. Quizá el error primigenio haya sido aceptar acríticamente la genial y diabólica operación de marketing que significa hablar comúnmente de Inteligencia Artificial siendo artificial pero no inteligencia.