¿Qué es real y quién o qué controla nuestra percepción de la realidad? Esta es una de las grandes preguntas de la tradición filosófica occidental. Si la enunciamos bajo el omnipresente prisma tecnológico contemporáneo, la cuestión adquiere una nueva dimensión que va más allá del mero debate especulativo.
Para intentar responderla, si es que eso fuera posible, hay que remontarse a los griegos y, por supuesto, a Platón, quien formuló en su famoso mito de la caverna la distinción entre la apariencia y la realidad. En su relato, unos prisioneros encadenados en el interior de una cueva solo pueden mirar hacia la pared del fondo, donde se proyectan sombras de objetos que otros portan ante una fuente de luz situada a sus espaldas. Los prisioneros nunca han visto otra cosa, de modo que toman esas sombras por la realidad misma. La estructura del engaño es vertical, ya que existe una instancia (desconocida) que decide qué imágenes se proyectan y una audiencia que las recibe sin posibilidad de contrastarlas con nada exterior.
Los sistemas de inteligencia artificial reproducen esta estructura con una eficacia y una escala sin precedentes históricos.
El procesamiento masivo de nuestros datos de comportamientos digitales, como son los patrones de consumo de contenidos o nuestras respuestas emocionales en redes, sirve para que estos sistemas construyan entornos de información individualizados que no representan la realidad en su totalidad, sino una versión de ella calibrada para maximizar la permanencia del usuario dentro del sistema, tal y como nos enseñó la trilogía de «Matrix». El resultado es una fragmentación sin precedentes de la experiencia común.
La diferencia es que mientras los prisioneros platónicos compartían las mismas sombras, el individuo contemporáneo (también prisionero sin saberlo…) habita en una caverna digital hecha supuestamente a su medida, y supuestamente distinta a la de cualquier otro sujeto.
Platón establecía un recorrido epistemológico (es decir, un posible camino hacia el conocimiento) que comenzaba en la percepción de las sombras y avanzaba poco a poco hasta la contemplación directa de los objetos reales y, en su grado máximo, hasta la comprensión de los principios que los habían creado. Por imperfecto que fuera ese recorrido, descansaba sobre un supuesto básico, que es que detrás de cada sombra existía un objeto (una idea) que la generaba. Verificarlo era en principio bien sencillo, ya que el sujeto tan solo tenía que despojarse de sus cadenas y girarse para mirar atrás.
La gran pregunta es si hoy en día, subyugados por los contenidos digitales y generativos que se nos proyectan continuamente ante nuestros ojos, seríamos capaces de girarnos para ver qué es aquello que los genera.
La producción continua de imágenes, voces y documentos sin referente «real» por parte de la inteligencia artificial generativa rompe la posible cadena de verificación desde el primer eslabón. Ni siquiera se trata de que determinadas parcelas de la realidad sean ocultadas, puesto que esta práctica es tan antigua como el poder mismo, sino de que «la sombra» puede existir con plena autonomía respecto a cualquier «objeto real».
La distinción platónica entre apariencia y realidad no desaparece, al contrario, se complejiza hasta el punto de que las herramientas filosóficas clásicas, como la duda metódica o el contraste con la experiencia directa, resultan insuficientes para resolverla. Y mucho más la posibilidad de ejercer el tan manido “pensamiento crítico”, sobre todo si no se entrena de forma constante con lecturas complejas o debates donde poner en duda lo que sabemos e intentar comprender lo que otros, más sabios que nosotros, nos dicen.
Uno de los aspectos más interesantes del análisis platónico es precisamente el que señala la comodidad como obstáculo epistemológico. El prisionero que ha vivido siempre mirando las sombras no va a abandonar su posición por incapacidad intelectual, sino por la resistencia que oponemos al tener que romper con lo familiar. Es decir, que la salida de la caverna es un problema de voluntad, no de capacidad cognitiva.
Los sistemas algorítmicos actuales no operan a través de la imposición coercitiva de una versión de la realidad que puede ser o no cierta, sino mediante algo mucho más siniestro y preocupante, que es la eliminación progresiva de la disonancia.
El entorno de contenidos, abrumador, se adapta a las preferencias del usuario, suprime la incomodidad que le generaría el contacto con perspectivas contrarias y, así, refuerza de forma continua sus asunciones. La caverna que construye la inteligencia artificial es por tanto un espacio diseñado para que la permanencia en ella resulte mucho más cómoda y, por tanto, mucho más preferible a la salida.
Para ilustrar las consecuencias morales de esta situación resulta útil recurrir a otro mito platónico, el del anillo de Giges. Según este relato, un pastor llamado Giges encontró un anillo que tenía la propiedad de hacerlo invisible cuando lo giraba hacia la palma de la mano (algo que sin duda nos recordará a cierto personaje de la saga de “El señor de los anillos”).
Platón utilizaba esta historia para plantear una pregunta sobre la naturaleza de la justicia, que es cómo actuaría una persona si supiera que sus actos no tienen consecuencias si nadie los observa.
La cuestión que abre la inteligencia artificial es de naturaleza similar, pero aplicada al conocimiento: ¿es posible sostener un pensamiento crítico y autónomo cuando el entorno ha sido diseñado para anticipar y satisfacer las expectativas cognitivas del sujeto antes de que este las formule de forma consciente? ¿Por qué “todos” hablamos ahora, de forma recurrente y obsesiva y casi calcada sobre los peligros y oportunidades de la inteligencia artificial?
El anillo de Giges permitía la impunidad a la hora de actuar sin ser visto y por tanto, sin consecuencias. El algoritmo nos da algo tan seductor como eso, y es la certeza permanente de creer ser original, dueños de nuestras opiniones, creer que nadie nos contradice y que, por supuesto, tenemos la razón.
De nuevo vuelve a surgir el pensamiento crítico, esta vez para ayudarnos a ascender y escapar, si es posible, de la cómoda caverna. La mala noticia es que el pensamiento crítico requiere esfuerzo, mucho tiempo y constancia para ser ejercitados, y estar dispuesto a revisar las convicciones propias. Esto no solo requiere entrenar nuestra mente, sino también tener ganas de luchar contra unos sistemas algorítmicos 100% optimizados para seducirnos, para adularnos y para reducir cualquier fricción cognitiva. La tradición filosófica que va de Platón a la filosofía crítica contemporánea ha señalado repetidamente que la liberación del sujeto respecto a las condiciones que determinan su percepción de la realidad es posible, pero costosa. El primer paso es estar dispuesto a asumir que, aunque nos cueste creerlo, tal vez estemos encadenados en lo más hondo de la caverna de nuestra propia mente.
Imagen de portada generada con Freepik.