El principal peligro de la IA podría ser otro

Ninguno de nosotros capta la realidad del mundo que nos rodea “tal cual es”, de manera objetiva y completa. En su lugar, contamos con un complejo sistema nervioso y un cuerpo imperfecto, pero repleto de sensores, que nos permite capturar información procedente de nuestro entorno y elaborar una respuesta física y/o mental acorde a nuestras necesidades y a la exigencias impuestas por dicho entorno. Este proceso, que tiene lugar de manera continua e ininterrumpida a lo largo de toda nuestra vida, se le conoce grosso modo como “percepción”, y juega un papel clave en nuestro aprendizaje, nuestra conducta y hábitos, así como en nuestras relaciones con los demás. No debe sorprendernos entonces que gobiernos y empresas de todo el mundo estén realizando una fuerte apuesta por desarrollar tecnologías capaces de modelar nuestra percepción acerca del contenido online que consumimos – en promedio cada persona pasaba alrededor de 7 horas diarias conectada a Internet en 2022 – con el fin último de influir en nosotros de maneras tan sutiles e imperceptibles que no seamos siquiera conscientes de su influjo.

En primer lugar, sentemos las bases de qué entendemos por percepción. Esta palabra tiene su origen en el latín «perceptio», que a su vez deriva del verbo «percipere», compuesto por el prefijo «per-» (que denota completitud o intensidad) y el verbo «capere» (que significa «capturar» o «agarrar»). Por lo tanto, etimológicamente, «percepción» se refiere a la acción de capturar o agarrar completamente algo a través de los sentidos. Así, por percepción nos referimos al proceso de captación, interpretación y organización de la información sensorial que recibimos a través de nuestros sentidos (vista, oído, tacto, olfato y gusto). Es a través de nuestra percepción que construimos una representación interna de la nuestro entorno.

Nuestra percepción se ve influida por diversos factores, incluyendo nuestras experiencias pasadas, nuestros conocimientos previos, nuestras creencias y nuestras expectativas. Estos factores pueden filtrar, seleccionar y dar forma a la forma en que percibimos la información sensorial. Por ejemplo, si hemos tenido experiencias negativas con perros en el pasado, es posible que percibamos a un perro en la calle como amenazante, aunque en realidad no represente ningún peligro. Además, nuestra percepción puede ser susceptible a ilusiones y sesgos cognitivos, lo que puede llevarnos a interpretar erróneamente la información sensorial.

Estos sesgos cognitivos, interiorizados en nuestros cerebros mediante un largo proceso de evolución durante miles de años, simplifican la gran cantidad de estímulos externos a los que estamos expuestos en nuestro día a día, permitiendo a nuestro cerebro enfocarse en decisiones que consideramos prioritarias. Muchos de estos sesgos cumplen un propósito claro desde una perspectiva darwiniana, y constituyeron una herramienta esencial cuando los seres humanos se organizaban en sociedades de tipo familiar o tribal, pequeñas y fuertemente jerarquizadas. Sin embargo, en el mundo contemporáneo, especialmente en sociedades como la nuestra, altamente digitalizadas, los beneficios asociados a estas respuestas casi instintivas son menos evidentes.

Por ejemplo, alguien que tenga una opinión política arraigada tenderá a buscar información que respalde sus puntos de vista y a descartar o minimizar evidencia que los contradiga. Este sesgo puede limitar nuestra capacidad de considerar diferentes perspectivas y dificultar el cambio de opinión basado en evidencias contrarias, algo peligroso en una democracia. A estas alturas, no es noticia que esto es precisamente lo que ocurre cuando usamos redes sociales como Facebook o Twitter, donde las “burbujas de polarización”, también conocidas como “cámaras de eco”, son ya una realidad aceptada.

Igualmente, si vemos noticias frecuentes sobre robos en nuestra ciudad, es más probable que sobreestimemos la frecuencia de los robos en comparación con otros delitos menos destacados en los medios, distorsionando de este modo nuestra percepción de los riesgos y dirigiéndonos hacia decisiones basadas en eventos destacados pero poco representativos de la situación real.

Hasta ahora, esta clase de sesgos cognitivos eran aprovechados en tanto en cuanto las personas responsables de producir contenido online fueran hábiles en el manejo de las herramientas de comunicación, pero siempre estaban limitadas por basarse en un conocimiento intuitivo del proceso. Con la IA, esto está pasando a ser un conocimiento estimado a priori, susceptible de ser medido y usado para anticipar la respuesta del público a un determinado estímulo, optimizando su impacto en el momento del lanzamiento.

La IA no es únicamente un conjunto de técnicas orientadas a imitar aspectos de la cognición humana, sino que nace de un deseo de comprender mejor nuestra propia psicología. Cuando entrenamos sistemas de IA en bases de datos que tienen que ver con nuestra reacción a determinados estímulos, en definitiva estamos obteniendo modelos computacionales que reflejan de manera fiel cómo respondemos en general los humanos a ese aspecto concreto de la percepción. Empresas como la americana Memorable se han especializado en ello. En su caso, emplearon bases de datos que relacionaban vídeos cortos con la probabilidad de que diferentes personas recordaran haber visto esos vídeos tras un cierto intervalo de tiempo, obteniendo así un modelo capaz de estimar la memorabilidad de imágenes como las típicamente empleadas en campañas publicitarias. Y lo que es más importante, de aconsejar a sus clientes acerca de cómo hacer aún más memorables sus campañas de marketing. Cuando esta tecnología alcance la madurez, podríamos estar hablando de la absoluta imposibilidad – en términos físicos – de olvidar el anuncio promocionando el coche de moda.

Y éste no es el único ejemplo. Existen herramientas similares para predecir cómo de bonita nos parecerá una fotografía, qué clase de emociones experimentaremos ante una pintura, a qué partes de una imagen prestamos atención… De hecho, todo el concepto del neuromarketing pivota hoy en día alrededor de este tipo de sistemas computacionales.

Por otro lado, medios de todo el mundo se han hecho eco a estas alturas de la carta abierta que una serie de personalidades del ámbito cultural, como el divulgador e historiador israelí Yuval Noah Harari, firmaron apoyando que se detuviera el entrenamiento de modelos como el chatbot ChatGPT. Añadiendo más leña al fuego, uno de los mayores impulsores y defensores de la IA, y de los sistemas basados en redes neuronales artificiales, Geoffrey Hinton, renunciaba a su puesto en Google para criticar abiertamente el rumbo tomado por ciertos actores en la carrera hacia IAs más potentes, sin atender a las posibles consecuencias que podrían tener para el resto de la sociedad. Estas declaraciones de Hinton, ganador del máximo galardón dentro del ámbito de las ciencias de la computación y apodado como “padrino de la IA” por sus contribuciones al campo, han sido usadas como arma arrojadiza por muchos medios deseosos de alimentar la idea de que estamos ante un nuevo tipo de inteligencia, una con el potencial de dejarnos a todos sin empleo o incluso de aniquilar a toda nuestra especie. Sin embargo, las palabras de Hinton se parecen más a las de aquellas voces que se alzaron en 2020, cuando se estrenó en Netflix el documental “The Social Dilemma” (si no lo ha visto ya, se lo recomiendo encarecidamente). En él, se exponen algunas de las estrategias implementadas por gigantes tecnológicos como Facebook o Google para incrementar el tiempo que pasamos en sus redes sociales y servicios online, siempre con fines comerciales que nada tienen que ver con el bienestar del usuario.

En conclusión, es evidente que vivimos una década en la cual la IA avanza a un ritmo vertiginoso, a menudo más rápido de lo que somos capaces de anticipar ni siquiera los especialistas en la materia. Esto es precoupante, especialmente considerando el uso intensivo que casi todas las empresas están haciendo de estos sistemas inteligentes y que nos fuerza a todos a usarlos, con el consiguiente impacto que puede llegar a tener esta tecnología en absolutamente todos los campos de nuestra vida. Sin embargo, en última instancia la problemática expresada aquí no es sino un aviso acerca de la espada de Damocles que pende sobre nuestra capacidad para tomar decisiones libres. ¿Aceptaremos el desafío de buscar soluciones antes de que sea demasiado tarde?