El gran ojo invisible: el amable control de las IAs generativas

Por Yamila Larroude, especialista en Comunicación Estratégica

La creciente digitalización nos permite entrever que existe una nueva forma de biopoder, no ya institucional y político, sino inteligente y artificial. La coolture – la nueva cultura del s. XXI -, regida por el consumo rápido, el entretenimiento y la búsqueda de satisfacción inmediata, alberga nuevas dinámicas de poder y control sobre nuestras vidas. Y es que, el éxito de estas soft power reside en lo cotidiano, en lo difuso, en lo sutil y en lo tácito. Podría decirse, entonces, que ya no es únicamente el Estado el que ejerce control sobre la población: no son sólo las cámaras de seguridad ni los controles inmigratorios, tampoco las campañas de vacunación ni los sistemas biométricos. Ahora, son las tecnologías, cada vez más sofisticadas, las que están volviendo a la vigilancia tan suave como omnipresente.

El filósofo francés, Michael Foucault, utiliza el concepto “panóptico” como una metáfora del poder en las sociedades modernas, donde la vigilancia no requiere coerción física, sino una internalización: los individuos se controlan a sí mismos porque creen que están siendo observados, lo que transforma al sujeto en protagonista de su propia dominación. En cambio, la situación actual es bastante distinta porque el éxito de las nuevas tecnologías como las IAs generativas reside en que, detrás de su utilidad, comodidad y aparente autonomía, se enmascaran nuevas formas de control refinadas. Este giro hacia un control suave pero profundamente efectivo es lo que hace más exitosa a la “vigilancia” y potencialmente más problemática en términos éticos y políticos. Por un lado, porque existe una supervisión algorítmica de nuestras emociones, consumos y pensamientos y, por otro, porque las respuestas que obtenemos, sesgadas y basadas en datos recopilados de sociedades hiperconectadas, pueden moldear nuestra conducta de manera indirecta. Según datos de Infobae, hasta agosto de 2024, ChatGPT contaba con más de 200 millones de usuarios semanales, lo que duplica la cifra respecto a noviembre 2023. Así, las formas de vigilancia y disciplinamiento parecen operar hoy menos sobre los cuerpos y más sobre las subjetividades.

No es extraño que en la era de la digitalización avanzada experimentemos, con actos diarios, líquidos y efímeros, que la tecnología nos narre en forma de datos y patrones predecibles. Las tecnologías narran, en base a interacciones previas, nuestros gustos, creencias e intereses y nos mantienen en una burbuja ilusoria que ratifica continuamente esos mismos gustos, creencias e intereses. La eficacia del panóptico contemporáneo no sólo radica en esta ilusión sostenida, sino en la experiencia misma de dialogar con la tecnología. En otras palabras, los usuarios ya no buscan información para especializarse en alguna temática o validar su visión del mundo; lo que buscan son interlocutores emocionales. Por ejemplo, en México, el chatbot Violetta ha asistido a 260.000 mujeres víctimas de violencia de género a través de WhatsApp, ofreciendo apoyo psicológico y derivación a especialistas. Estas nuevas formas de vincularnos con las tecnologías requiere, sin dudas, un abordaje multidisciplinario, pero, a grandes rasgos, todo parece indicar que la atomización social, la despolitización, el descrédito hacia las fuentes tradicionales de autoridad (partidos políticos, medios de comunicación y ciencia) y la digitalización acelerada -caracterizada por una infraestructura de información con una escala, un alcance y una horizontalidad sin precedentes-, explican la primacía de las creencias y emociones por sobre la verdad como hecho objetivo.

Por supuesto que, sin narrativas cultuales, económicas y tecnológicas como el consumismo, el self made, la meritocracia, el capitalismo emocional, la selfie life y la like generation, el individualismo no tendría tanta preeminencia en nuestra sociedad como la que tiene.

En este cruce entre individualismo, digitalización y biopoder, el desafío mayor no es sólo reconocer estas dinámicas, sino preguntarnos cómo queremos habitarlas. El soft power de tecnologías como las IAs generativas no se impone en nuestras vidas, sino que se despliega disfrazado de herramientas útiles y conversaciones amables en momentos de fragmentación social. Quizás, la pregunta urgente no sea cómo
detener este proceso, sino cómo recuperar la capacidad de narrarnos como sociedad.