Vigilancia + algoritmos + IA = daños en salud y control mental

El Poder del Consumidor

Por Alejandro Calvillo

La ecuación de Meta y las grandes plataformas que dominan la comunicación global, que acaparan la atención de gran parte de la población mundial varias horas al día, que establecen modelos globales de consumo y generan percepciones ideológicas, tienen un sólo propósito: incrementar sus ganancias. Y las ganancias de estas plataformas vienen de una sola fuente; se concentran en la venta de publicidad. La publicidad y el tipo de publicidad que propagan las plataformas están en el centro, son el corazón de su modelo de negocio.

Gran parte de la inversión en publicidad, de todo tipo —publicidad de productos, servicios e incluso política—, que antes iba a diversas cadenas de televisión, de radio, de medios impresos, es decir, que se invertía en el pago a decenas y cientos de miles de medios en todo el mundo, gran parte de esa inversión en publicidad va ahora a unas cuantas corporaciones de plataformas globales.

En el caso de Meta, el 97.6 por ciento de sus ingresos vinieron de los espacios publicitarios que vendió a través de Facebook e Instagram. La venta de esta publicidad en Facebook e Instagram ascendió a 196 mil millones de dólares. Meta se encuentra en el noveno puesto global en el mercado bursátil, de acuerdo con el valor total de sus acciones. Ese es el poder que le ha dado a Meta la concentración de una parte importante de la publicidad del mundo en su corporación.

¿Pero por qué este poder de atracción de la publicidad por parte de las plataformas? Porque la naturaleza de la publicidad que se transmite a través de estas plataformas ya no tiene que ver nada con la publicidad que hemos conocido desde que venimos al mundo, esa publicidad en los medios tradicionales. El nivel de penetración que tiene la publicidad en las plataformas es lo que ha logrado atraer y concentrar las inversiones, y este grado de penetración va más allá de la publicidad de productos y servicios; se está convirtiendo en una herramienta profundamente poderosa para la manipulación ideológica. Y aquí hay que entender por ideología lo que François Châtelet, en su Historia de las Ideologías, describe como ideología. Él describe la ideología como esa concepción del mundo, de la existencia, creada desde el poder. Es decir, desde estas plataformas se está inculcando una manera de interpretar el mundo que es útil al poder, a ese poder cada vez más centralizado.

El poder persuasivo de la publicidad en Meta y demás plataformas se basa en una violación de derechos; se basa en la vigilancia, en toda la información recopilada de cada uno de los usuarios, que les permite hacer un perfil muy detallado de cada persona. Con esta información, los algoritmos permiten destinar la publicidad de manera más personalizada. Es decir, si usted es identificado porque tiene una adicción al juego, al alcohol, a las bebidas azucaradas, al consumo de comida chatarra, la publicidad e información que le llegará se aprovechará de esa condición, la explotará y la agudizará. Si a un niño le gustan los videojuegos, que tienen un alto carácter adictivo, le llegará publicidad que promoverá que destine más tiempo a esa adicción, la agudizará. Si la niña es identificada como vulnerable a la moda, le agudizarán con información y publicidad esa vulnerabilidad, agudizarán su obsesión por la moda.

En una entrega anterior mencionamos evidencia de cómo Facebook registraba y se aprovechaba ya, desde hace nueve años, de momentos de vulnerabilidad de niñas, niños y adolescentes. En abril de 2017 se filtró un documento interno de Facebook, a través del cual ofrecía, a quienes querían hacer publicidad en esa plataforma, el registro de momentos de “vulnerabilidad psicológica” entre NNA de 13 a 17 años, cuando se sienten inseguros, estresados, derrotados, ansiosos, inútiles, fracasados, cuando no les gusta su imagen corporal, etcétera. Un momento clave para hacer llegar su publicidad.

Quiero volver a citar, como lo hice en una colaboración anterior, a Sarah Wynn-Williams, en su libro Los Irresponsables, donde cuenta su trayectoria de cerca de ocho años en un alto cargo de Facebook, viendo la transformación sociópata de esa corporación. Cuenta Sarah que: “Facebook trabaja para una empresa de productos de belleza rastreando a las chicas de entre 13 y 17 años que borran sus selfies, con el fin de presentarles un anuncio de cosméticos justo en ese momento. Es decir, Facebook vigila a las chicas, identifica el momento clave y ofrece al anunciante atacar en ese momento de debilidad. Como un cazador que espera que el venado baje a beber agua en un estanque para atacar. ¿Qué significa para la autoestima de esas chicas ser atacadas en ese momento? ¿Qué significa para un niño que tiene una relación compulsiva con los videojuegos ser atacado en sus peores momentos de ansiedad —que puede expresar en sus búsquedas—, ser atacado con publicidad para él altamente atractiva sobre videojuegos? Ese tipo de publicidad tiene un daño previsible en NNA, como la dirigida a un adolescente con obesidad, adicto a la comida rápida, que recibe la publicidad de McDonald’s justo en el momento que está pasando por uno de estos locales de comida rápida, publicidad que le ofrece una oferta muy “atractiva”, la promoción de un combo, una promoción única para él y para ese momento.

Estas estrategias van acompañadas de otro fenómeno: la publicidad oculta. Una parte importante de la publicidad en plataformas y redes es oculta; aparece como una recomendación de un influencer, o el producto está ahí, presente. El influencer recibe un pago por hablar del producto o por manejarlo o estarlo consumiendo. Sin embargo, el seguidor del influencer está siendo engañado: el influencer le hace creer que él está recomendando sinceramente el consumo o adquisición del producto o del servicio. Esta práctica, que tiene fuertes impactos entre NNA, ya está prohibida en varias naciones del mundo; en México solamente existen recomendaciones.

Fue una lucha de decenios, de alrededor de 50 años, el lograr que la publicidad fuera explícita, no oculta, que no engañara, que no se aprovechara de las poblaciones vulnerables, que comenzara a prohibirse la publicidad de productos dañinos, etcétera. Y esto se fue logrando. Sin embargo, en las plataformas, las corporaciones encontraron el “Oeste salvaje”, donde las regulaciones a la publicidad son inexistentes o muy débiles.

El mejor ejemplo es el de la publicidad de productos milagro, de esos productos que nos ofrecen una cura milagrosa. Llevó decenios prohibirla en la televisión. Le costó el despido a un comisionado federal de COFEPRIS regular esta publicidad en la televisión, cuando Televisa no solamente propagaba esta publicidad, sino que también tenía una gran inversión en una de las principales empresas de este tipo de productos. Ahora, busque usted un producto para curar un malestar en las plataformas, y no le dejará de llegar publicidad de productos milagro, fraudulentos, engañosos, sin límite alguno, que le ofrecen curar ese malestar. ¿Dónde está la protección al consumidor?

Ninguna publicidad había tenido esa capacidad de manipulación a partir de la vigilancia de los individuos, usando la inteligencia artificial para identificar la mejor estrategia para llegar a cada persona de acuerdo con su perfil.

Lo que vemos en la publicidad de productos tiene su correspondencia en la publicidad política e ideológica. El uso de las redes y las plataformas para manipular las percepciones públicas e influir en las elecciones es cada vez más documentado. Es decir, no solamente la salud de NNA ha sido afectada por estas redes y plataformas, también lo ha sido la democracia, con el empuje de las alternativas de extrema derecha que no reconocen la gobernanza global, el multilateralismo, que pueden ser las únicas alternativas para enfrentar los retos que tenemos enfrente como especie, desde el cambio climático hasta las aplicaciones sociópatas de la inteligencia artificial.

Lo primero que puede hacerse en México, porque ya se está haciendo en diversos países, es regular la publicidad en estas plataformas e iniciar la aplicación de auditorías a sus algoritmos, como también ya se está haciendo en otras naciones. Entramos ya de lleno en la distopía y nos enfrentamos al dilema de si dejamos que las corporaciones, a través de estas herramientas, nos manipulen en nuestros deseos, formas de vida y formas de organización y gobierno, u obligamos a una gobernanza pública de estas herramientas.