Shoshana Zuboff nació en 1951, estudió sociología y filosofía en la Universidad de Chicago, y obtuvo su doctorado en psicología social en la Universidad de Harvard. Se incorporó en 1981 como profesora emérita en la Harvard Business School y fue una de las primeras mujeres profesoras titulares de esa facultad. Como escritora publicó obras con temas sobre la revolución digital, la evolución del capitalismo, la emergencia histórica de la individualidad psicológica y las condiciones del desarrollo humano, para publicar en 2019 el libro que reseñamos aquí, cuya primera edición en español es de 2020, con 910 páginas, divididas en 18 capítulos, con 1.301 notas, citas bibliográficas, informes, encuestas y entrevistas principalmente a ingenieros y directores de empresas tecnológicas.

Es una obra colosal, densa, multifacética: trata de economía conductista, psicología, sociología, tecnología, filosofía y pensamiento político. Luego de la introducción se estructura en torno a tres partes donde pasa de los cimientos al avance de lo que define como capitalismo de vigilancia. Analiza el recorrido por la migración de dicho capitalismo desde el entorno digital hasta el mundo real, antes de ampliar el objeto de análisis para considerar la tecnología como base de un poder instrumentario que da pie a una tercera modernidad. En su capítulo 18 presenta sus conclusiones.

Tenemos ahora una lógica extraña, sorprendente, invasiva, significativa, que ha secuestrado la tecnología digital y la tecnología dominante de nuestro siglo. Ha despegado, inundado todo, con total libertad. Este capitalismo está representado por empresas tecnológicas como: Facebook, Amazon, Google, Windows, Apple y otras que trabajan sin límites, sin fronteras, porque nadie entiende lo que hacen y nos encuentra “desnudos” para protegernos de su influencia. Estamos en el siglo digital, con tecnología digital, cuya dueña es la “economía de la vigilancia” con un nuevo sistema de capitalización.

Silicon Valley se ha apropiado de nuestras experiencias privadas y personales para crear productos digitales más lucrativos. Una frase muy popular de marketing es “Cuando el producto es gratis, el producto eres tú”, peor aún, no somos el producto, somos la materia prima o somos los objetos de los que se extrae una materia prima que las tecnológicas expropian para su uso, en sus fábricas de predicciones donde se predice nuestro comportamiento. Ustedes (los usuarios de tecnología digital) son el cadáver abandonado. El producto es lo que se fabrica con el excedente conductual que han arrancado de sus vidas. Los servicios online gratuitos, las app que no cuestan nada, solo son un cebo, no un regalo que hacen media docena de empresas magnánimas creadas por jóvenes emprendedores, casi todos estadounidenses, divertidos y simpáticos que hacen que se pierda la soberanía personal. El filósofo alemán de origen coreano Byung-Chul Han lo resume en esta certera frase: “Pienso que estoy leyendo un e-book, pero en realidad es el e-book el que me lee a mí”.

Ahora las máquinas no solo conocen nuestra conducta, sino que pueden moldear nuestros comportamientos en igual medida, lo que se ha probado con el experimento Pokemon Go.

Shoshana Zuboff se plantea las siguientes preguntas como pilares filosóficos de su propuesta: ¿Terminaremos todos trabajando para una máquina inteligente, o la máquina funcionará con personas inteligentes alrededor? ¿Puede el futuro digital ser nuestro hogar? Luego analiza al hogar como el lugar que conocemos y somos conocidos, donde amamos y somos amados. El hogar es dominio de nuestros actos, es voz, es relación, es asilo: tiene parte de libertad, parte de florecimiento… parte de refugio, parte de perspectiva de futuro.

A partir de esa reorientización desde el conocimiento hacia el poder, ya no basta con automatizar los flujos de información referidos a nosotros, el objetivo es automatizarnos a nosotros mismos. El capitalismo de la vigilancia da a luz a una nueva especie de poder que se llama “instrumentarismo”. Ese poder conoce el comportamiento humano, le da forma y lo orienta hacia los fines de otros. En vez de desplegar armamentos y ejércitos, obra su voluntad a través del medio ambiente automatizado conformado por una arquitectura informática cada vez más ubicua de dispositivos “inteligentes”, cosas y espacios conectados en red.

Las tecnológicas se cubrieron de un manto de invisibilidad. Y ya no se circunscribe al enfoque de la publicidad personalizada y dirigida. Ahora pagamos por ser dominados. Estas no son consecuencias inevitables de la tecnología como dicen por ahí, es la lógica de la economía que ha construido con la tecnología, un caballo de Troya que esconde la lógica. El libro trata de deconstruir esa lógica. Para mostrar sus leyes de hierro, sus imperativos. Es un fenómeno sin precedentes, por eso cuesta entenderlo.

Los capitalistas de la vigilancia lo saben todo sobre nosotros, acumulan montañas ingentes de nuevos conocimientos. Sus actividades están diseñadas para que no puedan ser detectadas fácilmente. “Ya no somos los sujetos de la realización de valor” (cap. 3, p. 133) y “nosotros somos el medio usado al servicio de los fines de otros” (cap. 3, p. 134).

El capitalismo de la vigilancia, no es una tecnología; es una lógica impregnada de tecnología que la pone en acción. Distinción importante, porque los capitalistas nos engañan y nos hacen creer que sus prácticas son expresiones inevitables de las tecnologías que emplean. Sin embargo, no existe la tecnología por sí misma; siempre está situada en la historia, en la sociedad y especialmente en nuestra economía. A esta lógica económica extraña, sorprendente, invasiva, significativa Zuboff la llama “capitalismo de la vigilancia” que ha secuestrado la tecnología digital y la tecnología dominante de nuestro siglo y dice “el capitalismo de la vigilancia reclama unilateralmente para sí la experiencia humana, entendiéndola como la materia prima gratuita que puede traducir en datos de comportamiento” (cap. 1, p. 21). Ha sido así porque no lo entendíamos y no tenemos leyes para protegernos de su influencia. Aquí estamos en el siglo digital, con tecnología digital, cuya dueña y operadora es la economía del capitalismo de la vigilancia.

Hemos estado desnudos y ahora es hora de vestirnos. Marchamos desprotegidos en este siglo sin Cartas de Derechos, sin marcos legales apropiados, sin paradigmas regulatorios y sin las nuevas instituciones necesarias para protegernos en este siglo digital para poder asegurar que las tecnologías desarrolladas y lanzadas sean compatibles con la democracia, que promuevan los valores y principios democráticos y la participación para el futuro del siglo XXI.

Para la construcción de este sistema se necesitan muchos datos (economía de escala), variedad de datos (economías de alcance) y finalmente se actúa (economía en acción), con señales subliminales, premios y castigos en tiempo real. Las dinámicas competitivas de estas economías que tienen éxito, socavan la autonomía humana, nos quita libertad, lo que Zuboff llamó “derecho al tiempo futuro". Sin autonomía, sin el derecho de decidir, sobre los límites de nuestra experiencia: ¿quién sabe de mí, que se sabe de mí y cómo se usa esa información? Esos son derechos de los ciudadanos en democracia.

Al poder instrumentario se le permite dominar y prosperar, la sociedad se convierte en colmena. Hay gente dentro y gente afuera que afina la colmena, los algoritmos, para que la conducta en la colmena fluya como lo prefieren los capitalistas para lograr sus objetivos económicos. En el libro 1984, de George Orwell el Hermano Mayor quería dominar desde adentro. “La atracción magnética que las redes sociales ejercen sobre la gente joven la impulsan a conductas más automáticas y menos voluntarias” (cap. 16, p. 596). No les importa a los capitalistas lo que sintamos o lo que pensemos. La conducta colectiva está definida por lo que hacen sus miembros, así funciona la colmena.

En “Las uvas de la ira”, de John Steinbeck, un empleado de un banco le dice al granjero al que van a desahuciar: “El banco es algo más que hombres. Fíjate que todos los hombres del banco detestan lo que el banco hace, pero aun así el banco lo hace. El banco es algo más que hombres, créeme. Es el monstruo. Los hombres lo crearon, pero no lo pueden controlar” (cap. 7, p. 306). Algo similar ocurre actualmente.

“El capitalismo de la vigilancia es el titiritero que mueve los hilos del omnipresente aparato digital e impone su voluntad a través de este. A partir de ahora. llamaré a ese aparato Gran Otro: este es el títere sensitivo, computacional y conectado que transfiere, convierte, monitoriza, computa y modifica la conducta humana.” (cap. 13, p. 503). Y el instrumentarismo sería una especie de poder que se definiría como “la instrumentación e instrumentalización de la conducta a efectos de su modificación, predicción, monetización y control”.

Shoshana Zuboff analiza la esencia del capitalismo de la vigilancia a partir de dos novelas: "Walden Dos" (1948), del conductista radical B. F. Skinner, y "1984" (1949) de George Orwell. En esta última, Orwell mostraba el totalitarismo como la implacable insistencia en la posesión absoluta del ser humano, desde su interior mismo. Sin embargo es la “utopía” que Skinner creaba en "Walden Dos" la que podría materializarse si el poder “instrumentario” continúa creciendo. En dicha novela la ingeniería conductual, la tecnología de la conducta, generaba una sociedad igualitaria y feliz. Carecía de importancia que los habitantes de "Walden Dos" desconociesen los resortes que movían los hilos. Por otra parte, para Skinner la democracia es un sistema político que engaña con una falsa ilusión de libertad, y obstaculiza el dominio de la ciencia.

Para desarrollar esas antinomias, la autora se apoya en el concepto de “tiranía” utilizado por Hannah Arendt como perversión del igualitarismo, porque trata a todos los demás como seres igualmente insignificantes: “El tirano manda según su voluntad e interés propio (…) como uno contra todos, y los todos a los que oprime son todos iguales, es decir, carecen de poder”. Esto, para Zuboff, fue un proceso de “acumulación primitiva” o “desposesión digital”, y para ello llama en su auxilio a Karl Marx, Hannah Arendt, Karl Polanyi, David Harvey y Alex Pentland entre otros. En Los orígenes del totalitarismo Hannah Arendt señalaba que las ideologías totalitarias se convirtieron en el último asidero en un mundo donde nadie es fiable y en donde no puede confiarse en nada.

Es una obra magistral, pionera en su tipo, con un lúcido y pormenorizado análisis fundamentado por la exhaustiva investigación de siete años por parte de la autora que pone al descubierto las serias amenazas que enfrenta la sociedad tal cual la conocemos, entre ellas la desigualdad social, la vulnerabilidad de las democracias, la colmena controlada con la promesa de lograr certezas a cambio de la máxima ganancia para sus promotores. Shoshana Zuboff dice que el capitalismo de la vigilancia va camino a dominar el orden social y determinar el futuro digital, si no se lo impedimos antes, poniendo en peligro nuestro futuro como seres humanos.

Enlace alternativo

https://nulan.mdp.edu.ar/view/publication/FACES/2023/60.html (pdf)