El libro Atlas de inteligencia artificial: poder, política y costos planetarios es de autoría de Kate Crawford, escritora, compositora, productora, feminista y académica australiana. Es investigadora principal en Microsoft Research (Social Media Collective) y profesora asociada en el Centro de Investigación de Periodismo y Medios de la Universidad de Nueva Gales del Sur. Su investigación, que ya lleva más de 20 años, con diferentes aristas, se centra en el cambio social y las tecnologías de medios, particularmente en la intersección de seres humanos, dispositivos móviles, redes sociales y la inteligencia artificial (IA).

Esta obra comienza con una carta de agradecimientos, y una introducción en la que presenta el corazón de su tesis y luego define esquemáticamente sus argumentos para sostenerlo. Cada uno de ellos se despliega luego en seis capítulos, donde se resuelven todos sus fundamentos apoyados en datos y experiencias. Más adelante la autora incorpora una conclusión alusiva al poder y un apéndice que invita a la reflexión recuperando todo lo transitado en el libro. Finalmente aparece la lista bibliográfica tomada en el libro.

Es un libro altamente crítico, que toma cada uno de los argumentos a favor de la utilización intensiva y expansión de la IA, los revisa profundamente y los desmonta. De este modo, busca que tomemos conciencia sobre lo implica en diferentes áreas de la vida su producción, extensión, gestión, mantenimiento y capitalización. La autora, con fino detalle, va desnaturalizando mitos y creencias arraigadas sobre la IA. Sostiene como tesis principal que no se trata de inteligencia ni es artificial. A partir de ahí, descubre de manera minuciosa los pormenores y hechos detrás de lo que parece aprendizaje automático, basado en datos estadísticos, en fuentes de diverso tipo y de su propia experiencia laboral en centros dedicados a la inteligencia y la vigilancia social por seguridad.

Hace una lectura compleja de determinados fenómenos, los vincula con causas económicas, políticas y culturales que tienen que ver con una trama laboral y productiva. De este modo, nos brinda a los lectores herramientas para entender el mundo actual en el que nos toca vivir, y por qué no, combatir. Nos enseña que los problemas contemporáneos con estas tecnologías tienen las mismas raíces de siempre: acumulación de capital y de poder por parte de unos pocos con efectos de desigualdad e injusticia social, pobreza y exclusión para las mayorías. La cuestión es que ahora, los mecanismos se vuelven mucho más eficientes pues la organización de los trabajadores para resistir y sublevarse es más difícil debido al aislamiento, precariedad y sobreexplotación como condiciones laborales.

Si lo que preocupa es cartografiar las condiciones técnicas, culturales, sociales y políticas del presente, se debe hablar de la IA como rasgo epocal. Está presente de forma extendida y poco cuestionada, desde los algoritmos de redes sociales y plataformas que estudian el comportamiento humano para ofrecer contenido personalizado y a demanda, además de publicidad, hasta largos y diversificados intercambios con mecanismos que colaboran en la producción escrita o iconográfica (IA generativa).

La autora señala que la IA se nos vende como la clave para volver más fácil la vida, cuidar la ecología y hacer más eficientes las operaciones de diverso tipo. No obstante, su tesis es que no es inteligencia ni artificial. Y que aunque su origen y efectos son muy desconocidos o minimizados. Se trata más bien de un tipo de aprendizaje automatizado basado en inversiones de grandes compañías del mundo, con intereses bien definidos, pero poco transparentes. Dicho aprendizaje se fundamenta en el entrenamiento con datos, extraídos de forma masiva y sin consentimiento de los usuarios (que lo desconocen o minimizan), y cada compañía elige con qué datos entrenar sus sistemas, por lo cual dicha inteligencia contiene altos niveles de sesgos poco considerados o resueltos de forma parcial (sólo cuando se denuncian) sin cuestionar sus concepciones ideológicas fundamentales. Además, se trata de análisis estadístico a gran escala que tiene tantos problemas como los datos que recibe y con los que trabaja.

Para pensar esta idea de la IA como eco-amigable y como eficiente por sí misma, recomendamos la lectura detenida y reflexiva de dos de los capítulos iniciales: La Tierra y El Trabajo. Crawford (2023) sostiene que no es artificial, sino que tiene bases materiales. Sus formas técnicas se apoyan en el extractivismo al medio ambiente, mucho más severo que en siglo XIX y XX, por ejemplo, con la cosecha de minerales raros altamente tóxicos para su producción, afectando comunidades y biomas (más profundos en latitudes donde los niveles de pobreza e insalubridad ya son críticos). Significa que, con cada uso de la IA, hay miles de litros de agua en alguna parte del mundo que se usan y descartan contaminadas sólo para enfriar los aparatos detrás de los sistemas, y a algún bioma llegan y a algunas familias perjudica, en un país que mira a otro lado en esta situación.

Para ello se apoya también en un tipo de división global del trabajo, en el que es clave el aislamiento de trabajadores distribuidos en diferentes partes del planeta, en general altamente precario y competitivo, sin importar el nivel educativo y de cualificación de las personas (todos son igualmente negados en algunos o en la totalidad de sus derechos laborales y humanos, desde los que extraen minerales hasta los que hacen teletrabajo clasificando datos o perfeccionando sistemas). Crawford (2023) desmonta la idea de que la IA funciona sin intervención humana ya que transforma profundamente la experiencia del trabajo humano, no lo reemplaza, sino que lo reconfigura, precarizando e invisibilizando. La IA tiende a reemplazar empleos rutinarios y administrativos, pero al mismo tiempo crea nuevas formas de explotación, donde los trabajadores humanos deben corregir los errores de las máquinas sin reconocimiento ni estabilidad. El sujeto trabajador en la era de la IA se encuentra en una posición de mayor explotación, sin derechos claros y con una dependencia creciente de plataformas digitales.

Por otro lado, aunque los desarrollos de la IA se planifican y ejecutan, en general en países del norte, los efectos económicos, climáticos, ecológicos y laborales-humanos son mayormente nocivos en los países del sur, pues son en general los proveedores de materias primas y mano de obra precarizada, aun siendo calificada. Asistimos a una tendencia en la que la IA ocupa cada vez más espacios tangibles, otros que no son tan palpables pero que influyen igualmente en nuestras vidas. No es sencillo escapar de dicha IA ya que, por ejemplo, muchas ofertas de aplicaciones se nos presentan como optativas cuando en realidad son obligatorias para ciertos trabajos, operaciones o actividades que sin ellas no podemos hacer y son imprescindibles.

Es decir, la IA tiene efectos concretos en la naturaleza y en los seres humanos, vistos como parte de la producción por su fuerza de trabajo (subpagados y explotados, homologable a la de la primera Revolución Industrial) o como fuentes de datos gratuitos para la mercantilización de los mismos. De este modo, los sistemas de IA no son entidades neutrales, sino profundamente arraigados en estructuras de poder, explotación y desigualdad, y las reflejan.

Por otra parte, sugerimos leer los siguientes capítulos de Los Datos y La Clasificación que abordan cómo en la actualidad se construyen las identidades y los sesgos en el pensamiento a fin de construir relaciones humanas y culturales determinadas, funcionales a esta configuración del poder económico. Las relaciones desiguales, discriminatorias y poco críticas con el sistema de poder oculto, configuran un sujeto contemporáneo como un recurso vigilado, explotado y clasificado, condicionado por los sistemas algorítmicos que moldean su vida cotidiana y su subjetividad.

Lejos de ser usuarios libres que interactuamos con la tecnología, la existencia de muchos de nosotros está condicionada por sistemas que nos observan, analizan y categorizan constantemente. Nuestra autonomía está orientada por sistemas tecnológicos que operan bajo la lógica del mercado y el control. La información personal, patrones de comportamiento e interacciones digitales se convierten en recursos explotables por grandes corporaciones tecnológicas y gobiernos, en una lógica que extiende la economía extractivista al ámbito de los datos. Nuestra identidad no es reconocida en su complejidad y singularidad, sino reducida a etiquetas impuestas por sistemas que buscan predecir y controlar nuestra conducta. Estas clasificaciones, lejos de ser neutrales, refuerzan desigualdades estructurales, perpetuando estereotipos y discriminaciones preexistentes. Por ejemplo, con dichos sistemas se realizan evaluaciones preliminares de curriculum para puestos de trabajo o se determinan perfiles de riesgo policial: muchas personas se ven sometidas a procesos algorítmicos en los que tienen escasa capacidad de intervención y ciertos grupos se ven altamente perjudicados por ellos.

En síntesis, como se dijo al principio, es una obra profundamente crítica y bien argumentada. Por todo lo descrito, puede parecer a primera impresión que se trata de un libro agotador y pesimista, poco entusiasta con el avance tecnológico. No obstante, se trata más bien de un apoyo para despertar como sujetos contemporáneos que nos relacionamos con las tecnologías como elementos culturales de la actualidad. No conocer para no desilusionarse no es un razonamiento del pensamiento científico, ni tampoco debería ser del ciudadano en un mundo tan desigual, donde las mayorías nos encontramos en el lado más precario de esa balanza.

Más allá del campo de formación de los lectores, este libro es altamente recomendable ya que está escrito en un tono claro y no técnico, aunque se trate de una lectura densa. Además, cada uno de los datos y conceptos presentados tienen su referencia para ser buscados. Es decir, no hay aspectos que se nos puedan escapar a la revisión personal, incluso si es para debatir con lo expuesto. Se convierte así, este libro, en una herramienta para el pensamiento más allá de la profesión de cada uno, pues nos interpela como trabajadores, ciudadanos del mundo social y natural, como usuarios del sistema y de sus encantos.

La autora, al desandar cada mito, logra también dos cosas: dar cuenta de que no es un proyecto irreversible sin ninguna posible injerencia, y dar pistas sobre cuáles pueden ser algunos caminos a tomar. La IA y sus consecuencias son decisión humana, y por lo tanto sus efectos presentes y su mantenimiento futuro también están en las manos humanas. Es cuestión de tomar conciencia y plantear la organización social y el establecimiento de objetivos comunes a nivel local, regional y nacional. Cada comunidad puede y debe velar por sus propios intereses y necesidades, y controlar los intereses extranjeros en los propios territorios.

Nuestro país no está exento de esta realidad. No es la primera vez que se habla de dejar a disposición nuestros recursos naturales, minerales y tierras raras para su extracción de parte extranjera (como el litio del norte), a cambio de préstamos millonarios para salvar una economía frágil, sucedida por malas decisiones, en detrimento de la gran mayoría del pueblo. Es preciso tener conciencia de qué es lo que está en juego para esta generación y las que siguen. Mayor aún es nuestro compromiso como comunidades científicas, pues tenemos la responsabilidad social de devolver una parte de lo que hemos recibido de la sociedad y poner el conocimiento al servicio de la comunidad como herramienta de poder y emancipación.