Introducción

Cuando observamos el proceso de apropiación de una tecnología desde una perspectiva integral (Sandoval, 2020), un aspecto o, mejor, momento, de particular interés es el que corresponde a las discursividades que circulan prefigurando los usos, preparando el terreno simbólico para la adopción de dispositivos y aplicaciones. Estas discursividades son muy variadas, y van desde las secciones y suplementos de “Tecnología” que se han vuelto comunes en diarios y revistas de interés general, o las secciones análogas y los comentaristas especializados en los noticieros televisivos y los programas especializados en las señales informativas de cable, pasando por los anuncios publicitarios (Campbell et al., 2021; Goggin, 2015; Sandoval, 2019, 2021), hasta llegar a los textos ficcionales (novelas, films, series televisivas, telenovelas) en los que los dispositivos técnicos se incorporan a las tramas como recursos más o menos centrales (Karnowski, 2012).

En cierta forma, se trata del momento de la imaginación, como indicara Silverstone (1996) en su propuesta analítica para el abordaje de la domesticación de las tecnologías, que –al conformarlas como objeto de deseo o, agregaríamos nosotros, temor– prefigura la apropiación y el uso de las mismas. Si los imaginarios sociales organizan las representaciones que un colectivo se da a sí mismo acerca de su pasado y de su historia (Taylor, 2006), tal vez, dice Baczko (1991) al reflexionar sobre esto, “operan todavía más vigorosamente en la producción de visiones del futuro, en especial en la proyección sobre este de obsesiones y fantasmas, de esperanzas y de sueños colectivos” (p. 30).

De ahí nuestro interés en explorar aquí algunas cuestiones no tan ligadas a un presente tecnológico, es decir a dispositivos o servicios ya existentes y que se ofrecen en un mercado. Nos interesa indagar en los imaginarios tecnológicos relativos a un tema en concreto: el desarrollo de la inteligencia artificial (IA), el paisaje que de manera sugerente Søraa y Fyhn (2018) llaman el “Roboceno”. Y, para ello, explorar discursividades sociales que provienen de la ficción. La IA, especialmente en versiones antropomorfizadas, ha sido un elemento central de un enorme corpus de relatos de ciencia ficción, los que, a su vez, se han vuelto referencias habituales en la discusión mediática, en el discurso académico y en los marcos de referencia de los decisores políticos. Esta última inflexión supone ciertas consecuencias problemáticas en las que vale la pena detenerse (Royal Society, 2018). La ciencia ficción tiene, al decir de Jameson (2009), una función esencialmente epistemológica, vale decir que, en la mayoría de los casos, su objeto es reflexionar acerca de las problemáticas, conflictos y desafíos de las sociedades humanas actuales. Así, mientras las IA antropomorfas nos permiten explorar temas de género, etnicidad y distintas formas de explotación, las historias acerca de sistemas que ejercen un control absoluto sobre los individuos nos enfrentan a la realidad y las consecuencias del colonialismo y los regímenes totalitarios. En conjunto, “los tropos de la IA, analizados en un sentido figurado, sirven como una lupa para la condición humana en su estado filosófico, cultural y psicológico, así como las problemáticas sociopolíticas actuales” (Hermann, 2021, p. 4). Ahora bien, si a esto le sumamos las decisiones que los autores toman por motivos estrictamente narrativos[¹], la conclusión obvia es que tomar acríticamente los relatos de ciencia ficción como una analogía correcta puede acarrear problemas en el análisis, tanto porque focalizan la atención en aspectos que no son centrales –como, por caso, los derechos de los robots (Birhane & van Dijk, 2020)– como porque los relatos de ciencia ficción presentan despliegues tecnológicos que, con suerte, estarán disponibles en el largo plazo, mientras que nos desvían de los desafíos sociales, económicos y políticos que las IAs realmente existentes presentan en la actualidad (Hermann, 2021)[²].

En la primera parte de este trabajo, entonces, se analizan algunas producciones televisivas recientes en las que se tematiza la inteligencia artificial: la tercera temporada de WestWorld (HBO) y la miniserie Devs (Hulu – FX). En estos productos notamos que se evidencia una inflexión respecto a un tratamiento clásico del tema en la narrativa de finales del siglo xx, y por ello nos ha parecido útil proponer dos “paradigmas” como marcos narrativos genéricos: uno tradicional (al que denominamos “Paradigma Terminator”) y otro emergente (al que llamamos “Paradigma Job”).

Resulta también de interés, por lo anterior, analizar la manera en que las personas imaginan el futuro, y el modo en que, para ello, los relatos de ficción resultan recursos cognitivos a la mano. En este caso, en la segunda parte de este trabajo, nos centraremos en los testimonios elicitados en entrevistas realizadas a jóvenes en las que se les ha propuesto puntualmente, como eje del intercambio, imaginar las sociedades del futuro y el rol de las inteligencias artificiales en las mismas. Como veremos, la ficción cumple allí un rol nada desdeñable, con lo cual se confirma tanto la importancia de su análisis como los riesgos derivados de los límites de las analogías que propone.

La estrategia metodológica que sustenta esta investigación opta por el valor de la integración metodológica y, en concreto este diseño opta por una estrategia de complementación entre dos abordajes cualitativos: análisis de textos audiovisuales y entrevistas en profundidad. Como explica Bericat Alascuey (1998), en estos casos “se obtienen dos imágenes [y] así, obteniendo esta doble y diferenciada visión de los hechos completamos nuestro conocimiento sobre los mismos” (p. 37). Si bien los objetos de ambos análisis son diferentes, la interactividad entre ambos es significativa. El primero de los dos abordajes mencionados se implementó en forma previa al segundo, y sus resultados se utilizaron como inputs para la elaboración de las guías de las entrevistas. Los nombres de los entrevistados han sido modificados para preservar su anonimato.

Un cambio en las representaciones de la relación entre humanos y máquinas

Partamos de lo que podríamos llamar una concepción canónica de la relación entre humanos y máquinas en la ficción contemporánea: la presentación de Skynet en la saga Terminator, tan canónica que cuando Richard Hendricks, el CEO de la ficticia Pied Piper en la comedia Silicon Valley le explica a un grupo de posibles usuarios que su aplicación “se volverá más inteligente y rápida por sí misma” la primera respuesta que obtiene de un usuario, acompañada del asentimiento del resto es: “Ok, pero el problema es Terminator”[³].

¿Cuál es el “problema Terminator”? Pues bien, en la saga iniciada con los dos films de James Cameron (de 1984 y 1991), Skynet –una IA desarrollada por las fuerzas armadas norteamericanas–, se vuelve autoconsciente e inicia una guerra de exterminio de la especie humana. Esta forma de temor a las máquinas inteligentes tiene una larga genealogía, y podemos pensar en otros ejemplos: los robots que diseñan la Matrix en la saga homónima (Lana y Lilly Wachowski, 1999-2003), el ordenador V.I.K.I. en el film Yo, robot (Alex Proyaz, 2004)[⁴], o incluso la rebelión de HAL 9000 en 2001 Odisea en el espacio (Stanley Kubrik, 1968). De allí que podamos hablar de una visión canónica acerca de la relación entre máquinas y humanos, que consistiría en el argumento de que, en caso de que las primeras alcancen un nivel de inteligencia que les permita ser autoconscientes y tomar decisiones por sí mismas, lógicamente concluirían en la necesidad de dominar o exterminar a la especie humana, como revancha por la opresión que esta ha desplegado sobre las máquinas o debido a su carácter perjudicial para sí misma y para el planeta.

Ahora bien, a partir de un trabajo exploratorio sobre las maneras en que la ficción audiovisual reciente tematiza las relaciones entre sociedad y tecnologías^[5], detectamos algunas producciones en las cuales esa representación dominante pareciera haber sufrido una mutación. En concreto, en este trabajo nos centraremos en dos de ellas, las que nos han parecido, parafraseando a Levy-Strauss, buenas para pensar.

Empecemos con WestWorld (Jonathan Nolan y Lisa Joy), serie de HBO estrenada en 2016, pero de la que nos interesa comentar su tercera temporada, emitida en 2020. Si las dos primeras se habían centrado en un parque de diversiones en el que las principales atracciones eran androides indistinguibles de personas (y que además no tenían conciencia de serlo) que terminaban rebelándose y asesinando a los visitantes, en esta la narración se desplaza al “mundo real”. Nos enteramos de que nos encontramos tres o cuatro décadas en el futuro, luego de una guerra nuclear que no llega a escalar hasta resultar en un apocalipsis (y de la que la narración no da mayores precisiones). En este mundo futurista la acumulación de datos personales de toda la población ha permitido la construcción de una IA, Rehoboam, que no solo conoce todo, sino que es capaz de predecir con exactitud el futuro, tanto por su capacidad pronóstica como por su acción performativa. “Un oráculo solo predice el futuro –dice Serac, creador de esta IA– pero nuestro trabajo es crearlo”. Los algoritmos predictivos terminan funcionando como profecías autocumplidas y así, en una escena importante, uno de los protagonistas accede a su propia “ficha” en la cual se indica con precisión el conocimiento que el sistema tiene de él, pero también el modo en que ese conocimiento condiciona su vida (se desaconseja un matrimonio, se limitan sus ocupaciones posibles a las manuales con baja interacción social, etc.).

La fuerza que ha alumbrado la creación de esta IA omnisciente es el temor ante el descontrol como tendencia ínsita en la especie humana. Pero Rehoboam no se rebela contra su creador, sino que es Serac quien la ha desarrollado, en la búsqueda, dice, de “un Dios para salvarnos”. Y tanta es su confianza que, al final de la temporada, se evidencia que ha decidido delegar toda decisión en la IA y convertirse, voluntariamente, en un instrumento de la misma. Finalmente este proyecto es derrotado, cada persona recibe la información y predicciones generadas por la IA (algo que no es feliz en casi ningún caso) y la máquina “formateada” y apagada. La humanidad, ahora libre de las constricciones y el control de Rehoboam, se encamina a tomar sus propias decisiones, que quedan ilustradas por explosiones, motines y disturbios.

La segunda ficción que queremos comentar someramente es Devs (2020), miniserie de Alex Garland[⁶] ambientada en el presente y centrada en Amaya, una compañía tecnológica ficticia, en Forest, su CEO, y en Lily, una de las programadoras. La empresa concentra sus esfuerzos en un proyecto ultrasecreto denominado Devs, que consiste en un superordenador donde se ejecuta un software de IA capaz de predecir con exactitud tanto el pasado como el futuro: al suministrársele coordenadas espacio-temporales, el sistema permite visualizar cualquier acontecimiento (algo que se le informa al espectador en una escena donde los programadores del equipo observan en un enorme monitor la crucifixión de Cristo). Estas visualizaciones son borrosas y, cuando uno de los programadores encuentra el modo de clarificarlas al costo de enmarcar la solución en una teoría cuántica de muchos mundos, Forest rechaza la solución. Esto está motivado en que su premisa es totalmente determinista, lo que supone la convicción de que cada estado futuro está determinado por una configuración previa. Así, no existe azar y tampoco decisión. Finalmente consiguen clarificar las proyecciones, por lo que obtienen un conocimiento absoluto, tanto de los acontecimientos pasados como de los del porvenir.

Cuando finalmente Lily –que no integra el equipo del proyecto secreto– accede a las instalaciones de Devs, en la entrada se encuentra con uno de los programadores principales, el que, al consultarle “¿Qué hay adentro?” responde con desazón “Todo. Todo está adentro”. Lily se rebela contra lo que considera un delirio de grandeza, pero es incapaz de actuar de un modo diferente al predicho por la IA. En el capítulo final, Forest explica que el nombre del proyecto no se refiere a la programación informática, como parecería (“devs” es la abreviatura habitual de “development”, como se conoce a los programadores y a los proyectos de desarrollo de software[⁷]), sino una palabra en latín: “Deus”.

¿Qué tenemos en común entre estas dos ficciones recientes, ambas centradas en la problemática del desarrollo futuro la inteligencia artificial? Parecería que ya no nos encontramos en el ámbito del temor a la rebelión de las máquinas, propio del “paradigma Terminator”. En estos casos las IA no son antropomorfas y no buscan exterminar a la especie humana. De hecho, no tienen ningún atisbo de rebelión y cumplen solícitas con todo lo que se les pide. El problema parece ser otro: al alcanzar la capacidad de conocer todo, objetivo que ambas tramas suponen realizable a partir de una capacidad de cómputo y bases de datos suficientes, exterminan la posibilidad misma del libre albedrío y del azar. Estamos en un espacio problemático distinto, que bien podríamos llamar el “paradigma Job”, y no es casual que en ambas ficciones la IA se termine asimilando a la divinidad. ¿Qué posibilidad de libertad tiene el hombre bajo la mirada todopoderosa de Dios? Es por eso que Job pedía una relación igualitaria: “que retires tu mano que pesa sobre mí, y no me espante tu terror. Arguye tú y yo responderé, o bien yo hablaré y tú responderás”[⁸]. La omnisciencia, de Dios en el relato bíblico, de las IAs en las dos ficciones que analizamos, es incompatible con la libertad del ser humano.

Los temores que dan forma a las ficciones que comentamos, como parte de un imaginario de época, son congruentes con ciertos enfoques críticos recientes, y particularmente es el caso del último libro de Eric Sadin (2021), que ya había adelantado sus críticas a los crecientes niveles de acción algorítmica y a lo que denominaba “encuadramiento de la acción humana” en el ámbito de las empresas, el que llega al punto en que los operarios se vuelven apéndices de los sistemas informáticos (Sadin, 2018)[⁹]. Pero es en su último libro donde encara de manera directa la crítica al proyecto de la IA, al que considera sustentado por un antihumanismo radical. Aunque configurado por los precursores de la informática, como Norbert Weiner, el cambio puede considerarse relativamente reciente y datarse en los años finales del siglo xx, cuando el desarrollo de los sistemas expertos les permite a estos evaluar las propiedades de una situación y “revelar fenómenos enmascarados a la consciencia [humana]” (Sadin, 2021, p. 57).

Más allá de ser simples auxiliares, la deriva de la informática ha dotado a estos sistemas de una “potencia aletheica”, es decir de la capacidad de enunciar la verdad, la que atraviesa varias fases, cada vez más amenazantes: desde un estadio incitativo (como las apps que sugieren un mejor recorrido para evitar embotellamientos) hasta –pasando por el imperativo y el prescriptivo– un estadio coercitivo de la verdad, cuya lógica, adelantada en los campos empresario y militar, supone “la subordinación simbólica y formal de los seres humanos a las ecuaciones” (Sadin, 2021, p. 146) con la meta de lograr “la concreción de un mundo perfecto, de espíritu higienista, que ya no debe encontrarse con el estorbo del menor error” (Sadin, 2021, p. 149). Sadin acierta en denunciar la ideología de la IA que enmascara en una supuesta neutralidad técnica los valores y el proyecto de un tecnolibertarismo descarnado. En la misma línea que Westworld y Devs, indica que

No tenemos que tratar con criaturas que se nos “escaparían”, y que son susceptibles de rebelarse un día contra sus “progenitores”, según un imaginario incongruente que todavía está muy en boga, sino que tenemos que tratar con entidades consagradas a volvérsenos cada vez más ajenas (Sadin, 2021, p. 76).

Basta con indagar someramente en los discursos imperantes en los proponentes de los avances y ventajas del desarrollo del campo de la IA para notar que las críticas de Sadin no se encuentran demasiado descaminadas. Por caso, Pedro Domingos, investigador de la Universidad de Washington y miembro de la Asociación para el Avance de la Inteligencia Artificial, avizora la llegada de “dobles digitales”, acompañantes informáticos que “será[n] lo bastante similar[es] a usted como para ocupar su lugar en toda clase de interacciones virtuales” (Domingos, 2020, p. 83). Después de todo, argumenta este especialista, “ya estamos acostumbrados a que la mayoría de nuestras decisiones se tomen sin nuestra intervención consciente, pues ya es así como actúa nuestro cerebro” (Ibíd.).

La ambigüedad del futuro: “Yo me imagino que vamos a ser re WALL-E”

¿Pero de qué manera se relacionan estas visiones que propone la industria cultural con las formas en que las personas conceptualizan e imaginan el futuro próximo? Recordemos que novelas, films, series de televisión nunca son “mera ficción”. Como mostraron acabadamente Gerbner y sus colaboradores, “las historias enseñan valores, normas, ideologías”. Y en el caso específico de la ficción se trata de “cuentos sobre cómo funcionan las cosas [que] revelan las dinámicas invisibles de la vida” (Morgan, 2008, p. 20). Por supuesto: el carácter exploratorio de este trabajo nos aleja de la pretensión de establecer causalidades, por lo que nos bastará con indicar algunas similitudes o discrepancias.

Nos propusimos, entonces, explorar los imaginarios y discursividades de los jóvenes en torno a las tecnologías y el futuro, y para ello efectuamos diversas entrevistas grupales e individuales. Las entrevistas fueron realizadas durante los meses de julio y agosto de 2021, a jóvenes desde los 16 a los 26 años. En total, para esta etapa exploratoria, se sumaron ocho personas con las cuales se dialogó en varias oportunidades.

Si bien nuestro interés inmediato se centraba en los imaginarios acerca de la inteligencia artificial y la relación de hombres y mujeres con las máquinas, los entrevistados y entrevistadas también plantearon otros temas de interés, más amplios. Si bien el análisis de las series de televisión que recién se reseñó fue utilizado como un insumo en la elaboración de las guías para las entrevistas, no se indagó específicamente acerca de si habían visualizado esas series en concreto (y, de hecho, ninguna otra). Los materiales ficcionales no fueron propuestos por los entrevistadores y, cuando surgieron –y, como se verá, esto fue bastante habitual– provinieron de los mismos entrevistados y entrevistadas.

La obsolescencia de lo humano

Al imaginar el futuro del trabajo –donde surgen ideas que van desde la robótica aplicada a la automatización de procesos (profundizando los modelos actuales) hasta el desarrollo de IAs robóticas que puedan tomar decisiones en forma autónoma– nuestros entrevistados encuentran dificultades para asignar un rol claro para los seres humanos.

Pablo: Para mí, las fábricas de productos van a ser 100% robots. No va a haber humanos en la mayoría de los trabajos. Solo los humanos harían tareas tipo científicas y consumirían. Escuché una idea de que podría haber una renta básica universal, en el futuro. Por el simple hecho de existir las personas van a percibir un sueldo suficiente para vivir, y los robots harían toda la tarea.

En un principio, los mismos entrevistados mantienen la idea (cada vez más desmentida en la práctica) de que las máquinas podrían tal vez limitarse a las tareas más simples:

Lautaro: En algunas cosas simples creo que sí pueden los robots hacer trabajo humano. No serían lo ideal para todo, pero optimizarían cosas como la carga de datos.

Virginia: los trabajos más controvertidos quizás continúen siendo de las personas [pero] cuestiones sencillas, […] cuestiones muy rutinarias podrían resolverse por robots y no por personas.

Pero al profundizar la reflexión emerge como un escenario posible un futuro donde los robots reemplacen de manera más completa a los humanos y, de hecho, las supuestas ventajas económicas que tendrían los primeros harían que este reemplazo fuera algo inevitable.

Virginia: El robot va a saber qué hacer y nunca se va a sentir mal. No te va a decir: “¡Uy qué trabajo más vacío de mierda que tengo!”. Pero una persona ya te trae problemas de derechos del trabajador, te va a decir un día “No, la verdad que este trabajo no me hace sentir bien, me voy a la mierda”.

Marina: Y ya no corren riesgos de accidentes en el trabajo, que se tengan que pagar indemnizaciones…

Lautaro: Y qué vacaciones, qué licencia por paternidad, feriados…

Como señalan Cave y Dihal (2019), las máquinas inteligentes generan, al mismo tiempo, esperanzas y temores; en este caso la expectativa de que los robots alivianen el esfuerzo laboral y se ocupen de las tareas menos gratificantes, pero acompañada del temor a ser descartado del mundo productivo.

Esta ambigüedad adquiere un matiz específico cuando el tema gira hacia la introducción de tecnologías robóticas en los cuidados de las personas, un ámbito laboral particular donde se patentizan los temores respecto a la deshumanización de estos cuidados, aún cuando algunos investigadores que han analizado pruebas piloto han encontrado también ciertos aspectos positivos (Søraa et al., 2021). Virginia, estudiante avanzada de Trabajo Social, es un ejemplo de esta ambigüedad.

Virginia: En parte me dan como esa sensación de soledad, de artificial. Carecen de lo físico, del estar con un ser humano. Pero creo que pueden ser de mucha ayuda, como para diferenciarse de los cuidadores humanos. Porque estos no siempre tienen los mejores cuidados, se agotan, empiezan a maltratarlos y a veces no son lo mejor. Puede ser un reemplazo de lo humano, y en cierto punto no. Pero si pueden estar en un lugar [con] adultos mayores, me parece que eso podría ser positivo.

Pero la opinión puede ser diferente cuando la perspectiva que se adopta no es la del profesional de la salud (como Virginia) sino la del paciente, que es el punto de vista que asume otro entrevistado.

Leandro: [Es] como si el único compañero que me quedó de mi familia es una máquina. Literal. Programada para quererme. Me quiere, me trata bien, me hace mi comida favorita porque lo programaron. Eso me recuerda a un pedacito de Detroit: Become Human, que seguís la historia de 3 o 4 androides con inteligencia artificial recontra desarrollada. Uno está programado y puede medir el nivel de estrés o cómo se está comportando una persona. Así que sí, como que es verdad que podrían llegar a detectar cómo se sienten las personas, por lo tanto podrían cuidarlas.

Emociones y derechos

Es un tópico de la narrativa audiovisual de ciencia ficción la presentación de IAs antropomorfizadas que, paradójicamente, en la medida en que requieren la empatía del espectador, son actuadas por personas de carne y hueso[¹⁰]. Este tipo de narrativas alimenta el debate sobre los derechos de los robots, que es una de las cuestiones que convoca posiciones más polarizadas en el área de ética de la IA, pero que ha sido criticada por suponer un desvío de las problemáticas más urgentes. Birhane y van Dijk (2020), por caso, entienden que esta focalización se da “a expensas de preocupaciones éticas urgentes, tales como la parcialidad de las máquinas, la explotación del trabajo humano permitida por las máquinas y la erosión de la privacidad” (p. 207).

Nuestros entrevistados no son inmunes a estas tendencias y así parte del horizonte de problemáticas que traen a colación pasa por la capacidad potencial de las máquinas de sentir, la posibilidad de que tengan derechos o de ser objeto del afecto o vínculo sexual por parte de algunas personas, todas problemáticas en las que se evidencia aún más el lugar de la ficción como recurso cognitivo.

Virginia: Sí, yo también me acordaba de Her, de la película. También pasa eso, ponele que [la IA] desarrolla emociones, las puede expresar y las va aprendiendo a lo largo del tiempo. Pero no es como que son emociones reales. Como que también es un planteamiento filosófico. [La máquina] simula tanto que es una persona que realmente vos pensás que es una persona.

¿La máquina simula ser una persona? ¿O, en la medida en que se desarrolle la IA, puede ser considerada como una persona? Este tema, por ahora muy especulativo pero, como ya dijimos, muy recorrido en la ficción, despierta diferentes opiniones, disquisiciones morales o éticas.

Marina: Creo que ese sería el gran dilema, en qué punto olvidamos o interpretamos al robot como cosa. Yo lo pienso en términos jurídicos, de diferencia de cosas y personas. Pero lo grave creo yo es empezar a personificar a algo que es una cosa. [...] Me hace acordar a la peli esta, Lars y la chica real. Que hay una relación con una muñeca y para él, para toda la familia, él la presenta como una persona. Me hace pensar en eso.

Leandro: Uh, como cuando vimos con los chicos Blade Runner. Que la androide protagonista era una chica que tenía como una semana de vida y que después de esa semana iba a morir, porque eran como descartables. Cuestión de que Harrison Ford tiene relaciones con esa androide. Y con los chicos nos pusimos a hacer filosofía de “Che, si ese androide lo hizo el papá de la chica, ¿programó a la androide con la sexualidad de la chica? ¿Dio su consentimiento el androide?”.

Virginia: Estaba pensando en Black Mirror que está la chica que se le muere el novio y que después pide uno por correo que es igual. Es todo igual, está programado con los recuerdos del novio pero sigue sin ser el novio. La mina sigue sin estar satisfecha. Es peor para ella porque es como la imagen de todo el pibe, de todos los recuerdos, pero sin serlo.

Un matiz diferente es el que deriva de la posibilidad de la hibridación humano-máquina, es decir la problemática cyborg o el transhumanismo, asociada al anhelo de derrotar la muerte, en la medida en que “propone la transferencia (transbiomorfosis) de la conciencia de un individuo al chip de un ordenador obviando el cuerpo, suponiendo la consumación efectiva del idealismo subjetivo” (Aguilar García, Teresa, 2008, p. 10), cuestión también muy recorrida en la ficción.

Pablo: hay una película, Chappie, que un programador genera un robot con consciencia, ese robot evoluciona y empieza a hacer su propia vida, inclusive el programador termina transfiriendo su cabeza a una máquina. […] Es una idea inquietante. No se si me gustaría que lleguemos hasta ahí.

Ivana: La posibilidad de vivir más tiempo o para siempre habitando una máquina me aterra… pero creo que puede ser posible. ¿No es algo que está probando Elon Musk?

Los datos personales, la capacidad de vigilancia

De acuerdo al último informe de We are social / Hootsuite sobre el estado de internet en el mundo (We are social & Hootsuite, 2021), el 33,1% de los encuestados dijeron estar preocupados acerca del uso de los datos personales que hacen las plataformas, tasa que trepaba al 38,1% en Argentina. A nivel global, en el rango etario de nuestros entrevistados esos valores eran del 34,8% para mujeres y de 30,2 % para varones (el rango etario más preocupado era el de los mayores, entre 55 y 64 años).

Sin embargo, entre nuestros entrevistados predomina una actitud ambigua: si por un lado son conscientes de la capacidad de las tecnologías (paradigmáticamente el teléfono móvil) para registrar datos de sus actividades cotidianas y manifiestan cierta preocupación al respecto, por el otro asumen el carácter inevitable que esto tendría dada la imposibilidad de prescindir de la tecnología ante el temor de quedar aislados de sus contactos[¹¹].

Vanesa: Si, yo tengo evidencias de que no es por solo poner like, ponen bots que por ejemplo escuchan tus conversaciones y que vos tenés para activar voz en Google entonces, suponte, hablas de algo y ellos identifican una palabra y entonces eligen publicidades para mandarte.

Pablo: Pero igual eso ¿qué podés hacer? No podés apagar el celu, porque te desconectás de tu familia, tus amigos, lo que pasa.

Virginia: Igual pienso lo que siempre se dice, que todo lo que está subido nunca se va de Internet. Siempre va a estar ahí en un lugar encriptado, guardado, no sé. Como que ya no es tuyo en parte, por eso lo que decía de Internet. No está muy regulado eso y es difícil regularlo.

Leandro plantea otra forma de ambigüedad, entre, por un lado, cierta consciencia de la gubernamentalidad algorítmica (Gendler, 2019; Rodríguez, 2018) pero, por el otro, cierta incredulidad respecto al perjuicio real que esta puede acarrear.

Leandro: Como que nunca creí lo de las webcams y todas esas mierdas que supuestamente siempre se mantienen encendidas. Pero no sé, me cuesta, como que nunca sentí que eso sea cien por ciento real, cuando dicen “Facebook sabe exactamente todo sobre vos” […] Siento que los “datos” no definen a una persona. Encima a muchos los cargás vos mismo cuando te creás la cuenta.

Y en otro tramo de la entrevista:

Leandro: internet puede ser re invasivo a veces, pero creo que es invasivo al pedo. ¿De qué mierda le sirve a un hacker tener mi información? ¿Por qué al gobierno de China le serviría tener mi información.? […] Para mí es re de loco pensar que internet puede saber absolutamente todo de mí, de mi personalidad y de todo lo que me pasó en la vida. Saber todo de mí incluye un montón de cosas que no, ni en pedo internet va a poder averiguar.

Es aquí, al conversar sobre la vigilancia y el manejo de los datos, cuando encontramos mayor cercanía al “paradigma Job”, es decir donde se visualiza que la capacidad de registrar y brindar datos, orientar y sugerir contenidos y publicidades, se traduce en una potencialidad anticipatoria de las tecnologías

Pablo: Los celulares siempre van a avanzar o sea siempre van a buscar algo mejor… no sé si van a modificarlo tanto como el que está ahora, pero siento que cada vez se van a acercar más a la persona, como que se van a integrar más, como que en algún momento te va a tomar las pulsaciones, ese tipo de cosas: como estás, tu estado de ánimo, así como más completo. Ese tipo de cosas.

Aunque este mismo entrevistado, en otro momento, plantea su convicción en torno a la contingencia de la actividad humana, su creencia en la imposibilidad de una alternativa Rehoboam o Devs y, finalmente, su apreciación positiva respecto a las potencialidades futuras de la IA.

Pablo: No creo que la tecnología pueda predecir el futuro en cosas humanas, como la historia, lo político, pero sí tal vez en cosas de la naturaleza o del clima, que hoy ya está, o por ejemplo los autos que pueden saber si viene, por satélite, otro auto en una esquina y frenar de manera automática … Los autos que se manejen solos en el futuro. Para eso está bueno lo de los datos.

La crisis ambiental ¿la tecnología es la respuesta?

Para los jóvenes, imaginar el futuro es indisociable de la problemática ambiental, y de los variados pesimismos que esto despierta. Casi todos los entrevistados acuerdan con señalar que el daño que la especie humana le ha infligido al planeta es irreversible, aunque persiste cierta esperanza respecto a la posibilidad de detener su deterioro, esperanza en la cual las tecnologías tienen un rol importante.

Marina: Que se revierta no [el cambio climático] no lo veo como una posibilidad. Lo que sí podría hacerse es postergar el problema y no que avance… a pasos gigantes como lo vemos actualmente.

Vanesa: Uf. Yo me imagino que vamos a ser re WALL-E… somos muy destructivos los humanos…. tenemos una forma de vida que destruye la naturaleza y creamos tecnología para poder vivir sin la naturaleza[¹²].

Pero el papel de la tecnología en este tema tiende a ser visualizado de modo positivo y algunos entrevistados señalan que, bien utilizada, puede contribuir a mejorar el planeta. Ejemplifican con experiencias actuales de monitoreo de especies con collares y GPS, las que pueden derivar en programas integrales de conservación pensados incluso en relación a la expansión urbana; monitoreos de emisiones tóxicas y apagado automatizado de máquinas, fábricas y motores en función de eso; o la posibilidad de monitorear la explotación de recursos por parte del hombre a fin de frenar la depredación.

Pablo: Por ejemplo, para controlar lo que se pesca, y evitar agotar o extinguir especies, podría incorporarse tecnología en los barcos y si están llegando al límite del cupo, entonces algo tipo que inhabilite los equipos en el barco y los obligue a volver a tierra, combinado con el GPS. O que de manera automática las computadoras manejen el barco hasta puerto… no sé.

Para sintetizar, la visión en general implica que para salvar al planeta, su ambiente y diversidad, necesitamos poner la tecnología al servicio de ello en lo inmediato, algo que se avizora como posible, aunque con un cambio radical que demandaría mucho esfuerzo. Predomina una desconfianza hacia la humanidad en general, una visión pesimista respecto a cómo los intereses materiales, económicos y políticos anteponen la inmediatez del consumo depredador a la sustentabilidad de la vida (plural) en el planeta. De hecho, se deslizaron algunas frases tales como: “el humano es capaz de programar máquinas y crear cosas espectaculares, pero al mismo tiempo no sabe cuidar el planeta… unos pocos ganan… por ahora, a la larga también van a perder” (Jimena) o “Si seguimos así, vamos a ser unos seres miserables, viviendo con máscaras de oxígeno y reciclando el pis para hidratarnos” (Lautaro).

Conclusiones

Luego de que el proyecto de emular artificialmente el cerebro humano, pergeñado en los años sesenta del siglo xx, se frustrara repetidamente, el desarrollo de las técnicas de aprendizaje profundo posibilitó –en los últimos quince años– un rápido desarrollo del campo de la IA (Bengio, 2020). El estado actual de este campo, y las expectativas que despierta para el futuro inmediato en ingenieros y tecnólogos ha llevado a su tematización en la ficción contemporánea, donde hemos registrado un cambio de acento desde una visión en la cual las máquinas se vuelven autoconscientes e inician una guerra de exterminio de la especie humana (el “paradigma Terminator”) hacia una imagen más matizada en la cual la problemática no reside en la voluntad de dominio de las tecnologías sino, al decir de Sadin, en su potencia aletheica y las restricciones que ello supone para la libertad humana (el “paradigma Job”).

Al proponerles a nuestros jóvenes entrevistados pensar las tecnologías y el futuro emergieron una serie de cuestiones de interés: la expansión de la robótica en el mundo laboral y su contracara de dudas respecto al lugar que mantendrán los seres humanos, el debate acerca de la posibilidad de que las máquinas se conviertan en personas (o las personas se hibriden con máquinas), la consciencia respecto a la vigilancia algorítmica y la creencia en que resulta mayormente inevitable, la convicción acerca de la imposibilidad de revertir el daño ambiental al mismo tiempo que la expectativa de un papel positivo de las tecnologías para su morigeramiento.

Sin embargo, los desafíos más plausibles que representa el desarrollo de la IA, según se desprende tanto de sus apologistas como de sus críticos, no emergieron de una manera muy clara. Tal vez se trate de una forma de lo que Vernor Vinge denominó singularidad tecnológica, la que supone que “a mayor crecimiento del ritmo de avances tecnológicos, más difícil nos resulta predecir o entender los progresos tecnológicos del futuro” (Cobo & Moravec, 2011, p. 54). Tal vez, por el contrario, de lo que se trata es de que, en la medida en que la comprensión sobre la IA de los no especialistas se encuentra moldeada por los relatos de ciencia ficción, la tendencia es a “contemplar horizontes lejanos e ignorar todas las formas humildes y mundanas en las cuales la inteligencia de las máquinas ya está transformando nuestras vidas, nuestras economías y nuestros cerebros” (Hudson et al., 2021, p. 2). Esta última hipótesis parece fortalecerse por el hecho de que, en la tarea de imaginar ese futuro, la ficción audiovisual cumple un rol muy importante, algo que ha quedado corroborado en varias investigaciones (Cave & Dihal, 2019; Hermann, 2021), pero que también queda ilustrado por las constantes referencias de nuestros entrevistados a films o series televisivas para ejemplificar sus ideas al respecto[¹³].

Indagar en los imaginarios, tanto en la ficción de anticipación como en las representaciones que construyen, en parte a partir de ese material, los sujetos, parece una vía de interés para explorar los desafíos próximos que es necesario conceptualizar en relación a la perspectiva de la apropiación de las tecnologías, y desde una mirada social crítica.

Referencias

Aguilar García, Teresa. (2008). Ontología Cyborg. El cuerpo en la nueva sociedad tecnológica. Gedisa Editorial.

Baczko, B. (1991). Los imaginarios sociales: Memorias y esperanzas colectivas. Ediciones Nueva Visión.

Bengio, Y. (2020, marzo). Aprendizaje profundo. Temas. Monográficos de Investigación y Ciencia, 99, 6-11.

Bericat Alastuey, E. (1998). La integración de los métodos cuantitativo y cualitativo en la investigacion social: Significado y medida. Ariel.

Birhane, A., & van Dijk, J. (2020). Robot Rights?: Let’s Talk about Human Welfare Instead. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 207-213. https://doi.org/10.1145/3375627.3375855

Campbell, S. W., Zhao, F., Frith, J., & Liang, F. (2021). Imagining 5G: Public sense-making through advertising in China and the US. Mobile Media & Communication, 9(3), 546-562. https://doi.org/10.1177/2050157920985239

Cave, S., & Dihal, K. (2019). Hopes and fears for intelligent machines in fiction and reality. Nature Machine Intelligence, 1(2), 74-78. https://doi.org/10.1038/s42256-019-0020-9

Cobo, C., & Moravec, J. (2011). Aprendizaje invisible: Hacia una nueva ecología de la educación (1a. ed.). Publicacions i Edicions de la Universitat de Barcelona.

Domingos, P. (2020, marzo). Nuestros dobles digitales. Temas. Monográficos de Investigación y Ciencia, 99, 80-83.

Gendler, M. (2019). Personalización algorítmica y apropiación social de tecnologías: Desafíos y problemáticas. En A. Rivoir & M. J. Morales (Eds.), Tecnologías digitales miradas críticas de la apropiación en América Latina (pp. 299-317). CLACSO; RIAT. https://www.jstor.org/stable/10.2307/j.ctvt6rmh6

Goggin, G. (2015). Mobile Web 2.0: New Imaginaries of Mobile Internet. En A. Herman, J. Hadlaw, & T. Swiss (Eds.), Theories of the mobile internet: Materialities and imaginaries (pp. 134-148). London : Routledge,Taylor & Francis Group.

Hermann, I. (2021). Artificial intelligence in fiction: Between narratives and metaphors. AI & SOCIETY. https://doi.org/10.1007/s00146-021-01299-6

Hudson, A. D., Finn, E., & Wylie, R. (2021). What can science fiction tell us about the future of artificial intelligence policy? AI & SOCIETY. https://doi.org/10.1007/s00146-021-01273-2

Jameson, F. (2009). Arqueologías del futuro: El deseo llamado utopía y otras aproximaciones de ciencia ficción. Akal.

Karnowski, V. (2012). Symbolic models of mobile phone appropriation: A content analysis of TV serials. En C. Martin & T. von Pape (Eds.), Images in mobile communication new content, new uses, new perspectives. VS Verlag für Sozialwissenschaften / Springer Fachmedien Wiesbaden GmbH. http://dx.doi.org/10.1007/978-3-531-93190-6

Lorencik, D., Tarhanicova, M., & Sincak, P. (2013). Influence of Sci-Fi films on artificial intelligence and vice-versa. 2013 IEEE 11th International Symposium on Applied Machine Intelligence and Informatics (SAMI), 27-31. https://doi.org/10.1109/SAMI.2013.6480990

Mascheroni, G., & Vincent, J. (2016). Perpetual contact as a communicative affordance: Opportunities, constraints, and emotions. Mobile Media & Communication, 4(3), 310-326. https://doi.org/10.1177/2050157916639347

Morgan, M. (Ed.). (2008). La teoría del cultivo. En Los medios ¿aliados o enemigos del público?: Derivaciones de las teorías de comunicación surgidas en los setenta. Educa.

Rodríguez, P. (2018, junio). Gubernamentalidad algorítmica: Sobre las formas de subjetivación en la sociedad de los metadatos. Barda, 6.

Royal Society. (2018). Portrayals and perceptions of AI and why they matter.

Sadin, É. (2018). La silicolonización del mundo: La irresistible expansión del liberalismo digital. Caja Negra.

Sadin, É. (2021). La inteligencia artificial o el desafío del siglo: Anatomía de un antihumanismo radical. Caja Negra.

Sandoval, L. R. (2019). Proponiendo usos: La publicidad de operadores de telefonía móvil como aspecto del proceso de apropiación de tecnologías. Icono14 Revista científica de Comunicación y Tecnologías emergentes, 17(1), 133-161. https://doi.org/10.7195/ri14.v17i1.1204

Sandoval, L. R. (2020). La apropiación de tecnologías como proceso: Una propuesta de modelo analítico. En R. Canales Reyes & C. Herrera Carvajal (Eds.), Acceso, democracia y comunidades virtuales: Apropiación de tecnologías digitales desde el Cono Sur (pp. 33-49). CLACSO; Red de Investigadores sobre Apropiación de Tecnologías Digitales.

Sandoval, L. R. (2021). Estrategias empresarias, retórica publicitaria y apropiación de la telefonía móvil: Argentina 1989-2015. En L. R. Sandoval (Ed.), Pantallas: Usos y representaciones en comunicación digital (pp. 161-212). Ediciones del gato gris.

Silverstone, R. (1996). Televisión y vida cotidiana. Amorrortu.

Søraa, R. A., & Fyhn, H. (2018, agosto 30). The Robotocene: Sociotechnical imaginaries of a robotic future. Society for Social Studies of Science Annual Conference, Sydney. https://bit.ly/2ZUvi4B

Søraa, R. A., Nyvoll, P., Tøndel, G., Fosch-Villaronga, E., & Serrano, J. A. (2021). The social dimension of domesticating technology: Interactions between older adults, caregivers, and robots in the home. Technological Forecasting and Social Change, 167, 120678. https://doi.org/10.1016/j.techfore.2021.120678

Taylor, C. (2006). Imaginarios sociales modernos. Paidós.

Thulin, E., Vilhelmson, B., & Schwanen, T. (2020). Absent Friends? Smartphones, Mediated Presence, and the Recoupling of Online Social Contact in Everyday Life. Annals of the American Association of Geographers, 110(1), 166-183. https://doi.org/10.1080/24694452.2019.1629868

Vorderer, P., Krömer, N., & Schneider, F. M. (2016). Permanently online – Permanently connected: Explorations into university students’ use of social media and mobile smart devices. Computers in Human Behavior, 63, 694-703. https://doi.org/10.1016/j.chb.2016.05.085

We are social, & Hootsuite. (2021). Digital 2021. April Global Statshot Report. Hootsuite. https://wearesocial.com/digital-2021

Weiss, A., & Spiel, K. (2021). Robots beyond Science Fiction: Mutual learning in human–robot interaction on the way to participatory approaches. AI & SOCIETY. https://doi.org/10.1007/s00146-021-01209-w

Notas