Big data e inteligencia artificial: directrices para no perderse en un laberinto sin fin 1

Big data and artificial intelligence: guidelines not to get lost in an endless maze

Grasa Hernández, Rafael

Rafael Grasa Hernández

rafael.grasa@uab.cat.

UNAD España

Análisis Jurídico – Político

Universidad Nacional Abierta y a Distancia, Colombia

ISSN: 2665-5470

ISSN-e: 2665-5489

Periodicidad: Semestral

vol. 2, núm. 3, 2020

revista.analisisjuridico@unad.edu.co

URL: http://portal.amelica.org/ameli/journal/702/70247967024796001/

Los autores que publican con la revista Análisis Jurídico - Político aceptan los siguientes términos: Los autores ceden los derechos patrimoniales a la Universidad Nacional Abierta y a Distancia – UNAD de manera gratuita, dentro de los cuáles se incluyen: el derecho a editar, publicar, reproducir y distribuir tanto en medios impresos como digitales y otorgan a la revista Análisis Jurídico - Político el derecho de primera publicación el trabajo licenciado simultáneamente bajo una Licencia Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0 Internacional License la cual permite a otros compartir el trabajo con un reconocimiento de la autoría de la obra y la inicial publicación en esta revista, sin fines comerciales.

License Creative Commons
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional.

Modelo de publicación sin fines de lucro para conservar la naturaleza académica y abierta de la comunicación científica

ePub generado a partir de XML JATS4R

“Artificial Intelligence could be the biggest event in the history of our civilization. Or the worst. We just don’t know” (Stephen Hawking)

La expresión “inteligencia artificial” (IA), usada por vez primera por John McCarthy en 1955, describe un amplio, creciente y confuso terreno de investigaciones y de aplicaciones, con usos amplios y restringidos, enfoques diversos y a veces contrapuestos. La expresión, además, debe situarse en un contexto más amplio para aprehenderla cabal y totalmente: la evolución constante, con progresión geométrica, de las tecnologías de la información y la comunicación (TIC), que ha dado lugar a lo que se suele denominar cuarta revolución industrial. Esta cuarta revolución, a diferencia de las anteriores, afecta a la naturaleza, fundamento y funcionamiento de la totalidad de la vida social de la especie humana; es decir, afecta a las dimensiones tecnológicas, económicas, políticas y culturales de todas nuestras sociedades. Por ello a menudo se dice que esta cuarta revolución tiene un impacto sistémico, y por ende disruptivo (altera) y también reestructurador (modifica sinergias y elementos fundantes y articuladores) del sistema social, al afectar a estratos superficiales, intermedios y profundos de nuestra organización social.

Dicho de otra forma, es una revolución que está afectando, y seguirá afectando, los cimientos y las construcciones que soportan de todas nuestras relaciones sociales y de todas las instituciones, tanto en su sentido sociológico (pautas regulares de interacción entre actores sociales, formales o informales) y también en el sentido restringido, el más habitual en las lenguas latinas, de organizaciones formales.

Conviene, empero, dejar claro desde el principio que, en sentido estricto, al hablar de IA estamos aludiendo a cosas diversas, entre ellas, sin buscar una enumeración exhaustiva, las siguientes: la mencionada evolución de las TIC, el internet de las cosas, los servicios en la nube, el block chain, las redes 5G, la computación cuántica que se está acelerando en este momento, y, finalmente, todo lo relacionado con el manejo intensivo de grandes datos (big data). Por tanto, estamos hablando de un fenómeno, tanto en su faceta de investigación como de aplicación, de fronteras imprecisas y crecientes, inconmensurable en sus implicaciones en la vida social y normativa, al tratarse no sólo de objetivos tecnológicos sino de un eventual cambio futuro de la sociedad en su conjunto y del propio ser humano. En suma, se trata de una expresión que recoge bajo el mismo continente o significante significados muy diversos y aun contradictorios. Además, al ocuparse de temas reales y actuales y de prospectivas, y a veces deseos, futuras, alrededor de la IA se han ido creando una amplia cantidad de utopías y distopías 3 .

Dicho de otra forma, los debates actuales, que en algunos aspectos se recogen en esta sección monográfica de Análisis Jurídico-Político, tienen tres características definitorias. Primera, todo lo relacionado con la IA presenta problemas conceptuales, de definición, por falta de acuerdo en qué entender por IA y por plantear un enorme desafío científico, tecnológico, de gobernanza y de normatividad y manejo. Ni siquiera el uso de “inteligencia” puede darse por descontado y ha generado gran controversia, algo que de hecho se inició ya con la propuesta de una máquina que resolviera todos los cálculos posibles de Ramón LLull, (Ars Magna, siglo XIV), que revivió en la primera mitad del siglo XX y que se zanjó, al menos potencialmente, con la famosa propuesta de la máquina de Turing en 1936, en un artículo que se considera la “invención” teórica de los computadores y de la IA, y sus posteriores razonamientos para saber si las máquinas podrán o no pensar, ofreciendo una prueba que aún hoy se considera concluyente y que ninguna máquina ha superado.

Segunda, por la ingente interdisciplinariedad y transdiscipli- nariedad que genera el debate en curso, con aportaciones de ciencias “duras” (ingenierías, física, matemática), ciencias sociales (ciencia política, derecho, sociología, economía), filosofía, ética, estudios laborales, semiótica, etcétera. Lo cierto, si se me permite una generalización que como simple introductor de la sección no tengo tiempo ni ocasión de argumentar de forma plausible en este momento y lugar, lo cierto es que abundan más los ejemplos en que, con mayor o menor fortuna, un experto en un campo introduce conceptos y razonamientos de otro bien alejado del suyo, en un intento de hibridar y fecundar conocimiento, pero sin realizar a menudo aportaciones realmente integradoras, transdisciplinares. En general, podemos decir que en el prolífico mundo de contribuciones al debate destacan, pese al reconocido y aceptado alcance general y universal del tema, dos tipos de aportaciones, tanto en lo cuantitativo como por su impacto al marcar los lindes y la agenda de discusión: por un lado, las contribuciones técnicas, que dominan claramente los textos; por otro, las cuestiones éticas. Ello supone que han quedado en segundo plano, cuantitativa y cualitativamente, las reflexiones desde otras perspectivas, enfoques y marcos disciplinares, en particular, y eso explica la presente sección, las reflexiones sobre el derecho y la gobernanza del fenómeno.

En tercer lugar, los análisis de la IA, en todos los campos, pero en particular en los que se han primado en el presente número, han adolecido de diversos problemas. Primero, una visión, alimentada por el sensacionalismo de los medios de comunicación, del tema de forma genérica, sin precisión conceptual y con una visión muy antropomórfica y en general poco matizada. Valga como ejemplo, un tema tangencial, pero basado en la IA: la campaña liderada por diversas organizaciones y centros de pensamiento como los que hace décadas pusieron en marcha campañas en pro de la seguridad humana, que tuvieron éxitos importantes como la prohibición y obligación de eliminar de las minas contrapersona, en torno a las armas autónomas (es decir, aquellas que podrían tomar decisiones de cierta complejidad con plena autonomía de los seres humanos), un tema realmente preocupante y en el centro del debate sobre IA y automatización del campo de batalla, pero que, fruto del mencionado sensacionalismo y visión demasiado simplista, se ha bautizado como “acabemos con los robots asesinos”. Segundo, mucha de la literatura peca del vicio de “universalización “y “homogeneización” de la noción de IA, algo, que, como he dicho al principio, está lejos de ser una realidad, al englobar dicha expresión muchos conceptos, propuestas y artificios diversos en la categoría de “máquinas sabias o inteligentes”, algunas de las cuáles son meramente repetitivas, mecánicas, sin ningún viso de inteligencia de tipo alguno y que ni siquiera optimiza o racionaliza de forma claramente significativa.

En suma, la IA se ha convertido en un foco de amplio debate, con clara insuficiencia de reflexión en el campo del derecho y de la gobernanza, Ciertamente, se ha escrito bastante de temas que vinculan IA y derecho, con aportaciones de gran significación en la última década, pero aunque existen aportaciones importantes en campos concretos (como el mencionado de las armas autónomas, o aspectos éticos y vulgarización técnica), siguen faltando aportaciones generales sobre IA y derecho, en particular en América Latina y, por ende, en Colombia.

Lo mismo podría decirse en el tema de la gobernanza (es decir, las formas de gobierno sin necesidad de que exista autoridad central con competencias, que engloban actuaciones de la sociedad civil, el mundo empresarial y las administraciones). Ciertamente, existen muchas iniciativas, como las muy avanzadas de la UE que se analizan en esta sección, pero lo cierto es que la abundancia de iniciativas, internacionales y regionales, no ha arrojado hasta el momento efectividad contrastada de las mismas, ni en el marco de NN. UU. ni en el de organismos regionales (fuera de la UE, ya comentada) y tampoco en grupos informales (técnicamente, lo que en el siglo XIX se llamaban conferencias diplomáticas, al carecer de tratados fundacionales, de sede permanente y de burocracia) como el G-7 o el G-20 que se han ocupado del tema. A nivel nacional, e incluso subestatal o subnacional (regiones, comunidades autónomas, grandes ciudades), existen ejemplos de estrategias y planes plurianuales, o documentos como CONPES en el caso colombiano.

En suma, en clave latinoamericana y colombiana, y privilegiando la agenda futura y la aproximación jurídica y de gobernanza, hay que empezar a abordar el tema que, como se ha visto es poliédrico y conceptualmente complejo y confuso, de forma sistemática, situando bien el contexto (por lo demás dinámico y cambiante), los problemas conceptuales y funcionales y, principalmente, los problemas que plantean las regulaciones y sus diversas modalidades, así como un examen detallado de la práctica en curso.

Queremos que esta modesta, pero rica y muy sugestiva sección, sea un abreboca, con buenos ingredientes, para ese empeño. Quisiera, por tanto, como editor y responsable de la sección, agradecer por sus excelentes aportes a los contribuyentes: Alfredo Marcos, Alba Luz Serrano y Elliot Parra, David Álvarez y José María Enríquez, Alessandro Demurtas, Faustino Gudín y Raúl Cancio. Y llamar, finalmente, la atención sobre la cita de S. Hawking que encabeza estas líneas: la IA puede ser el mejor o el peor acontecimiento de la historia de la humanidad, algo que aún no sabemos. Por ello es necesario estudiar, investigar y exponer propuestas para el debate, porque, como está mostrando la pandemia COVID-19, las aportaciones científicas son claves para las políticas públicas, pero, al final, las decisiones se toman en el ámbito de la política, un ámbito siempre afectado por pasiones, intereses y nunca plenamente racional. Y, no olviden, la ciencia nunca dará respuestas plenamente seguras, como dijo magistral y sucintamente Dubois-Reymond, “ignoramus et ignorabimus”, ignoramos e ignoraremos.

Notas

1 El presente texto, al ser una introducción y por ende no estar sujeto a revisión de pares, se ha autocontenido voluntaria y drásticamente. El autor presentará próximamente en esta misma revista una contribución larga, sujeta a evaluación ciega, en próximos números.

3 Véase un buen resumen de las mismas en Brundage, M et alt, The Malicious Use of Artificial Intelligence: Forecasting, Prevention and Mitigation, Oxford, University of Oxford, 2018.

Notas de autor

² Profesor titular de Relaciones Internacionales de la Universidad Autónoma, coordinador del Máster Universitario en “Relaciones Internacionales, Seguridad y Desarrollo” y coordinador del doctorado “Politics, Policies and International Relations” de la misma universidad. Profesor colaborador de la ECJP de la UNAD, coeditor de Análisis Jurídico-Político y coordinador de la presente sección. Orcid 0000-0002-4385-7915. rafael.grasa@uab.cat.