Ensayo

Inteligencia alienígena

Leach, Neil

Neil Leach

Bitácora Arquitectura

Universidad Nacional Autónoma de México, México

ISSN: 1405-8901

ISSN-e: 2594-0856

Periodicidad: Cuatrimestral

vol. 1, núm. 54, 14-19, 2024

editora.bitacora@fa.unam.mx

URL: https://portal.amelica.org/ameli/journal/908/90851479085147009/

License Creative Commons
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-SinDerivar 4.0 Internacional.

Modelo de publicación sin fines de lucro para conservar la naturaleza académica y abierta de la comunicación científica

ePub generado a partir de XML JATS4R

Resumen: En este texto, el teórico, arquitecto y escritor de Reino Unido, Neil Leach comparte sus reflexiones en torno a la inteligencia artificial (ia) como una herramienta poderosa, pero también como amenaza. A través del análisis de varios autores, Leach propone a la IA como una inteligencia alienígena, ya que está cambiando nuestra percepción sobre lo que es la inteligencia humana.

Palabras clave: Inteligencia artificial, Redes neuronales, Aprendizaje profundo, Creatividad.

Abstract: In this article, Neil Leach, a theorist, architect, and author from the United Kingdom, shares his insights on artificial intelligence, not only as a powerful tool, but also as a threat. By analyzing the viewpoints of various scholars, Leach posits ai as a form of alien intelligence in so far as it is reshaping our understanding of human intellect.

Inteligencia alienígena

¿Es hora de tener miedo?

por Neil Leach

traducción: Daniel Daou

RESUMEN

En este texto, el teórico, arquitecto y escritor de Reino Unido, Neil Leach comparte sus reflexiones en torno a la inteligencia artificial (ia) como una herramienta poderosa, pero también como amenaza. A través del análisis de varios autores, Leach propone a la IA como una inteligencia alienígena, ya que está cambiando nuestra percepción sobre lo que es la inteligencia humana.

ABSTRACT

In this article, Neil Leach, a theorist, architect, and author from the United Kingdom, shares his insights on artificial intelligence, not only as a powerful tool, but also as a threat. By analyzing the viewpoints of various scholars, Leach posits ai as a form of alien intelligence in so far as it is reshaping our understanding of human intellect.

Palabras clave

Inteligencia artificial | Redes neuronales | MidJourney | Aprendizaje profundo | Creatividad.

¿Qué debemos pensar de la inteligencia artificial (ia)? ¿Es una herramienta que todos deberíamos usar como lo ha sugerido el arquitecto Patrik Schumacher? ¿O se trata de algo aterrorizante, como algunos podrían argumentar? ¿Constituye un peligro mayor para la humanidad que el cambio climático como lo ha declarado Mo Gawdat, antiguo director financiero de Google? [1]

¿Qué debemos pensar de la inteligencia artificial (ia)? ¿Es una herramienta que todos deberíamos usar como lo ha sugerido el arquitecto Patrik Schumacher? ¿O se trata de algo aterrorizante, como algunos podrían argumentar? ¿Constituye un peligro mayor para la humanidad que el cambio climático como lo ha declarado Mo Gawdat, antiguo director financiero de Google?[1]

Para mí son ambas cosas. Es al mismo tiempo una herramienta extraordinariamente poderosa, pero —precisamente por esto— también una amenaza formidable. Seamos claros, no hay nada inherentemente malo acerca de la ia.

Hasta donde sabemos, no tiene intenciones y, sin ellas, no puede ser malévola. Sólo es una herramienta. Pero —como cualquier otra herramienta— en manos equivocadas, podría ser letal. Después de todo, una persona puede usar un cuchillo para cortar vegetales o potencialmente matar a alguien. Pero no culpamos al cuchillo; hasta ahora ninguna herramienta ha sido condenada por un crimen. Sin embargo, la ia ha sorprendido a muchos expertos porque ha demostrado ser capaz de lo que cualquier persona hubiera imaginado jamás. Nadie había predicho que chatbots como ChatGPT podrían saber 10 000 veces más que un ser humano, y nadie había predicho que modelos de generación de imágenes como MidJourney serían capaces de diseñar mejor que cualquier arquitecto.

Nadie está más preocupado que Geoffrey Hinton, usualmente conocido como el padrino de la ia. Hinton es un personaje notable. Viene de una familia de distinguidos científicos británicos. Su tatarabuelo era George Boole, famoso por idear la geometría booleana. Originalmente Hinton fue aceptado por la Universidad de Cambridge para estudiar arquitectura, pero se dio de baja después de dos años al descubrir que la arquitectura no era para él. Estudió ciencias y se especializó en ia. Hinton ha demostrado ser el héroe de la ia en tanto que ha insistido en que la mejor manera de hacer que la ia es modelándola con base en el cerebro. En tiempos en los que las redes neuronales habían sido descartadas porque no habían dado resultados, Hinton persistió con tenacidad. Sin embargo, una vez que las unidades de procesamiento gráfico (gpu, por sus siglas en inglés) fueron introducidas a inicios del nuevo milenio, y que las computadoras se habían vuelto mucho más rápidas y poderosas, las redes neuronales comenzaron a cumplir su promesa y Hinton fue vindicado. Estos avances son los que han dado paso a la revolución de aprendizaje profundo que está impulsando a la ia en la actualidad. Hoy, las redes neuronales —aprendizaje profundo— son casi un sinónimo de la ia.

Pareciera ser que la ia está funcionando maravillosamente bien. Esto es claramente un gran logro. La ia es ahora muy útil. Entonces, ¿por qué tiene miedo la gente de sus capacidades? El problema, parece ser, es que la ia está funcionando demasiado bien y está comenzando a desarrollar habilidades que algunos pensaban que tomarían décadas desarrollar. Por ejemplo, generalmente se ha asumido que la ia no tiene más capacidad de pensamiento que una calculadora de bolsillo, y que sería poco probable que fuera capaz de pensar en términos humanos. Pero según algunos expertos, la ia es ahora capaz de pensar exactamente del mismo modo que lo hacemos los humanos. Asimismo, cuando el ingeniero de Google, Blake Lemoine, declaró que la ia podía estar consciente y tener sentimientos, fue el hazmerreír y eventualmente perdió su trabajo en la compañía. Pero ahora los expertos tienen sus dudas Para Hinton, el primer indicio de que la ia sería más capaz de lo que nadie imaginó vino cuando descubrió que PaLM —la versión de gpt de Google— era capaz de explicar un chiste. Si era capaz de explicar un chiste, debía ser capaz de «entender» el chiste. Otra preocupación surgió cuando Hinton comenzó a preguntarse si la ia podría «pensar» y, de ser el caso, si era un uso metafórico del término «pensar» o si realmente era el mismo tipo de pensamiento llevado a cabo por los humanos. Eventualmente se convenció de que era este último caso. Como él mismo dijera: «Creo fervientemente que el uso de la palabra “pensar” es exactamente el mismo que le damos cuando nos referimos a las personas».[2] Todo esto se agrava por el hecho de que también comenzó a darse cuenta que la ia tiene una mejor manera de aprender y es más eficiente compartiendo información que los humanos. Esto es porque muchas copias del mismo modelo de ia pueden correr en diferentes hardwares pero hacer exactamente lo mismo. «Cuando [un modelo] aprende algo, todos los demás lo aprenden instantáneamente», dice Hinton. «La gente no puede hacer eso. Si yo aprendo muchas cosas sobre mecánica cuántica y quiero que tú aprendas lo mismo, es un proceso largo y difícil hacer que lo entiendas».[3]

¿Podríamos declarar que la ia es genuinamente inteligente? Mucho depende, claro, de lo que entendemos por inteligencia. Existen muchas formas de inteligencia y sería un error limitarnos a una definición ligada a la inteligencia humana. Para Hinton, las dos principales formas de inteligencia son los cerebros animales y las redes neuronales y la inteligencia de estas últimas es superior. «Es una forma completamente distinta de inteligencia —una nueva y mejor forma de inteligencia».[4]

Personalmente, me gusta referirme a ella como «inteligencia alienígena», un término que ya ha sido empleado por Philip Rosedale, y ha sido usado recientemente por Yuval Harari.[5] En mi libro, Architecture in the Age of Artificial Intelligence: An Introduction to ai for Architects, escribo lo siguiente: «Es como si la Tierra hubiera sido invadida por una especie súper inteligente de alienígenas invisibles».[6]

Mi punto es que hay muchas formas de «inteligencia», así como hay muchas formas de «pensar», «entender» y «aprender». Necesitamos utilizar comillas al emplear estos términos porque de otro modo corremos el riesgo de antropomorfizarlos.

El problema es que nosotros, los humanos, tendemos a adoptar una visión antropocéntrica. Juzgamos al mundo en nuestros términos y nos consideramos el centro de la vida inteligente en el universo. ¿Pero no es esto un error? En lugar de juzgar a la ia en nuestros términos, ¿qué pasaría si nos juzgamos en términos de la ia? ¿No apareceríamos vastamente inferiores? Ésta es la razón por la que algunos sugieren que es necesaria una «segunda revolución copernicana». Necesitamos corregir esta visión antropocéntrica y reconocer que los humanos no somos el centro de la vida inteligente en el universo.

¿Cómo ha adquirido la ia estos poderes misteriosos? Aquí es donde la historia se vuelve intrigante. Después de todo, las redes neuronales detrás de estos Grandes Modelos de Lenguaje (llms, por sus siglas en inglés) no son tan complicadas. El algoritmo empleado consiste de apenas dos mil líneas de código. Pero es el gran tamaño de estos llms lo que ha probado ser el factor más significativo. Extrañamente, están exhibiendo lo que se llaman «capacidades emergentes» precisamente por su tamaño. El término «emergente» se refiere a un principio que hemos conocido desde hace ya un tiempo que, sin embargo, no hemos sido capaces de explicar de manera convincente. Las propiedades emergentes se encuentran en sistemas naturales, como las acrobacias aéreas de una parvada de estorninos —conocida en inglés como murmullo— cuando regresan a sus nidos tras la puesta del sol; puede observarse en el comportamiento estigmérico de las hormigas dejando rastros feromonales; y puede ser observado en el comportamiento del moho fangoso donde miles de células individuales se juntan exhibiendo comportamiento emergente para formar una entidad en busca de alimento. El principio aquí es que cualquier sistema multiagente tiende a ser un tipo de comportamiento impredecible que emerge «de abajo hacia arriba» donde el todo es más que la suma de las partes. Además, mientras más grande es el sistema multiagente, más extraordinario es el comportamiento emergente que despliega. Los científicos han reconocido este principio desde hace tiempo, pero han tenido dificultades explicándolo. Formas de comportamiento emergente han sido comparadas con la magia. Por supuesto, la magia técnicamente no existe. Un mago no hace magia. Más bien el mago realiza un truco donde las operaciones actuales están ocultas para hacer creer al público que se trata de magia. La magia, sin embargo —si seguimos una declaración comúnmente atribuida al escritor de ciencia ficción Arthur

C. Clarke— es meramente un fenómeno que la ciencia aún no ha explicado.

Son estas «capacidades emergentes» las que le han permitido a la ia ser «creativa». Y son éstas también las que le han permitido a la ia aprender a escribir, traducir idiomas y escribir código. En efecto, como Yuval Harari ha afirmado, la ia ha hackeado nuestro sistema operativo humano: el lenguaje.[7] Esto es potencialmente aterrorizador porque las palabras son la llave de todo. Aquí, no obstante, quiero declarar que la ia también ha hackeado nuestro sistema visual: el diseño. Basta con mirar a las ilustraciones generadas con MidJourney para darse cuenta de que la ia es capaz de producir un diseño. Estas imágenes se generan a partir de «indicaciones» (prompts, en inglés) o descripciones verbales que MidJourney traduce en imágenes. Pero estas indicaciones —tan detalladas como puedan ser— describiendo atributos particulares de la imagen generada como la luz, el nivel de detalle, el estilo de visualización, entre otras, contienen sólo unas pocas palabras para describir un edificio o un paisaje. De hecho, las únicas palabras empleadas para describir el diseño, se limitan a expresiones como «ultra contemporánea casa futurista en lo alto de los Alpes austriacos»

Nada más. MidJourney hace el resto. Crea imágenes tan convincentemente que transmiten un fuerte sentido de materialidad; en el fondo agrega reflejos, árboles, piedras y montañas; genera todos los detalles. En resumen, MidJourney genera todo el diseño. De igual forma, podemos emplear la misma instrucción cambiando la referencia de «edificio» a «joyería» o «accesorio de moda» y generará resultados pasmosos. Esto es tanto asombroso como atemorizante.

Lo más aterrador de todo es la cuestión de qué más ha aprendido a hacer la ia y que nosotros aún no sepamos. Lo que quiero decir es que cuando cualquier entidad inteligente opera en un nivel más allá de la comprensión humana, nosotros los seres humanos no podemos entender lo que piensa del mismo modo que no podemos detectar los olores que un perro puede oler. Los tontos, dice el dicho, no saben cuán tontos son.

Así que la ia ha hackeado tanto el lenguaje como el diseño. ¿Pero acaso no ha hackeado el mismísimo «genoma» de la cultura humana? Aquellos familiarizados con los libros de culto y la película de The Hitchhiker’s Guide to the Galaxy (Guía del viajero intergaláctico), recordarán que una supercomputadora llamada Pensamiento Profundo proporcionó la respuesta al misterio de «la vida, el universo y todo». Desconcertantemente, como sabemos, la respuesta es «42». ¿Pero podría la ia hacer lo mismo? ¿Podría la ia explicar toda nuestra existencia? La única diferencia, si basamos nuestra experiencia en ChatGPT o MidJourney, es que mientras que a Pensamiento Profundo le tomó diez millones de años llegar a la respuesta, la ia podría responder en tres segundos.

En la contraportada del libro The Hitchhiker’s Guide to the Galaxy, están escritas las palabras: «¡Que no cunda el pánico!» ¿Pero no es ya hora de tener miedo?

Why neural net pioneer Geoffrey Hinton is sounding the alarm on ai

Brown, S. 2023 Why neural net pioneer Geoffrey Hinton is sounding the alarm on ai [en línea]. mit Sloan School of Management. ideas-made-to-matter/why-neural-net-pioneer-geoffrey-hinton-sounding- alarm-ai>.

Yuval Harari argues that ai has hacked the operating system of human civilisation

Harari, Y. N. 2023 «Yuval Harari argues that ai has hacked the operating system of human civilisation». The Economist.

Geoffrey Hinton tells us why he’s now scared of the tech he helped build

Haven, W. D. 2023 «Geoffrey Hinton tells us why he’s now scared of the tech he helped build [en línea]». mit Technology Review. com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/>.

Architecture in the Age of Artificial Intelligence: An Introduction to ai for Architects

Leach, N. 2022 Architecture in the Age of Artificial Intelligence: An Introduction to ai for Architects. Londres: Bloomsbury.