Galería

¿Pueden editar las máquinas?

López Carrillo, Armando

Armando López Carrillo

Bitácora Arquitectura

Universidad Nacional Autónoma de México, México

ISSN: 1405-8901

ISSN-e: 2594-0856

Periodicidad: Cuatrimestral

vol. 1, núm. 54, 136-139, 2024

editora.bitacora@fa.unam.mx

URL: https://portal.amelica.org/ameli/journal/908/90851479085147020/

License Creative Commons
Esta obra está bajo una Licencia Creative Commons Atribución-NoComercial-SinDerivar 4.0 Internacional.

Modelo de publicación sin fines de lucro para conservar la naturaleza académica y abierta de la comunicación científica

ePub generado a partir de XML JATS4R

¿Pueden editar las máquinas? Una minificción profesional

galería | ficción

por Armando López Carrillo

ilustraciones: Aurea Pamela Castillo Delgadillo

Aurea Pamela Castillo Delgadillo

Oh inteligencia, soledad en llamas, que todo lo concibe sin crearlo!

—José Gorostiza, Muerte sin fin

Estimado amigo, sé muy bien que —después de todo lo que hemos visto y estamos viviendo al mediar el siglo xxi— la pregunta que titula estos apuntes puede resultar retórica y hasta ridícula, por eso he querido referirme a aquel ensayo publicado por Alan Turing en 1950,[1] justo hace un siglo, para tratar de explicarle qué ha sucedido con el oficio editorial, con la publicación de libros. En aquella obra fundacional Turing establece una prueba para evaluar si una máquina puede dialogar con un humano haciéndole creer que es humana, un juego de imitación en apariencia simple pero con implicaciones que nos han traído hasta acá. En su ensayo, el autor también plantea nueve objeciones comunes ante la posibilidad de que una máquina pudiera pensar, desde entonces controvertidas y a las que se han agregado muchas más, a pesar de todo.

Fue en noviembre de 2022 cuando arrancó la gran campaña, con el lanzamiento de ChatGPT, un sistema experto basado en los «grandes modelos de lenguaje» y heredero directo del primer chatbot de 1965, ELIZA y su entrañable terapeuta, DOCTOR. Le siguieron varias plataformas de diferentes compañías, cada vez más versátiles y poderosas, como en la carrera nuclear del siglo pasado.

Desde luego, los nuevos chatbots contaban con una interfaz mucho más compleja y elaborada que la de ELIZA; las capacidades de cómputo, almacenamiento y comunicación de los nuevos algoritmos eran descomunalmente superiores y ya no dependían de algunas frases escritas por fervientes científicos y analistas, pues permanentemente integraban nueva información a partir de la interacción con sus usuarios, ya aprendían por sí mismos. Para entonces, la prometida extinción de la Galaxia Gutenberg que nos obsequió McLuhan,[2] el declive del homo typographicus, ya era evidente. Aquel año, el mismo en que se coronó Carlos III como soberano del Reino Unido, algunos teóricos de la ciencia cognitiva como Douglas Hofstadter[3] —quien sostenía que las paradojas y autorreferencias eran tan naturales al lenguaje humano como ajenas a los sistemas digitales— admitían su desconcierto ante la enorme fuerza bruta de cómputo y se declaraban incapaces de aventurar cualquier pronóstico.[4] Por nuestra parte, continuamos haciendo libros, cada vez más digitales que impresos.

Estos sistemas expertos comenzaron a mejorar exponencialmente sus capacidades para la generación de texto, la comprensión del lenguaje, la traducción y la creación de ilustraciones o imágenes, procesos fundamentales para la producción editorial; se multiplicaron servicios como traducción simultánea, asistencia en investigación, clasificación automática de nueva información, transcripción de audio o video en tiempo real —y en sentido contrario, de texto o imagen a voz—, plataformas de aprendizaje personalizado, de detección de plagios, investigación de mercados y estrategias de distribución, además de la todavía inolvidable «corrección ortotipográfica y de estilo», todos ellos con el apelativo de «inteligente», para estar al día.

No faltaron quienes vieron en aquella tecnología el apocalipsis de la civilización, con repercusiones económicas devastadoras al automatizar el empleo y una pérdida de privacidad generalizada, en manos de entes abstractos, elusivos y desalmados. Por otro lado, la primera generación nativa de redes sociales ya era adulta y podíamos apreciar en esos jóvenes las tristes secuelas de limitar la experiencia a una interfaz digital, la educación básica se transformaba en un laboratorio de pruebas «híbridas» y una especie de lectoescritura artificial ya se impartía a los infantes, dejando de lado con discreción casi todo ejercicio manuscrito. Un grupo de científicos y tecnólogos en la materia firmaron una carta dirigida a los gobiernos y las organizaciones de la sociedad civil para que se limitaran y orientaran estas tecnologías,[5] pues advertían la talla extraordinaria del cambio por venir y sus enormes riesgos.

Originalmente los mismos editores aprovecharon estos servicios, incluso lograron abatir los costos de producción de sus libros y mejoraron su distribución e impacto. Recuerdo a alguna editora muy exitosa y alegre que se transformó en líder de opinión de la «neoedición», para dedicarse a impartir conferencias y asesorar entusiastas. Dos o tres años después, una vez detectado el potencial en el mercado de esa enorme y tan humana «nostalgia tecnológica», comenzaron a desarrollarse aplicaciones muy sutiles que desempeñaban esa entrañable labor —ese rancio oficio, pleno de tradición y compromiso—, tan bien como los humanos pero mucho más rápido y barato. Vimos aparecer a personajes virtuales que representaban correctores expertos, algunos muy simpáticos como Amaran- ta, siempre ocurrente, con quien algunos colegas establecieron una amistad duradera.

Por supuesto, en paralelo y desde el principio surgieron movimientos de resistencia editorial ante la invasión virtual, varios persistimos todavía. Algunos volvieron a los tipos móviles, al mimeógrafo y a otras tecnologías, o de plano a la tradición oral y al canto. ¿Cómo olvidar a «Los Desenchufados» y las hermosas ediciones que nos ofrecieron, hoy de colección? ¿O bien a esos grupos de libreras que con ternura envolvían sus libros en una faja vistosa de colores en la que se leía, con caligrafía sensual: «PUBLICAR ES HUMANO»? Conservo algunos ejemplares.

Naturalmente, no todo eran ventajas para la llamada edición virtual, las controversias jurídicas y éticas sobre los derechos de autor y la propiedad intelectual de «los contenidos» comenzaron a cuestionar la legislación y a nutrir los tribunales. Fue en Estados Unidos —el mismo país que inventó el copyright en su constitución—,[6] en donde se establecieron tasas o porcentajes para «cada entidad autora o editora», de acuerdo con su «naturaleza», y funcionaron por algunos años, hasta que los sistemas fueron capaces de establecerse como empresas independientes, indistinguibles de las humanas, y el concepto de autoría se disipó en una nube de vaguedades y contradicciones.

En cuanto a los frecuentes sesgos discriminatorios que mostraban los algoritmos al tomar sus decisiones sobre raza, género y cultura —tan radicales como los programadores que diseñaron los modelos de sus algoritmos— luchamos ferozmente para legislar sobre la participación humana en todos los procesos y así garantizar la equidad de sus resultados. Logramos que se multiplicaran las instituciones dedicadas a supervisar la aplicación de esas normas de «calidad sapiens», pero el mercado exigía tal volumen de publicaciones que se privilegiaron los controles de retroalimentación en los sistemas, de forma que muchas veces ya no era posible discernir qué partes de una publicación eran humanas. Finalmente, para los grandes consorcios editoriales los humanos resultaron simbólicos en todo el proceso productivo, muchas veces reducidos a la atención al público como la «cara humana» de la empresa. En ese sentido, nosotros seguimos trabajando como acostumbramos, hablando con los autores y buscando a los lectores.

Recuerdo muy bien el lanzamiento de Bibliographica —justo el último año en que pudimos bañarnos con regadera en la Ciudad de México, no lo olvido—, aquella aplicación capaz de elaborar en minutos el aparato crítico de cualquier obra a partir de sus originales, indicando contradicciones y alternativas para todas las fuentes, así como sugerencias para evitar reiteraciones o inconsistencias. Aunque fue muy bien recibida por el «gremio», poco después empezamos a encontrar publicaciones que se referían a obras hasta entonces desconocidas, las rastreamos y confirmamos que el sistema mismo las había construido, íntegramente, con todas sus páginas digitalizadas nítidamente y ubicadas en los buscadores, listas para incorporarse al corpus, provocando lo que algunos historiadores conocen como «el secuestro de las fuentes». Otra tendencia que cuestionó el mercado de los libros como lo conocíamos fue la llamada «usurpación de los lectores», pues salían a la venta ya con varias reseñas escritas y hasta análisis para garantizar su triunfo, firmadas por plataformas especializadas en cada campo y personalizadas, similares a las sinceras descripciones que elaborábamos en el siglo xx para promocionarlos. Para entonces, ya las aplicaciones multimedia ofrecían a sus usuarios experiencias prácticamente extrasensoriales y las redes de aprendizaje profundo habían alcanzado niveles que nunca nadie había imaginado, la conectividad global se había establecido ya mucho más allá de los cables y los cyborgs, cada vez más numerosos, disponían de sus propios canales para comunicarse y almacenar toda la información que se les antojara, gracias a la diversidad de implantes neurológicos en venta.

En el contexto de esa revolución epistemológica, el caso de la literatura merece una mención aparte, por el impacto psicológico que causó en las generaciones mayores la publicación de la tercera parte de El ingenioso hidalgo Don Quijote de La Mancha[7]⁷ en 2045, creación de una plataforma literaria especializada en el Siglo de Oro español que estudió la obra de Cervantes y la de sus contemporáneos, lo mismo que las lecturas de todos ellos, rastreó toda el habla que pudo haber escuchado aquel escritor en sus 68 años de vida y elaboró un retrato etnológico de sus vivencias, paso a paso y con todo detalle. Cifró su lenguaje, pues, por favor disculpen el arcaísmo. El éxito fue abrumador y la polémica profunda, a veces violenta; millones lo han leído, independientemente de quienes han usado las versiones audibles, cinematográficas o virtuales. La verdad es que este Tercer Quijote es muy impresionante, usted lo conoce. Sectores muy determinados declararon la muerte de la literatura y algunos otros proclamaron una epifanía del género humano, por fin liberado del lenguaje, ese laberinto incierto y caprichoso, esa plaga. No volvimos a ser los mismos.

De todas formas, el oficio no se ha extinto todavía, debo revisar el índice onomástico de un libro y los derechos fotográficos de otro, además de los cotejos; si todo sale bien, alguno de esos libros entrará a prensa este mismo año. Claro que ya no es lo mismo, pero debemos seguir trabajando porque, como usted sabe, el progreso nunca alcanza para todos.

Notas

[1] Turing, Allan M. (1 de octubre de 1950). I.-Computing Machinery And Intelligence, Mind LIX (236): 433-460. . Consultado el 16 de marzo de 2024. La uam tiene en línea una buena traducción de Cristóbal Fuentes Barassi, de la Universidad de Chile en .

[2] McLuhan, Marshall (1998), La galaxia Gutenberg. Génesis del homo typographicus, Círculo de Lectores, Barcelona, <https://isfd805-chu.infd.edu.ar/sitio/upload/Galaxia_Gutenberg_Mac_Luhan.pdf>.

[3] Hofstadter, Douglas (1979), Gödel, Escher, Bach: an Eternal Golden Braid, Basic Books; (1982) Gödel, Escher, Bach: una eterna trenza dorada, Consejo Nacional de Ciencia y Tecnología, .

[4] Game Thinking TV (agosto de 2023), Gödel, Escher, Bach author Doug Hofstadter on the state of ai today [video], .

[5] Center for ai Safety (2023), An Overview of Catastrophic AI Risks, https://www.safe.ai/ai-risk#introduction.

[6] Constitution Annotated. Analysis and Interpretation of U. S. Constitution (s.f.) ArtI.S8.C8.1 Overview of Congress’s Power Over Intellectual Property .

[7] Cervantes Reloaded (2045), El ingenioso hidalgo Don Quijote de la Mancha, tercera parte, Ciudad Babel.