PERSONALIDAD ELECTRÓNICA DE “ROBOTS INTELIGENTES”

COMO TÉCNICA PARA LA REPARACIÓN DE DAÑOS.

ANÁLISIS CRÍTICO DE LAS NORMAS DE DERECHO CIVIL

SOBRE ROBÓTICA DEL PARLAMENTO EUROPEO

Para citar este artículo:

Carbajales, Mariano. Henriquez, Ian. “Personalidad electrónica de ‘robots inteligentes’ como técnica para la reparación de daños. Análisis crítico de las normas de derecho civil sobre robótica del Parlamento Europeo”. Prudentia Iuris, 98 (2024):

I. Introducción

El 16 de febrero de 2017, el Parlamento Europeo emitió una resolución por la cual se hace un conjunto de recomendaciones a la Comisión Europea sobre normas de derecho civil relativas a robótica (en adelante, “las Normas”)[1]. En su primer considerando, la resolución afirma lo siguiente: “Considerando que, desde el monstruo de Frankenstein creado por Mary Shelley al mito clásico de Pigmalión, pasando por el Golem de Praga o el robot de Karel Čapek –que fue quien acuñó el término–, los seres humanos han fantaseado siempre con la posibilidad de construir máquinas inteligentes, sobre todo androides con características humanas”. Más cerca en el tiempo, podemos recordar el film de ciencia ficción estadounidense “Bicentennial Man”, protagonizado por Robin Williams y basado en el cuento homónimo de Isaac Asimov y la novela de Robert Silverberg.

Nos ha parecido ilustrativo citar textualmente el considerando de la resolución, así como recordar el film cinematográfico, porque nos puede ayudar a imaginar con mayor realismo la importancia del tema. En la resolución se alude a posibles soluciones jurídicas para los así llamados “robots inteligentes” (RI), sugiriendo una “personalidad electrónica”, la cual tendría por objeto “crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente” (59 f).

La afirmación anterior glosa de manera suficiente el sentido y alcance de la propuesta de las Normas en esta materia. En las líneas que siguen, intentaremos mostrar los errores de base de que adolecería tal aproximación, y, consiguientemente, su falta de idoneidad y aun inconveniencia para la obtención de los fines supuestamente perseguidos por la misma. Para ello, en primer término, haremos algunas distinciones y precisiones en el uso del lenguaje, en seguida de lo cual mostraremos el estado del arte desde el punto de vista estrictamente técnico (o, si se prefiere, “tecnológico”). Con base en lo anterior, en la tercera parte describiremos y analizaremos las Normas, en lo pertinente a nuestro estudio. Finalizaremos con el enunciado de nuestras principales conclusiones. El objeto del presente escrito es suscitar una serie de reflexiones en torno a este nuevo avance tecnológico, los así llamados “robots inteligentes”, desde algunas categorías tradicionales usuales para el derecho, teniendo siempre presente que saber observar y distinguir es propio de toda labor jurídica.

II. Persona, personalidad y persona jurídica

Con el solo objeto de evitar equívocos que pudieren derivarse de la manifiesta polisemia de un conjunto de términos relevantes en el posterior análisis, parece necesario destinar este apartado a la delimitación de ciertas palabras de uso jurídico, pero que le exceden, tales como: persona, personalidad y persona jurídica. Bajo ningún respecto tenemos la pretensión –ilusa, por lo demás– de sintetizar la más que vasta literatura sobre cada uno de estos términos, ni menos aún de clausurar de manera apodíctica las eventuales controversias que aún se suscitan en torno a ellos. Basta para nuestro propósito –y no es poco– explicitar el sentido que le atribuimos a cada uno de los referidos conceptos. Si cumplimos satisfactoriamente dicho objeto, facilitaremos, así, no solo la comprensión de nuestra tesis, sino el trabajo de nuestros eventuales contradictores, al estar ya develados los presupuestos a partir de los cuales razonamos. Desde luego, no nos anima introducir al lector en una disquisición meramente lingüística, sino, más bien, evitar confusiones de ese solo orden. Platón señala el nombre como uno de los cuatro elementos que es necesario conocer para acceder a una perfecta ciencia de lo real[2].

1. ¿Qué dicen los juristas cuando dicen persona?

La voz persona, según etimología usualmente aceptada, proviene del griego πρόσωπ (prósopon), que remite a la idea de un sustrato que se proyecta. El término, posiblemente a su vez de raíz etrusca, tuvo uso en la dramaturgia, significando la máscara a través de la cual el coro proyectaba su voz. En la Grecia del siglo de oro y posterior, no se utilizó en referencia al ser humano, al que se designaba ανθρώπιν (antropós). Su uso referido a nuestros congéneres tuvo lugar en la Roma clásica. De hecho, un testimonio fiel a este respecto lo constituyen las Instituta de Gaio (circa 161 d. C.), cuyo libro II trata, precisamente, sobre las personas. En el lenguaje de los juristas, las expresiones homo . personae eran sinónimas y carecían de una connotación técnica específica. De hecho, en el referido libro II de las Instituta, se situaba el tratamiento de los esclavos –no res, sino personae–. Los usos de la voz persona en la posterior compilación justinianea (circa 565 d. C.) corroboran esta sinonimia.

Fue en un contexto distinto del jurídico que la voz persona adquirió mayor consistencia y densidad conceptual, circa 325 d. C., en el marco de la discusión filosófico-teológica sobre la naturaleza del Cristo (Χρισμέ) de Palestina y del misterio del Dios uno y trino de sus seguidores, ambas habidas en Nicea con ocasión del Concilio epónimo. Así, la voz persona se utiliza como hipóstasis, sustrato, siempre con una marca, sello o nota relacional que la distinguía. En el Dios único de los cristianos, hay tres personas distintas; en la persona única de Jesús de Nazareth hay dos naturalezas distintas, una humana y una divina. Con todo, fue a partir del siglo VI que hizo escuela la definición boeciana: Persona est naturae rationalis individua substantia: “[…] la persona es una sustancia individual de naturaleza racional”, contenida en el tercer capítulo de Sobre la persona y las dos naturalezas. Sea para refrendarla, sea para rebatirla, esta definición es referencia necesaria hasta nuestros días. Como fuere, ha de concederse que es de una concisión solo equiparable a su espesor. Cada uno de sus términos exige un esfuerzo considerable de aprehensión de sus significados específicos. Siguiendo a Ferrater Mora[3], a partir de la modernidad, no se ha hecho sino relevar alguno de sus elementos –ya sea sustancia, individuo, naturaleza, racional– y reconceptualizarlo a la luz de otras categorías –así, por ejemplo, lo racional es la actividad cerebral, etc.–.

Ahora bien, en el lenguaje jurídico, durante todo el medioevo, el renacimiento y los albores de la modernidad, se mantuvo incólume –al margen de matices menores– la sinonimia entre ser humano y persona, carente, digámoslo una vez más, de toda connotación técnica. Solo con Savigny (1779-1861) se produjo un cambio relevante, al transformar el concepto de persona en una categoría abstracta: sujeto capaz de relaciones jurídicas patrimoniales. Este carácter, ahora ya específico, hizo escuela en la civilística durante la segunda mitad del siglo XIX y primera del XX. Y en tanto mera abstracción, no requería de un sustrato específico, escindiéndose, entonces, persona de ser humano. El cénit se alcanzó con las corrientes normativistas y positivistas, de tanto éxito en la pasada centuria. Así, por ejemplo, para Kelsen: “[…] la persona es sólo una expresión unitaria personificadora para un haz de deberes y facultades jurídicas, es decir, para un complejo de normas”[4].

El punto se tornó problemático y sufrió un nuevo importante giro, con ocasión de las lecciones del trágico holocausto de la guerra europea de 1945. En el contexto del movimiento que dio origen a las declaraciones y cartas internacionales de derechos humanos, la voz persona volvió a anclarse en el ser humano, pero ahora como sujeto originario de derechos fundamentales inalienables. Los articulados de tales textos principian, indistintamente, “todo ser humano”, “toda persona”. Especialmente notable a estos efectos son los artículos 6º de la Declaración Universal de Derechos Humanos (“Todo ser humano tiene derecho, en todas partes, al reconocimiento de su personalidad jurídica”), cuyo texto se reitera en el artículo 16 del Pacto Internacional de Derechos Civiles y Políticos, y 3º del Pacto de San José de Costa Rica (“Toda persona tiene derecho al reconocimiento de su personalidad jurídica”) en relación con el 1º, nº 2 (“Para los efectos de esta Convención, persona es todo ser humano”).

Por consiguiente, la escisión entre ser humano y persona, así como la consideración de esta como una mera categoría abstracta desprovista de sustrato, referida exclusivamente a la capacidad de relaciones jurídicas patrimoniales, corresponde a una etapa ya superada de la dogmática jurídica, y especialmente civil: “La persona es un ser concreto y particular: es el hombre tomado en su individualidad propia, al cual se reconoce una dimensión jurídica”[5].

2. Persona y personalidad

El Diccionario panhispánico del español jurídico contiene la siguiente descripción de “personalidad”: “Cualidad de la que deriva la aptitud para ser titular de derechos y obligaciones y el reconocimiento de capacidad jurídica y de obrar”[6].

En sintonía con lo anterior, el autor chileno Fernando Fueyo esboza el siguiente concepto: “La personalidad […] es la cualidad o aptitud para ser titular de derechos o deberes jurídicos. Es frecuente encontrar asimilados o identificados los conceptos de personalidad y capacidad jurídica o de goce. Sin embargo, personalidad es cualidad o aptitud, y capacidad de goce es medida de esa aptitud”[7]. Continúa el autor: “Si partimos de la base que el Derecho es conducta humana intersubjetiva, no hay más persona que el hombre. El Derecho no puede dejar de considerar al hombre como ‘su sujeto’. […] Es así que se llega a la definición de persona como la necesaria conjunción del aspecto normativo –la llamada cualidad o personalidad– con el elemento existencial, el hombre”[8].

Con todo, pareciera que hay buenas razones para considerar la dificultad en arribar a una noción técnica y unívoca de personalidad[9]. Desde luego, en estricta sede civil, desde un punto de vista histórico, es posible distinguir a lo menos las siguientes aproximaciones: personalidad como status, personalidad como capacidad, personalidad como titularidad, y personalidad como instrumento normativo[10]. Como fuere, hay que observar que la civilística contemporánea, en un proceso que ha tomado las últimas siete décadas, se ha ido unificando en torno a una concepción más realista y menos formal de la persona y la personalidad[11]. Llegado a este punto, parece prudente seguir el siguiente consejo metodológico: “[…] no se debe partir de los nombres, sino que se debe aprender e investigar los entes partiendo de ellos mismos más bien que de los nombres”[12]. En ese sentido, habrá que conceder que, en rigor, solo la persona es apta de suyo y per se para la titularidad de derechos y obligaciones. Y ello, en razón de que estos –los derechos y las obligaciones– presuponen un atributo exclusivamente humano, cual es la libertad. Bajo esa óptica, parece de Perogrullo que, en sentido propio, solo a la persona le corresponde personalidad.

Hay dos objeciones evidentes e inmediatas. La primera dice relación con la concepción meramente técnica y formalista de la noción de personalidad, resabio y lastre de, a su vez, la concepción meramente técnica y formalista de la noción de persona. Esta es una objeción débil, pues el estado actual de la cuestión en materia civil ha superado esa etapa. La segunda dice relación con la inconcusa titularidad de derechos y obligaciones de las personas jurídicas. Esta es una objeción fuerte, e implica adentrarnos en esta especial categoría.

3. Las personas jurídicas

En el derecho romano clásico, la persona física, la persona natural, el homo, es para quien, y por quien ha sido constituido todo el derecho, según la célebre máxima de Hermogeniano, recogida en D.1.5.2. Sin embargo, el genio práctico romano reconoció también a ciertos entes morales que tenían características análogas a las de las personas. Los juristas en ese entonces hablaban de las personae vice fungitur para referirse a aquellos organismos que realizaban funciones similares a los seres humanos, mientras que cuando hablaban de universitas se referían a aquellos conjuntos de individuos y conjuntos de cosas. Además de esto, en Roma también se utilizó corpore, término que significaba la posibilidad que tenían los conjuntos de bienes para poder ser administrados por representantes.

Posteriormente, en la Edad Media se utilizaban denominaciones como congregatio y comunitas para referirse a las corporaciones y asociaciones formadas voluntariamente por individuos, mientras que pioe causoe y pioecorpore para referirse a las fundaciones creadas de la misma manera por individuos. Fue gracias al aporte de Sinibaldo de Fieschi, canonista, que, en el alto medioevo, comenzó a pergeñarse lo que posteriormente maduraría en el concepto de persona jurídica, como un concepto analógico. Posteriormente, ya bajo el fuerte influjo de la Pandectística y de la escuela historicista, en el siglo XIX principió el desarrollo de la categoría abstracta de persona jurídica como se conoció de manera dominante durante el siglo XX, muy particularmente con la impronta savigniana. El pleno desarrollo de todas las teorías y explicaciones que se han dado sobre estas personas no naturales, ideales o morales, excede los propósitos de este manuscrito, pero sí nos ayudará hacer un breve repaso de las que han tenido especial influjo en el tema y sus principales afirmaciones.

En primer lugar, encontramos la teoría de la ficción jurídica, que se remonta al derecho romano, pero fue reelaborada por la ciencia jurídica del siglo XIX y, especialmente, por Savigny.

Para esta teoría, el hombre es el único sujeto de derecho, por lo que la persona jurídica no tiene existencia real, sino que se trata de una ficción creada y utilizada por el derecho para resolver la necesidad práctica de que las colectividades actúen en el tráfico jurídico. En segundo lugar, podemos encontrar la teoría de la voluntad, defendida por Otto von Gierke en Alemania o Giorgio Del Vecchio en Italia, la cual sostiene que esa colectividad posee una voluntad independiente de sus miembros y que el sustrato de esas personas jurídicas es la voluntad social, teoría ésta que nos lleva al contrato social de Rousseau.

En tercer lugar, podemos citar la teoría del interés, formulada por Rudolf von Ihering, quien considera que la persona jurídica es una construcción jurídica con fines prácticos, ya que un colectivo puede también tener intereses que el derecho debe reconocer y proteger. Finalmente, destacamos la teoría de la institución, de M. Hauriou, que sostiene que la persona jurídica es una institución que constituye una unidad de fines o actividades en torno a la cual se reúnen un grupo de hombres interesados en su concreción.

En la ya clásica obra de Francesco Ferrara, este autor consigna: “Las personas jurídicas pueden definirse como asociaciones o instituciones formadas para la consecución de un fin y reconocidas por la ordenación jurídica como sujetos de derecho”[13].

Pese a que, para una opinión que hizo escuela, Ferrara habría representado el culmen del normativismo en esta materia, el mismo tratadista italiano consigna la siguiente reflexión en su conocido estudio: “Después de atenta meditación, ha penetrado en mi ánimo la convicción de que la persona jurídica tiene un diverso sustrato, irreductible a un esquema único”[14].

A partir de ese contexto, ya en la civilística italiana contemporánea, madurada a partir de las reflexiones que le precedieron y nutrieron, encontramos la afirmación de que “el concepto de persona jurídica tan sólo expresa las analogías reconocibles entre la condición jurídica de una organización colectiva y la condición jurídica de la persona”[15].

Más allá de la valoración de cada teoría en particular, lo que merece ser señalado, a los fines del presente trabajo, es que en todas ellas se reconoce que la personalidad jurídica está estrechamente asociada a la capacidad de ejercer derechos y cumplir obligaciones. Sin tal capacidad efectiva, el reconocimiento solo sería una fatamorgana. Tal hubiera sido admisible en el contexto de un positivismo normativista, superado intelectualmente, pero no resulta ya plausible. Es decir, en el fondo, la asociatividad humana, en cuanto fenómeno real –y no ficticio–, constituye corpora, asociatio, universita, en los cuales se verifican un haz de interrelaciones configuradoras de juridicidad, en sentido propio. Nada hay de concesión externa en este fenómeno. Si ello es así, la personalidad jurídica se mantiene en los rangos de una saludable analogía.

Hay autores que plantean que la cuestión de la personalidad específica para robots complejos ya está instalada, y por ende exige una definición: “Aceptar la posibilidad de que los robots estén dotados de algún tipo de personalidad artificial implica un proceso de transición que no será el igual en todos los países ni encontrará el mismo nivel de aceptación debido a innumerables factores –sin perjuicio del interés teórico y filosófico que implica abordar la creación de una nueva personalidad jurídica– pero que, aun siendo así, todas las sociedades deberán afrontar en un corto periodo de tiempo. El debate ya se inició y una vez superada la infinidad de cuestionamientos y controversias que ha suscitado, el siguiente paso será determinar qué postura asumiremos, con todo lo que ello implique”[16].

A nuestro juicio, ello pende de cuán razonable sea la analogía entre una máquina y una persona. Y mirado atentamente el punto, la distancia es inconmensurable.

III. Los robots “inteligentes”: ¿Personas?

La palabra “robot” no deriva del lenguaje científico ni de la ingeniería. Se trata de un neologismo utilizado por vez primera en el drama “R.U.R.” (Rossum’s Universal Robots), del autor checo Karel Čapek, estrenado en Praga en 1921 (aunque la palabra habría sido inventada por su hermano Josef). En dicha pieza teatral el robot es un, digámoslo así, ser humano artificial, trabajador brillante, y privado de todas aquellas “cualidades innecesarias”, tales como emociones, creatividad y capacidad para sentir dolor. En el prólogo de la obra dice Čapek: Roboti nejsou lidé, esto es, “los robots no son personas”[17]. En efecto, se trata de un muy buen recordatorio.

La literatura reciente especializada parece ser más escéptica y cauta frente a los reales avances de la robótica que aquella impresión instalada en los medios de mera divulgación[18]. En rigor, los fenómenos de conciencia, inteligencia, libre albedrío, aprendizaje, todos en el uso propio del lenguaje, no son predicables respecto de una máquina. Esta afirmación elemental, de todo sentido común, se torna opaca precisamente por el progresivo arraigo de expresiones ya usuales en la industria: artificial intelligence, smart robot, conscious robot, machine learning, etc. La complejidad técnica y alta especialización añade un grado más a la referida opacidad, y contribuye al decante de una falsa percepción: “La tecnología moderna era ‘transparente’ en el sentido de que mantenía viva la ilusión de que era posible comprender ‘cómo funciona la máquina’, es decir, se suponía que la interfaz debería permitir al usuario un acceso directo a la máquina que había detrás [...] la ‘transparencia’ posmoderna designa exactamente lo contrario de esta actitud analítica global [...] el precio de esta ilusión de continuidad con nuestros entornos cotidianos es que el usuario se ‘acostumbra a una tecnología opaca’, la maquinaria digital ‘tras la pantalla’ se vuelve totalmente impenetrable, incluso invisible”[19].

Con todo, es interesante consignar estudios empíricos que sugieren que las personas son más bien renuentes a que las máquinas puedan “tomar decisiones” con implicancias morales. En una revisión de nueve investigaciones, los hallazgos fueron: (a) las personas son reacias a que las máquinas tomen decisiones de conducción, legales, médicas y militares moralmente relevantes, y esta aversión está mediada por la percepción de que las máquinas no pueden pensar ni sentir completamente; (b) esta aversión existe incluso cuando las decisiones morales tienen resultados positivos; (c) rutas potenciales para aumentar la aceptabilidad de la toma de decisiones morales de la máquina serían: limitar la máquina a un papel de asesoramiento y aumentar la experiencia percibida de las máquinas; (d) la aversión a la toma de decisiones morales de las máquinas es difícil de eliminar[20].

Ahora bien, en específico sobre la pertinencia de hablar de consciencia en los robots, Dehaene, Lau y Kouider refieren, en un reciente estudio: “Argumentamos que la respuesta es negativa: los cálculos implementados por las redes actuales de aprendizaje profundo corresponden principalmente a operaciones no conscientes en el cerebro humano”[21].

Markus Gabriel, de la Universidad de Bonn, es muy categórico en este punto: “[…] los robots no son conscientes y no podrían ser conscientes”[22]. Pensar lo contrario sería fruto de lo que el autor denomina “delirios de la llamada cosmovisión científica”[23]. Aboga por la relevancia de ampliar la perspectiva al tratar sobre la materia: “Mientras no otorguemos a las humanidades y a todas las demás disciplinas académicas la misma posición epistemológica, las ciencias naturales también serán presa fácil para aquellos que no se preocupan por los hechos, pero realmente están interesados solo en maximizar el alcance de su voluntad de poder”; concluye: “[…] tenemos derecho a rechazar la idea misma de los robots conscientes”[24].

Sobre la supuesta inteligencia y autonomía robótica, Martin Ebers, de la Humboldt-Universität zu Berlin, sostiene: “En esta constatación es correcto [afirmar] que los agentes de software y robots hasta el momento no están en situación, en efecto, de determinar las condiciones de sus actos, y, especialmente, no pueden modificar la arquitectura de control, la cual garantiza que su actuar permanece dentro de cauces predefinidos. Por tanto, no se debería en absoluto hablar de inteligencia y, sobre todo, de acciones autónomas. El coche que se conduce por sí mismo no decide ni si se pone en marcha, ni sobre el lugar adonde va, sino que depende siempre de las especificaciones de su usuario. Con lo que permanece, como siempre, enlazado a la acción humana, lo que es jurídicamente relevante y significa que, en última instancia, siempre se deja ver una persona imputable”[25].

Por su parte, Wolf Singer, del Max Planck Institute for Brain Research, sostiene que tanto los organismos como los robots necesitan poseer un modelo interno del entorno restringido en el que actúan y ambos necesitan ajustar sus acciones a dichas condiciones para llevar a cabo sus tareas. Sin embargo, las estrategias computacionales para hacer frente a estos desafíos son diferentes para los sistemas naturales y para los artificiales. Muchas de las cualidades humanas específicas no se pueden deducir de las funciones neuronales de los cerebros individuales solamente, sino que deben su existencia a la evolución cultural[26]. Dice este autor: “Las intervenciones sociales entre agentes dotados de las capacidades cognitivas de los seres humanos generan realidades inmateriales, abordadas como realidades sociales o culturales. La intencionalidad, la moralidad, la responsabilidad y ciertos aspectos de la conciencia, como los qualia de la experiencia subjetiva, pertenecen a la dimensión inmaterial de las realidades sociales. Es prematuro entrar en discusiones sobre si los sistemas artificiales pueden adquirir funciones que consideramos intencionales y conscientes o si los agentes artificiales pueden considerarse como agentes morales con responsabilidad por sus acciones”[27].

Zimmermann y Cremers también han aportado una mirada más realista sobre las objetivas limitaciones de la algorítmica en el campo de la IA: “A pesar de los resultados fundamentales sobre la capacidad de aprendizaje dentro de los marcos de aprendizaje sincrónico y asincrónico, una axiomatización del razonamiento incierto, una definición formal de inteligencia y muchos resultados sobre agentes de aprendizaje por refuerzo general, todavía no existe una axiomatización unificadora de los agentes cognitivos generales comparable, por ejemplo, a los fundamentos axiomáticos de la teoría de la probabilidad o la teoría de conjuntos. Especialmente los temas de una máquina de referencia estándar y la cognición con recursos limitados deben explorarse mucho más a fondo para alcanzar un marco fundacional integrado y un significado para la inteligencia artificial”[28].

Asimismo, estos autores han mostrado que, en el campo de la IA, las relaciones aprendidas son en general solo relaciones de asociación y no relaciones causales, es decir, la covariación observada entre dos variables A y B es causada por una tercera variable desconocida C. Cuando las acciones basadas en predicciones se retroalimentan significativamente en el sistema observado, el aprendizaje de asociación no puede responder a las preguntas importantes que surgen con respecto a las consecuencias de las acciones ejecutadas[29].

De hecho, Marvin Minsky, una de las figuras fundadoras de la inteligencia artificial, explicita los límites de la algorítmica en estas materias: “Me parece que el descubrimiento más importante desde Gödel fue el descubrimiento por Chaitin, Solomonoff y Kolmogorov del concepto llamado probabilidad algorítmica, que es una nueva teoría fundamental de cómo hacer predicciones dada una colección de experiencias y esta es una teoría hermosa, todo el mundo debería aprenderla, pero tiene un problema, es decir, que en realidad no se puede calcular lo que esta teoría predice porque es demasiado difícil, requiere una cantidad infinita de trabajo”[30].

Por consiguiente, sin dejar de admirar la grandeza y aun belleza de estos impresionantes avances tecnológicos, conviene evitar, razonablemente, sobredimensionar sus reales posibilidades y alcances. Llegado a este punto, pasemos a la descripción y análisis de la propuesta europea.

IV. La propuesta europea: análisis crítico

La propuesta de la Unión Europea plantea la necesidad de avanzar hacia una definición única de “robot inteligente” (RI). Sin llegar a darla, identifica una serie de elementos que considera mínimos necesarios para ello: a) la capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos con su entorno (interconectividad) y el intercambio y análisis de dichos datos; b) soporte físico mínimo; c) capacidad de adaptar su comportamiento y acciones al entorno; e) inexistencia de vida.

La resolución menciona, con carácter opcional, la capacidad de autoaprendizaje a partir de la experiencia y la interacción con su entorno. Una vez definidos los elementos mínimos, el Parlamento Europeo propone crear un registro de robots inteligentes, donde estos se deban inscribir e identificar (al modo de un registro civil o un registro automotor).

Asimismo, la propuesta cita a Asimov, y sus conocidos tres principios básicos: a) un robot no debe agredir a un humano ni, con su inacción, permitir que un humano sufra algún daño; b) un robot debe obedecer las órdenes dadas por los seres humanos salvo si dicho mandato entra en conflicto con la primera de las leyes arriba formulada; c) un robot debe proteger su propia existencia siempre y cuando no entre en conflicto con la primera y la segunda de estas leyes.

También incluye, y he aquí, consideramos, un aspecto muy importante, una serie de principios generales para la debida regulación de los RI, estableciendo derechos y obligaciones tanto de los usuarios como, muy especialmente, de los ingenieros, investigadores y diseñadores de RI. El porqué consideramos a este punto de especial importancia lo justificamos por el rol o función que los principios generales tienen en el mundo jurídico[31]. Como principios generales de esta regulación, la resolución del Parlamento Europeo, curiosamente con clara remisión a la bioética dominante en la esfera anglosajona, enumera los siguientes: a) el principio de beneficencia: por el cual, los robots deben actuar siempre en beneficio del hombre; b) el principio de no perjuicio o maleficencia: por el que establece la doctrina de “primero, no hacer daño”, en virtud del cual los robots no deberían nunca perjudicar a las personas; c) el principio de autonomía: la capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots; d) el principio de justicia: o la distribución justa de los beneficios asociados a la robótica y la asequibilidad de los robots utilizados en el ámbito de la asistencia sanitaria a domicilio y de los cuidados sanitarios en particular.

El carácter de “principios”, de la enumeración hecha por el Parlamento, ya nos advierte que su cumplimiento puede variar según grados. Allí, entonces, se nos plantea el primer problema, ¿cómo evaluar el cumplimiento o apartamiento del principio?, lo que nos lleva directamente al tema crucial: ¿se puede atribuir responsabilidad a un RI?

A esos principios, podemos añadir las propiedades distintivas que, según Moisés Barrio, en un estudio sobre los rasgos jurídicos, caracterizan a los robots y a los sistemas de inteligencia artificial: corporeidad, impredecibilidad e impacto social[32].

En otro apartado, la resolución europea propone que los “trabajadores robots” de Europa pudiesen ser clasificados como “personas electrónicas”.

Por otra parte, la propuesta del Parlamento Europeo, ya de forma más práctica, también se hace cargo de fijar límites éticos a las acciones robóticas que seguidamente enumeramos: (i) La reversibilidad y teclas de interrupción de urgencia: La posibilidad de deshacer la última acción o secuencia de acciones de un robot o una IA, que permita al usuario anular las acciones no deseadas o, en caso de emergencia, desconectarlo totalmente. Este es el famoso “botón rojo” también propuesto por otras entidades y expertos para garantizar que el control último de la inteligencia artificial resida siempre en los humanos. (ii) La privacidad: Los individuos no serán personalmente identificables, salvo en caso de consentimiento explícito del afectado, el cual tiene que recabarse antes de cualquier interacción hombre-máquina. (iii) La transparencia: Las etapas de toma de decisión del robot inteligente deben ser claras y poder ser objeto de reconstrucción y trazabilidad en todo momento[33]. (iv) Seguridad y previsibilidad: La respuesta y ejecución de los robots y de las IA deben realizarse teniendo en cuenta la incertidumbre en la interpretación y en la acción, así como los posibles fallos de los robots o del hombre. (v) La identificación: El autómata debe ser identificado como tal al relacionarse con humanos. Es decir, en ningún caso, se podrá diseñar un androide o IA que nos engañe al hacerse pasar por un humano. Debemos tener claro siempre que al otro lado hay una máquina, a la hora de interactuar con ella.

Ahora bien, la propuesta del Parlamento Europeo es que los ordenamientos jurídicos de los países de la Unión reconozcan atributos de capacidad a los RI. Es en este punto donde empiezan a surgir problemas, pues el debate sobre qué puede hacerse o no con un robot es un debate aún abierto y que cada ordenamiento deberá zanjar y resolver. En suma, qué acciones vamos a permitir hacer y reconocer a los robots. Esta definición es crucial, pues tanto puede detener el avance científico como desencadenar permisivas consecuencias. En esto, la imaginación artística contemporánea, expresada en el cine de ficción, denota una incómoda sospecha: baste recordar la famosa saga Terminator o Robocop. La propuesta considera: “[…] crear a largo plazo una personalidad jurídica específica para los robots, de forma que como mínimo los robots autónomos más complejos puedan ser considerados personas electrónicas responsables de reparar los daños que puedan causar, y posiblemente aplicar la personalidad electrónica a aquellos supuestos en los que los robots tomen decisiones autónomas inteligentes o interactúen con terceros de forma independiente” (59 f).

En esta afirmación parece confundirse la personalidad ficticia o jurídica, concepto instrumental del derecho, en gran medida superada en la civilística contemporánea, y el ser humano, como entidad individual, única, irrepetible e irremplazable y único ser dotado de facultad de la inteligencia. Yendo más al fondo de la cuestión, al considerar a la inteligencia como un proceso meramente mécanico o algoritmítico que puede ser ejecutado por un robot, podemos vislumbrar lo que se ha denominado la “falacia mereológica”. Dicha falacia consiste en confundir la parte por el todo[34]. Así, afirmar que el cerebro reflexiona, elige, valora o siente, por ejemplo, en forma absolutamente independiente de la persona, considerada como un todo orgánico, de proceso complejo, con facultades no solo materiales o mecánicas sino también inmateriales, o espirituales, y a su vez, que dichas “funciones cerebrales” pueden ser replicadas algorítmicamente. La reducción de los atributos psicológicos a los estados cerebrales debe ser rechazada por falaz. Por eso, la acción voluntaria, la intencionalidad, el conocimiento y la toma de decisiones no pueden ser atribuidas a cerebros, sino solo a seres humanos[35]. Con mayor razón, no puede atribuirse a meros algoritmos que intentan simular o replicar sus funciones. Ello presupone un monismo reduccionista y materialista.

Los principios y reglas legales actúan, en general, como un límite a las derivaciones tecnológicas y sirven para destacar que no todo lo que es técnicamente posible es también éticamente admisible, socialmente aceptable y legalmente lícito. En suma, el respeto a la dignidad humana debe ser la base fundamental de las discusiones sobre dónde están los límites para diferentes usos de la ciencia y la tecnología.

En cuanto al fin u objeto del robot, es necesario plantear problemas como el de la obligatoriedad o no de actualizar los sistemas operativos, la necesidad de un código fuente abierto, y el problema de la obsolescencia tecnológica programada. Ante este entramado de relaciones, hemos de tener presente que el derecho moderno podría proveer soluciones razonables con base en la responsabilidad del fabricante por producto defectuoso. Un tema no resuelto es que del software solo se adquiere una licencia de uso, mas no la propiedad del mismo, por lo que concurren dos titularidades (la del fabricante y la del usuario adquirente). Ello nos lleva al tema del dominio digital, útil o directo, y la ausencia de una normativa clara sobre el tema (tanto nacional como internacional). En este punto, el Parlamento Europeo hace referencia al contenido mínimo de la Licencia de Uso de la Inteligencia Artificial. En dicha licencia se tendrán que contemplar, al menos, los derechos y obligaciones para los usuarios de robots inteligentes que resumimos a continuación:

a) El derecho a no temer perjuicio físico ni psicológico; b) El derecho a esperar que el robot ejecute sus tareas propias, para las que fue diseñado; c) La obligación de aceptar las limitaciones de percepción, cognición y acción del robot inteligente; d) La inteligencia artificial deberá respetar la fragilidad y emotividad humana, no generando confusión en cuanto a la realidad de los sentimientos simulados por la máquina; e) El derecho a la intimidad: el robot deberá respetar la vida privada y, por ejemplo, desactivar sus video monitores en momentos íntimos; f) El no tratar datos de personas sin el consentimiento explícito y previo de las mismas; g) La obligación de no usar a los robots contra la ley ni contra la ética; y h) En ningún caso, modificar robots para ser usados como armas. En esta materia, parece prudente rescatar el concepto de bienes fuera del comercio, res extra comercium, concepto, como se sabe, heredado también del derecho romano, dada la eventual peligrosidad y aun letalidad de los artefactos según su programación, por ejemplo, robots para usos militares[36].

La propuesta también plantea que habría que decidir “si se debe crear un fondo general para todos los robots autónomos inteligentes o bien crear un fondo individual para cada categoría de robot, y si una contribución debe ser pagada en concepto de gastos al colocar el robot en el mercado o si la contribución de quién instale la máquina debe ser pagada durante la vida útil del robot”. Es decir, una suerte de “seguro” al modo que hoy conocemos, por ejemplo, con los automotores. Consistente con ello, se sugiere la necesidad de crear un registro de robots autónomos inteligentes, que uniría a cada una de las personas electrónicas con sus propietarios.

Si se reconociere la personalidad jurídica de un robot, se tornaría forzoso fijar el límite entre esta y la propiedad del objeto, pues las relaciones jurídicas siempre se entablan entre personas y no entre personas y cosas o entre cosas[37]. Entre los sujetos y las cosas, existen relaciones de hecho, pero no vínculos jurídicos. Según Legaz y Lacambra, “el concepto de relación jurídica es uno de aquellos conceptos jurídicos puros que son dados con la idea misma del derecho, así como la existencia de relaciones jurídicas. En cambio, la existencia de relaciones jurídicas concretas es una simple implicancia de un orden jurídico​”[38].

Todo lo hasta aquí expuesto nos lleva ya a presumir que la personalidad jurídica o moral, tal como la hemos entendido hasta ahora, no es un “traje” que calce a la medida de los robots complejos y es por ello que el Parlamento Europeo refiere un tipo de persona ficticia: “la personalidad electrónica”. En este sentido, la propuesta requiere a la Comisión que se termine pronunciando sobre la necesidad de establecer un estatuto jurídico específico para los robots, concretando conceptos como el de los “robots autónomos sofisticados”, o el alcance de la definición “personas electrónicas”, su condición y los derechos y obligaciones específicas que se les van a atribuir y exigir.

Desde luego, la atribución de responsabilidad a la máquina, calificada como el caso más problemático de entre los desafíos de la robótica compleja[39], no pareciera ser la solución más adecuada, como ya se ha observado: “No se considera muy loable que la solución más idónea sea atribuir la responsabilidad civil de los robots, con la finalidad de no dilatar el pago de la misma, ya que lo mismo se está produciendo el efecto contrario. Dotar a un robot de un derecho, en ningún caso podría ser equiparable a los derechos de los humanos, ya que va en contra de los textos internacionales. Dotarles de unos semiderechos, o derechos tampoco sería adecuado ya que estaríamos utilizando el robot como pantalla, o bien considerarlo como semipersona, que tampoco resulta lógico, ya que detrás está la mente del ser humano que crea la máquina y la programa para una determinada acción”[40].

Así las cosas, no pareciere necesario, ni conveniente, introducir dos cambios de tan grande envergadura –personalidad jurídica y atribución de responsabilidad a una máquina– sin razones fuertes para ello. Muy por el contrario, siguiendo a Ebers, la opinión probablemente dominante en el plano jurídico –hasta donde este problema ha sido tratado– parte de la base de que el derecho civil está preparado para solucionar estas cuestiones de imputación y responsabilidad. La mayoría toma por base el convencimiento de que estas máquinas complejas solo pueden procesar datos, pero no aprehender ni dotar de sentido[41].

Incluso en la órbita del common law, cuyo sistema de reparación sobre la base de torts es a partir de daños tipificados, y, por ende, menos comprehensivo que el del derecho continental, se ha observado que “el método del sistema legal para abordar las lesiones físicas de las máquinas robóticas que interactúan estrechamente con los humanos proporciona un equilibrio adecuado de innovación y responsabilidad por lesiones personales. Critica las afirmaciones de que el sistema es defectuoso y necesita un cambio fundamental y concluye que el sistema legal continuará fomentando de manera justa y eficiente la innovación de robots sofisticados razonablemente seguros”[42].

Lacruz Mantecón, refiriéndose a este punto, indica: “Sobre si estas realidades determinan el surgimiento de un nuevo derecho, hay que decir que la cuestión, aun no estando decidida, parece que en principio merece una respuesta negativa”[43].

Desde luego, quienes escriben algoritmos y desarrollan técnicas analíticas que controlan el comportamiento de un robot son partes a considerar en la cadena de responsabilidad que conduce a daños o lesiones. Esto podría implicar la aplicación de un régimen de responsabilidad estricta, la que ya existe para las reclamaciones de productos defectuosos en muchas jurisdicciones y para las acciones de los animales, por lo tanto, extenderla a las acciones de los robots en análisis parece plausible. Con todo, hay que conceder que la cuestión de la previsibilidad del tipo de daño experimentado es un cabo que quedaría suelto[44]. En ese entendido, el principio precautorio podría resultar de especial utilidad[45].

Literatura reciente sugiere que ninguno de los tres regímenes principales de responsabilidad (responsabilidad estricta, negligencia y seguro obligatorio sin culpa) resuelve adecuadamente los desafíos de los “robots inteligentes”[46]. Más bien, parece haber mejores razones para establecer reglas puntuales y específicas de orden suplementario que, junto con los modelos de responsabilidad existentes, podrían proporcionar mejores estructuras legales que se ajusten a los robots basados en inteligencia artificial. Tales reglas suplementarias funcionarían como estándares de resultado, en su caso, o bien como factor de imputación en tanto su incumplimiento configurare culpa infraccional. Se ha propuesto, entre tales estándares: un deber de monitoreo, frenos de emergencia incorporados y tareas continuas de soporte y mantenimiento, además del ya usual y aceptado botón de apagado. El argumento es que estas reglas suplementarias podrían usarse, entonces, como base para establecer la negligencia, requerida como factor de imputación, y, por ende, operaria como complemento en los modelos de responsabilidad existentes. O, en su caso, su ausencia permitiría calificar de defectuoso el producto, o insatisfactorio el servicio posventa[47]. Si se adoptan, podrían contribuir a mejores prácticas que determinen el alcance de la responsabilidad potencial de los diseñadores, operadores y usuarios finales de robots en cuestión.

Una última reflexión tiene que ver con los aspectos éticos. El dilema entre la ciencia y la ética no es nuevo en la historia de la humanidad. A lo largo del desarrollo científico, siempre se ha topado con los límites que impone la ética con fundamento en la dignidad de la persona humana. Que el ser humano sea digno quiere decir que su existencia no encuentra justificación en algo exterior a él, sino en sí mismo. El hombre es el centro de toda la creación, sea la natural o la que proviene de la mano del hombre, entre las que se encuentran los hallazgos científicos. De este modo, el progreso científico encuentra su límite en la dignidad de la persona, aun cuando sea percibido, por la comunidad científica, como un bien para la humanidad.

Es necesario recordar que todos los programas sociales, científicos y culturales han de estar presididos por la conciencia del primado de cada ser humano. Una sociedad justa puede ser realizada solamente en el respeto de la dignidad trascendente de la persona humana. Esta representa el fin último de la sociedad, que está a ella ordenada: “El orden social, pues, y su progresivo desarrollo deben en todo momento subordinarse al bien de la persona, ya que el orden real debe someterse al orden personal, y no al contrario”[48]. El respeto de la dignidad humana no puede absolutamente prescindir de la obediencia al principio de “considerar al prójimo como otro yo, cuidando en primer lugar de su vida y de los medios necesarios para vivirla dignamente”. Es preciso que todos los programas sociales, científicos y culturales estén presididos por la conciencia del primado de cada ser humano. La persona no es, ni puede ser solo medio de ningún proyecto, por prometedor que fuere, sea este de carácter económico, político, científico o de cualquier otra naturaleza. Y esto es así aun ponderando potenciales beneficios futuros de un descubrimiento o avance tecnológico determinado[49].

Recordemos principios asentados en el Preámbulo y en el artículo 1º de la Declaración Universal de Derechos Humanos de 1948, que se refieren expresamente a la dignidad como componente esencial del ser humano y condición para la libertad y la igualdad. Tales principios han sido recogidos en la mayoría de los textos constitucionales y otros textos legales de las naciones de los cinco continentes. Baste mencionar el artículo 16 de la Ley Civil francesa o el artículo 2º del Código italiano de protección de datos, que señalan expresamente la dignidad. Esto también se aplica en instrumentos internacionales como la Declaración de Helsinki (1964), la Convención europea sobre derechos humanos y biomedicina (1997), que comienza reafirmando el principio de dignidad humana y la Declaración Universal del Genoma Humano de la UNESCO (1997). Por tanto, se puede llegar a la conclusión de que la dignidad es un elemento universal, fundamental e ineludible término de referencia, aunque siempre debe considerarse en un contexto cultural específico al punto que se encuentra en prácticamente todos los instrumentos adoptados, firmados y ratificados por las organizaciones internacionales que representan naciones de todo el mundo[50].

Las limitaciones jurídicas impuestas a los avances de la tecnología podrían ser vistas, por muchos, como limitaciones a los avances científicos que obstaculizarían las posibilidades que la ciencia tiene para mejorar la salud y el bienestar de los seres humanos. Sin embargo, la libertad de investigación debe ser restringida por el respeto de otros valores importantes y principios éticos, por ejemplo, el respeto de personas y la obligación de evitar daños físicos, mentales y económicos como consecuencia de la participación en la investigación. La noción ética de inviolabilidad del cuerpo humano no debe entenderse como una barrera contra el avance de la ciencia y la tecnología, sino como una barrera contra su posible uso indebido.

La tecnología debe estar subordinada a la ética, o moral práctica, solo atribuible a la persona humana, animal racional de naturaleza espiritual e individuo único, irrepetible e irremplazable. La persona humana sigue siendo y será el centro y fin único del derecho y, por tanto, también será el único responsable de los daños que cause con los frutos de su inteligencia, incluyendo los robots.

V. Conclusiones

Las Normas de derecho civil sobre robótica del Parlamento Europeo, en lo que a nuestro análisis respecta, proponen la creación de una personalidad electrónica para los robots complejos o sofisticados, que denomina inteligentes, como un mecanismo para tornar más eficaz el sistema de reparación de daños ocasionados por este tipo de máquinas. Dicha propuesta adolecería de una serie de inconvenientes. Por lo pronto, la innecesariedad: los problemas de atribución de responsabilidad, de soporte del coste del accidente y específicamente de imputación, pueden ser resueltos con base en las reglas propias del sistema continental, por cierto, no sin el adecuado e indispensable aporte de los doctrinarios.

Junto con la referida falta de necesidad, se añaden razones de inconveniencia, entre las cuales destaca la utilización de un concepto de personalidad que, a la base, se encontraría ya superado por la civilística contemporánea, atendido a que el sustrato carece de notas elementales que le habilitarían para fungir como analogado. No es cierto que las máquinas programadas con complejos algoritmos sean inteligentes, ni conscientes, ni capaces de aprender ni decidir, en los sentidos fuertes y rigurosos de los términos. Es un error tomarse ad litteram lo que tan solo son expresiones metafóricas y funcionales. La distancia entre la persona y la máquina es de suyo inconmensurable. Relacionado con lo anterior, las Normas propuestas tienen a la base un error lógico de entidad: la falacia mereológica, y una infravaloración de la complejidad del ser humano, reduciéndole a partir de un monismo de corte materialista, incompatible con la noción misma de dignidad.

Notas