INTELIGENCIA ARTIFICIAL EN LOS PROCESOS JUDICIALES DEL MUNDO

Robótica, inteligencia artificial y Derecho Moisés Barrio Andrés. ARI 103/2018 - 11/9/2018 Tema La entrada en el mundo jurídico de la robótica y de la inteligencia artificial es un hecho y plantea algunos retos que han hecho aparecer una nueva rama jurídica: el Derecho de los Robots. Resumen Al igual que Internet lo fue en su momento, los robots y los sistemas de inteligencia artificial (IA) son la próxima tecnología transformadora de nuestro tiempo. Éstos se están convirtiendo en parte de la vida cotidiana, y llevan a cambios sustanciales en la sociedad: en breve, esperamos ver a los robots desempeñar todo tipo de tareas, desde conducir camiones hasta mejorar el trabajo de muchos profesionales, o incluso sustituir a los humanos en el campo de batalla. También están reemplazando a los electrodomésticos analógicos para crear hogares interconectados e inteligentes. Por ello, el Derecho tiene que ocuparse de esta tecnología disruptiva para garantizar el respeto a los derechos fundamentales de la Carta de los Derechos Fundamentales de la Unión Europea y de las constituciones de los Estados. Además, al regular de manera anticipada e inteligente, los responsables de la formulación de políticas públicas tienen la oportunidad de influir en la forma en que se diseñarán y funcionarán estas tecnologías una vez que lleguen al mercado. Una regulación eficaz también creará confianza en la seguridad de los dispositivos y aplicaciones, así como garantizará el respeto a la protección de datos, lo cual es esencial para que los consumidores, las empresas y las administraciones públicas incorporen estas innovaciones con garantías jurídicas y éticas. Análisis Los autómatas, los mecanismos ingeniosos, nos fascinan desde la antigüedad1 y abrieron el camino a otras criaturas mecánicas, como los robots2, y después a ingenios inmateriales o no corporales como los sistemas de inteligencia artificial (IA) que llevan ya cierto tiempo entre nosotros. Luego vendrían los cyborg, anunciando lo transhumano y lo poshumano, fruto de las investigaciones sobre las relaciones entre cerebro y máquinas, sobre los interfaces cerebro–ordenador –los Brain–machine interfaces (BMIs) o Brain–computer interfaces (BCIs)– y, más en general, sobre la interacción persona–ordenador –la Human–computer interaction (HCI)–. Los robots ya han llegado, y más están en camino. Los robots han salido de las cadenas de montaje de las fábricas para circular por las carreteras, como sucede con los primeros prototipos de coches o camiones autónomos, para volar en espacios aéreos más bajos para entregar mercancías por medio de drones o realizar reconocimientos para detectar construcciones no declaradas, por ejemplo. También están reemplazando a los electrodomésticos para crear hogares conectados e inteligentes, y asimismo están viajando a lugares más allá de la capacidad humana para abrir nuevas fronteras al descubrimiento espacial. Es también muy común la referencia a las posibilidades que los robots presentan con la anglosajona expresión de the 3 D, esto es, permiten afrontar tareas que se caracterizan por los tres adjetivos que empiezan por d: dull (tedioso), dirty (sucio) y dangerous (peligroso). Así, pueden llevar a cabo tareas muy largas, aburridas y físicamente muy exigentes, superando los inconvenientes del cansancio y la tensión acumulada de la plantilla y la imposibilidad o gran dificultad de los relevos. Se destaca igualmente que los robots están especialmente pensados para trabajar en ambientes sucios porque permiten operar en zonas donde existe contaminación NbQR (nuclear, biológica, química y radiactiva) y donde los riesgos para el organismo humano serían demasiado elevados si se realizasen misiones con personal de carne y hueso. Finalmente, la tercera «d» está relacionada con misiones en las que el peligro para un ser humano es demasiado importante debido a amenazas en tierra, como es el caso de las catástrofes naturales. Más aún, estamos siendo partícipes de la incorporación gradual a nuestras vidas de los asistentes virtuales basados en inteligencia artificial3, cuya misión es facilitar la vida cotidiana a las personas. Pueden ser antropomorfos o no, o incluso no tener ninguna forma tangible como es la aplicación Siri de Apple (Alexa de Amazon, Cortana de Microsoft o Google Now de Google). Estos productos son auténticos cerebros globales, porque utilizan contenidos disponibles en Internet y no están, por ello, sujetos a las limitaciones de sus diseñadores. Igualmente ya están disponibles humanoides como Pepper o Sanbot, cuyo propósito es ser un compañero emocional del propietario, en el sentido de hablar y entender las emociones humanas, o incluso ser capaz de expresar algunas. Y, próximamente, las administraciones públicas y los tribunales de justicia tendrán que lidiar con procedimientos relativos a los mismos. Del mismo modo, a medio plazo, los robots interactuarán progresivamente de manera autónoma e independiente del control humano, con la posibilidad de que incluso las personas se hibriden con exoesqueletos para mejorar o restablecer sus funciones fisiológicas. En este último caso se trata de las repairing and capacity enhancing technologies, que ensanchan y modifican la noción de cuidado del cuerpo4. Así las cosas, los robots, grandes y pequeños, se han integrado en la asistencia sanitaria, el transporte, la recopilación de información, la producción industrial o el entretenimiento. Todo ello en espacios públicos y privados. Lo mismo cabe señalar de los cada vez más complejos sistemas de inteligencia artificial, que nosotros englobamos también dentro del concepto de robot (o sistema robótico) –por cuanto, como he desarrollado detenidamente en otro lugar, ambas nociones se fundirán en una única categoría, como viene sucediendo con la propia red telefónica e Internet donde el par de cobre ha dado paso a la Voz sobre IP–, los cuales ordenan las modalidades de funcionamiento de amplias áreas de nuestras organizaciones sociales, incluso dando lugar a lo que se ha denominado como la dictadura del algoritmo. Porque los algoritmos más avanzados, al ser interpretaciones matemáticas de los datos obtenidos, no explican la realidad subyacente que los produce. Y es que las aplicaciones robóticas y de IA abarcan muchas otras tecnologías, como las TIC, las nanotecnologías y las neurociencias, lo que básicamente lleva a encarnar la frontera más avanzada del concepto de tecnologías convergentes que actualmente se debate desde una perspectiva política en numerosos países y foros nacionales e internacionales. Propiedades disruptivas Por ello, cabe afirmar que los robots y los sistemas de inteligencia artificial son uno de los grandes inventos verdaderamente disruptivos del entorno digital, y constituyen, sin duda, un vector de cambio vertiginoso de nuestras sociedades que apenas si hemos comenzado a vislumbrar. Incluso, se ha comparado con acierto su impacto al que en su momento produjo la invención de la imprenta en el siglo XV, que como sabemos permitió que la búsqueda del conocimiento empírico sustituyera a la doctrina sagrada, y que la Era de la Razón sustituyera gradualmente a la Era de la Religión. Lo que une a todos estos artefactos es la característica de que tales máquinas presentan cierto grado de autonomía en su funcionamiento, de impredecibilidad, y también cuentan con la capacidad de causar daño físico, lo que abre una nueva etapa en la interacción entre los seres humanos y la tecnología. A diferencia del software y de Internet, aquéllos están diseñados para actuar sobre el mundo off–line. La capacidad de actuar físicamente sobre el mundo real se traduce, a su vez, en el potencial de dañar materialmente a las personas o a las cosas. Además, los sistemas más avanzados no repiten instrucciones, sino que se adaptan interactivamente a las circunstancias, y tienen capacidad de aprendizaje, hasta con posibilidad de modificar su código. AlphaGo, el algoritmo de Google, derrotó en 2015 a los campeones mundiales del Go haciendo movimientos estratégicos sin precedentes, movimientos que los humanos no habían concebido y que todavía no han aprendido a superar con éxito. ¿Van estos movimientos más allá de la capacidad del cerebro humano? ¿O podrían los humanos aprenderlos ahora que han sido revelados por un nuevo maestro? Del mismo modo, el daño es un efecto conjunto del software, hardware y forma de uso. Incluso el software es bastante probable que tenga errores o produzca resultados no previstos. Los bugs, los errores de programación, suelen ser difíciles de detectar y pueden originarse a través de la combinación de múltiples modificaciones y adiciones de variados equipos. Finalmente, los robots y los sistemas de inteligencia artificial son objeto de ciberataques5. Y son estos rasgos lo que convierte al objeto de nuestro artículo en su conjunto en un campo relevante para los reguladores y los operadores jurídicos. ¿Son nuestros marcos jurídicos en vigor adecuados para hacer frente a los avances de la robótica? ¿Pueden regularse las nuevas tecnologías robóticas, en particular si se caracterizan por un comportamiento autónomo cada vez mayor, dentro de los marcos legales y éticos existentes o, en caso contrario, deben hacerse más genéricas las normas jurídicas existentes para que incluyan también a los robots y los sistemas de IA? o, más bien ¿debemos aspirar a una disciplina jurídica autónoma y propia para los robots y la inteligencia artificial? Un desafío jurídico Esta revolución conlleva nuevos desafíos a los que la regulación existente no da respuesta. Además, es necesario abordar no sólo cuestiones jurídicas, sino también sociales, económicas, de salud y éticas con el objeto de garantizar la libertad, la autonomía y la seguridad de los seres humanos, esclareciendo cuestiones tales como cuál es la condición jurídica del robot, si deben tener o no un régimen especial de derechos y obligaciones, quién asume la responsabilidad de las acciones y omisiones de los sistemas autónomos e impredecibles, o el conjunto mínimo indispensable de medidas organizativas, técnicas y legales para asegurar su desarrollo seguro y minimizar los riesgos a los que están expuestas las personas. Asimismo, la seguridad jurídica es crucial para el propio desarrollo de la tecnología y del mercado de la robótica, que alcanzará los 45 billones de dólares para el año 2020, y desde 2017 a 2020 se instalarán más de dos millones de robots en fábricas de todo el mundo6. En efecto, el Derecho tiene que brindar un marco legal de referencia a los operadores del sector, quienes están seriamente preocupados por las implicaciones de sus actividades y, además, necesitan disponer de una cobertura jurídica ante potenciales creaciones que superen los confines de los laboratorios. Por otro lado, el Derecho está obligado a elaborar una regulación avanzada que pueda impulsar el desenvolvimiento de la robótica y de la IA, y asegurar un desarrollo congruente con los valores propios de las constituciones y de la Carta de los Derechos Fundamentales de la Unión Europea. Entre las distintas iniciativas reguladoras, cabe destacar la importante Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica7, que recoge las principales líneas de trabajo para el legislador al respecto, entre las que destacamos: la creación de una «Agencia Europea de Robótica e Inteligencia Artificial»; la elaboración de un código de conducta ético voluntario que sirva de base para regular quién será responsable de los impactos sociales, ambientales y de salud humana de la robótica y asegurar que operen de acuerdo con las normas legales, de seguridad y éticas pertinentes. Prevé por ejemplo la exigencia de que los robots incluyan interruptores para su desconexión en caso de emergencia. Y recoge la necesidad de acordar una Carta sobre Robótica; promulgar un conjunto de reglas de responsabilidad por los daños causados por los robots; crear un estatuto de persona electrónica; estudiar nuevos modelos de empleo y analizar la viabilidad del actual sistema tributario y social con la llegada de la robótica; integrar la seguridad y la privacidad como valores de serie en el diseño de los robots; y poner en marcha un Registro Europeo de los robots inteligentes. La robótica y la inteligencia artificial son descritas como "tecnologías disruptivas" que pueden "transformar vidas y prácticas de trabajo", afectar al mercado laboral y los niveles de empleo, y que eventualmente tendrán un gran impacto en todas las esferas de la sociedad. Del mismo modo, la citada Resolución estima que los referentes éticos8 de la robótica deben ser la seguridad y la salud humanas, la libertad, la intimidad, la integridad, la dignidad, la justicia, la equidad, la autodeterminación, la no discriminación, la no estigmatización, la protección de datos personales, la transparencia, la responsabilidad, así como los principios de beneficencia y no maleficencia. En definitiva, se trata de los derechos humanos internacionalmente reconocidos y que, al igual que son el pórtico de la declaración de derechos de nuestra Constitución de 1978 (art. 10 CE), son los referentes que deben guiar y limitar la regulación jurídica de la robótica y de la inteligencia artificial. Por ello, se necesita un marco jurídico sólido para acelerar el desarrollo de un mercado avanzado de productos y servicios robóticos y de IA, eliminando incertidumbres y lagunas que podrían actuar como un obstáculo no tecnológico, y para hacer que crezca de acuerdo con los valores y principios consagrados en el ordenamiento jurídico europeo y en las constituciones de los Estados. El Derecho de los Robots, una nueva disciplina jurídica Se hace, así, evidente la urgente necesidad de definir las condiciones de legitimidad jurídica de las nuevas invenciones y establecer con precisión un régimen claro de derechos y obligaciones. La primera y esencial cuestión tiene que ver con la existencia de un marco jurídico que garantice un progreso tecnológico que refuerce el libre desarrollo de la personalidad y los derechos fundamentales de los ciudadanos en el plano estatal, y de los derechos humanos en el internacional. Su análisis jurídico debe enmarcarse dentro de una nueva rama jurídica autónoma, el Derecho de los Robots (Robot Law), para dar respuesta a estos insólitos desafíos y situaciones disruptivas, como en su momento sucedió con el Derecho del Trabajo o el Derecho Ambiental. Además, es preciso no olvidar la importancia de intervenir oportunamente y de manera proactiva a fin de orientar la evolución actual y futura en esos ámbitos. Junto con el entusiasmo por las promesas de este campo emergente de la tecnología, surge una doble preocupación jurídica: de una parte, la erosión de valores fundamentales como la dignidad, la autonomía, la privacidad y la no discriminación, que podrían verse socavados por dichos desarrollos, y la amenaza de que la tecnología se convierta en una vía para hacer a las personas menos humanas y más pasivas, con una autonomía reducida, con una dependencia creciente y una pérdida de la capacidad de iniciativa con una eventual situación de subordinación irreversible que pueda expropiar la libertad y la humanidad misma. De otra parte, el Derecho tiene que garantizar la seguridad de los productos disponibles en el mercado europeo y las consiguientes garantías para los consumidores, incluyendo normas adecuadas para la asignación de responsabilidades en caso de daños. Las cuestiones de responsabilidad adquieren aquí un papel capital, pues los paradigmas tradicionales no resultan adecuados ante sistemas que modifican su propio código, pueden conducir a soluciones no previstas por ninguna mente humana, y son asimismo objeto de crecientes ciberataques. Del mismo modo, surgen tres nuevos riesgos: el riesgo de autonomía, que tiene su origen en "decisiones" autónomas tomadas por los agentes de IA, el riesgo de asociación, que se debe a la estrecha cooperación entre las personas y los sistemas más avanzados, y el riesgo de red que se produce cuando los sistemas funcionan en estrecha integración con otros sistemas en la nube. Precisamente, las bases de esta nueva disciplina –entre otras cuestiones– las hemos desarrollado recientemente en una obra colectiva, justamente titulada Derecho de los Robots[9], en la que hemos identificado una serie de retos nucleares suscitados por el despliegue generalizado de la robótica y de la inteligencia artificial en la sociedad, mediante un estudio interdisciplinar que incluye los aspectos científicos, jurídicos, médicos y éticos más relevantes. Ahora bien, y como también he defendido10 al hilo de la autonomía científica y académica del Derecho de Internet o Ciberderecho, se propone un Derecho de los Robots que a la vez adapte el Derecho general –en cuanto que previamente vigente–, y, en la medida de lo necesario, genere un Derecho nuevo como ya está sucediendo en los Estados Unidos al hilo del uso doméstico de drones y coches sin conductor por ejemplo. Conclusiones En definitiva, el Derecho ofrece herramientas para dar respuesta a este fenómeno disruptivo, si bien queda naturalmente mucho por hacer en un campo todavía incipiente en parte. Abordar estas cuestiones de manera organizada es una empresa colosal, la cual requiere un diálogo permanente y profundo que debe implicar a las disciplinas jurídicas, éticas y científicas si se quiere que sea fecundo y útil, para permitir a los diseñadores de robots evitar los problemas legales y éticos concernientes a los mismos. Y todo ello en una rama jurídica nueva, el Derecho de los Robots, que a la vez adaptará el Derecho general en vigor, y, en la medida de lo necesario, generará un Derecho nuevo que respete los principios estructurales de dignidad, libertad e igualdad en el marco del mantenimiento de la democraticidad total de los sistemas robóticos y de inteligencia artificial. Además, el marco jurídico del Derecho de los Robots requiere una actualización continua. En primer lugar, tiene que abordar los efectos secundarios inesperados que las intervenciones regulatorias destinadas a salvaguardar determinados derechos o valores puedan tener sobre otros. En segundo lugar, debe mantenerse alerta ante la necesidad de poner al día, ampliar o cambiar el marco a la luz de los cambios en la sociedad y los sistemas de valores que se producen a través del proceso de conformación mutua de tecnologías, procesos sociales y perspectivas normativas. A la postre, las notas definitorias comunes que desde el punto de vista tecnológico sustantivan y caracterizan a los sistemas robóticos y de IA, así como las situaciones disruptivas privativas que están alumbrando permiten justificar la autonomía académica y jurídica del Derecho de los Robots. Esta nueva rama, que deberá aprovechar las técnicas y avances del Derecho de Internet, debe estudiar los nuevos problemas de privacidad, responsabilidad civil y penal, consumo y seguridad entre otros que los robots y los sistemas de inteligencia artificial están empezando a plantear. Incluso no faltan quienes defienden la creación de una Comisión Federal de Robótica o Agencia pública equivalente que regule esta materia. Moisés Barrio Andrés Letrado del Consejo de Estado, Doctor en Derecho, Profesor de Derecho Digital, Arbitro y Abogado | @moisesbarrioa 1 Desde la antigüedad se construyeron máquinas con figura humana o de animales, como por ejemplo el pájaro mecánico de Arquitas de Tarento (año 400-350 a.C.). Posteriormente, cabe citar entre otros el caballero automático de Leonardo Da Vinci (año 1495) o la tocadora de laúd, obra de Giannello Della Torre (año 1540). 2 La primera vez que se utiliza la palabra robot es en 1929 en una obra de teatro checa. Por su parte, el término robótica se atribuye a Isaac Asimov, quien a finales de los años 30 del siglo pasado acuñó las leyes de la robótica. Sobre ello, puede verse detenidamente GARCÍA-PRIETO CUESTA, Juan, «¿Qué es un robot?», en BARRIO ANDRÉS, Moisés (dir.), Derecho de los Robots. Madrid, Wolters Kluwer, 2018, pág. 25 y ss. 3 La inteligencia artificial es más reciente. Arranca tras la Segunda Guerra Mundial, y el término se acuñó en 1956 en una conferencia de John McCarthy, donde Marvin Minsky, Claude Shannon y Nathaniel Rochester, entre otros, debatieron sobre la posibilidad de simular la inteligencia humana mediante máquinas. 4 En detalle, GARCÍA PORTERO, Roberto, «Los robots en la sanidad», en BARRIO ANDRÉS, Moisés (dir.), Derecho de los Robots. Madrid, Wolters Kluwer, 2018, pág. 203 y ss. 5 Lo he analizado recientemente en BARRIO ANDRÉS, Moisés, Delitos 2.0. Aspectos penales, procesales y de seguridad de los ciberdelitos. Madrid, Wolters Kluwer, 2018. 6 Por ejemplo, a principios de 2018 el número de robots trabajando en los almacenes de Amazon llegó a la cifra nada desdeñable de 80.000 (frente a sólo 1.000 en 2013). 7 Resolución del Parlamento Europeo, de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica (2015/2103(INL)). 8 Entre nosotros, puede verse SÁNCHEZ GARCÍA, Ángel Manuel, «Robótica y ética», en BARRIO ANDRÉS, Moisés (dir.), Derecho de los Robots. Madrid, Wolters Kluwer, 2018, pág. 229 y ss.. También DE ASÍS ROIG, Rafael, Una mirada a la robótica desde los derechos humanos. Madrid, Dykinson, 2015. 9 BARRIO ANDRÉS, Moisés (dir.), Derecho de los Robots. Madrid, Wolters Kluwer, 2018. 10 BARRIO ANDRÉS, Moisés, Ciberderecho. Bases estructurales, modelos de regulación e instituciones de gobernanza de Internet. Valencia, Tirant lo Blanch, 2018.