Tecnología y Ciudadanía

Declaración de Zaragoza: por una deontología en el diseño y la interacción con los sistemas inteligentes

19/12/2019. El 12 de julio de 2019, dentro de la escuela de verano Conocimientos Híbridos, tuvo lugar en Etopia un debate y una reflexión compartida en un foro guiado por Sara Román, Manuel Bedia y Borja Espejo y formado por científicos/as, profesionales en este ámbito, ingenieros/as y humanistas sobre cómo aumentar la toma de conciencia acerca de los beneficios y riesgos involucrados en el desarrollo de la inteligencia artificial.

Como consecuencia nació la Declaración de Zaragoza, un documento que apela a la conciencia crítica y ética de los desarrolladores

La Inteligencia Artificial no es una tecnología más o una actividad que afecte sólo al ámbito académico y científico. Es una tecnología crítica para la transformación socioeconómica que asentará las bases de las nuevas economías digitales, por lo que su disponibilidad, su desarrollo o su carencia afectará al bienestar, prosperidad e igualdad en las sociedades futuras.

El impacto que tendrán estos dispositivos es innegable pero también lo es la preocupación que existe por su potencial uso prematuro o malintencionado. Esto nos obliga socialmente a constituir mecanismos de acción colectiva con los que controlar e impedir el uso inadecuado de estas tecnologías, desde su concepción y desarrollo hasta su ámbito y modo de explotación y uso.

El 12 de julio de 2019, dentro de la escuela de verano Conocimientos Híbridos, tuvo lugar en Etopia un debate y una reflexión compartida en un foro guiado por Sara Román, Manuel Bedia y Borja Espejo y formado por científicos/as, profesionales en este ámbito, ingenieros/as y humanistas sobre cómo aumentar la toma de conciencia acerca de los beneficios y riesgos involucrados en el desarrollo de la inteligencia artificial. El objetivo de este espacio de trabajo fue esbozar La Declaración de Zaragoza, un documento que nace con la pretensión de que cualquier persona que diseñe, implemente o utilice un dispositivo basado en tecnologías inteligentes, tenga la percepción de sus potencialidades y de sus peligros, y se comprometa con principios éticos basados en la prudencia y la responsabilidad.

Así, la Declaración de Zaragoza: por una deontología en el diseño y la interacción con los sistemas inteligentes resume en cinco puntos las principales problemáticas detectadas por este grupo de trabajo; desde los altos (e invisibles) costes energéticos que subyacen en este tipo de tecnología, hasta los derechos fundamentales que pueden verse vulnerados por los resultados de redes neuronales algorítmicas que no comprendemos cómo funcionan y que apelan, por ello mismo, a un enfoque interdisciplinar -con fuerte base humanística- cómo factor clave en la toma de decisiones basada en estos procesos.

En definitiva la Declaración de Zaragoza apela a una conciencia ética y crítica en los futuros desarrolladores y desarrolladoras de estas tecnologías como factor ineludible en la construcción de un futuro justo, armónico y sostenible en la relación humano-máquina.

Puedes descargártela en el siguiente enlace: https://www.fundacionzcc.org/estaticos/upload/0/001/1910.pdf

-----------------------------------------------------------------------------------------------------------------------------------------------------------------------

Artificial Intelligence is not just another technology or an activity that affects only the academic and scientific environment. It is a critical technology for socio-economic transformation that will lay the foundations of the new digital economies, so its availability, development or lack will affect welfare, prosperity and equality in future societies.

The impact of these devices is undeniable, but so is the concern about their potential for premature or malicious use. This obliges us socially to constitute mechanisms of collective action with which to control and prevent the inappropriate use of these technologies, from their conception and development to their scope and mode of exploitation and use.

On July 12, 2019, within the Conocimientos Híbridos summer school, a debate and shared reflection took place in Etopia in a forum led by Sara Román, Manuel Bedia and Borja Espejo and formed by scientists, professionals in this field, engineers and humanists on how to increase awareness about the benefits and risks involved in the development of artificial intelligence. The aim of this workspace was to outline The Zaragoza Declaration, a document that is born with the pretension that anyone who designs, implements or uses a device based on intelligent technologies, has the perception of its potentialities and dangers, and is committed to ethical principles based on prudence and responsibility.

Thus, the Zaragoza Declaration: for a deontology in the design and interaction with intelligent systems summarizes in five points the main problems detected by this working group; from the high (and invisible) energy costs that underlie this type of technology, to the fundamental rights that can be violated by the results of algorithmic neural networks that do not understand how they work and that appeal, for that very reason, to an interdisciplinary approach - with a strong humanistic base - as a key factor in decision-making based on these processes.

In short, the Zaragoza Declaration appeals to an ethical and critical conscience in the future developers of these technologies as an unavoidable factor in the construction of a fair, harmonious and sustainable future in the human-machine relationship.

You can download it here: https://www.fundacionzcc.org/estaticos/upload/0/001/1914.pdf