Ética en la IA: Hacer realidad el lema educativo "nadie se queda atrás"

🤖 Llamado de Roma por la Ética en la IA

Roma, 28 de febrero de 2020

💡 INTRODUCCIÓN

La inteligencia artificial (IA) está generando cambios profundos en nuestras vidas, y continuará haciéndolo. La IA ofrece un enorme potencial para mejorar la convivencia social y el bienestar personal, aumentar nuestras capacidades y facilitar muchas tareas de manera más eficiente. Sin embargo, estos resultados no están garantizados.

Las transformaciones actuales no son solo cuantitativas, sino cualitativas, porque afectan la forma en que realizamos tareas y cómo percibimos la realidad y la naturaleza humana misma, influyendo en nuestros hábitos mentales e interpersonales.

La nueva tecnología debe ser investigada y producida respetando la dignidad inherente de cada persona y todos los entornos naturales, teniendo en cuenta las necesidades de los más vulnerables. El objetivo no es solo asegurar que nadie sea excluido, sino también expandir áreas de libertad que podrían verse amenazadas por el condicionamiento algorítmico.

Dada la naturaleza innovadora y compleja de las cuestiones planteadas por la transformación digital, es esencial que todos los actores involucrados trabajen juntos y que todas las necesidades afectadas por la IA estén representadas. Este Llamado es un paso adelante con miras a crecer con un entendimiento común y buscar un lenguaje y soluciones que podamos compartir. Basándonos en esto, podemos reconocer y aceptar responsabilidades que tengan en cuenta todo el proceso de innovación tecnológica, desde el diseño hasta la distribución y el uso, fomentando un compromiso real en diversos escenarios prácticos.

A largo plazo, los valores y principios que seamos capaces de inculcar en la IA ayudarán a establecer un marco que regule y actúe como punto de referencia para la ética digital, guiando nuestras acciones y promoviendo el uso de la tecnología en beneficio de la humanidad y el medio ambiente.

Ahora más que nunca, debemos garantizar una perspectiva en la que la IA se desarrolle con un enfoque no en la tecnología, sino en el bien de la humanidad y del medio ambiente, de nuestro hogar común y compartido y de sus habitantes humanos, que están inextricablemente conectados. En otras palabras, una visión en la que los seres humanos y la naturaleza estén en el centro de cómo se desarrolla la innovación digital, apoyados en lugar de ser gradualmente reemplazados por tecnologías que se comportan como actores racionales pero que de ninguna manera son humanas.

Es hora de comenzar a prepararnos para un futuro más tecnológico en el que las máquinas tendrán un papel más importante en las vidas de los seres humanos, pero también un futuro en el que quede claro que el progreso tecnológico afirma la brillantez de la raza humana y permanece dependiente de su integridad ética.

⚖️ ÉTICA

Todos los seres humanos nacen libres e iguales en dignidad y derechos. Están dotados de razón y conciencia y deben actuar unos hacia otros con espíritu de hermandad (cf. Art. 1, Declaración Universal de Derechos Humanos). Esta condición fundamental de libertad y dignidad también debe ser protegida y garantizada al producir y utilizar sistemas de IA. Esto debe hacerse salvaguardando los derechos y la libertad de los individuos para que no sean discriminados por algoritmos debido a su "raza, color, sexo, idioma, religión, opinión política o de otra índole, origen nacional o social, propiedad, nacimiento u otra condición" (Art. 2, Declaración Universal de Derechos Humanos).

Los sistemas de IA deben ser concebidos, diseñados e implementados para servir y proteger a los seres humanos y al medio ambiente en el que vivimos. Esta perspectiva fundamental debe traducirse en un compromiso de crear condiciones de vida (tanto sociales como personales) que permitan a los grupos y a los miembros individuales esforzarse por expresarse plenamente cuando sea posible.

🌍 Para que el avance tecnológico se alinee con el verdadero progreso de la raza humana y el respeto por el planeta, debe cumplir 3 requisitos:

• ✅ Debe incluir a cada ser humano, sin discriminar a nadie
• ✅ Debe tener el bien de la humanidad y el bien de cada ser humano en su centro
• ✅ Debe ser consciente de la compleja realidad de nuestro ecosistema y caracterizarse por la forma en que cuida y protege el planeta (nuestro "hogar común y compartido") con un enfoque altamente sostenible, que también incluye el uso de la inteligencia artificial para asegurar sistemas alimentarios sostenibles en el futuro

Además, cada persona debe ser consciente cuando está interactuando con una máquina. La tecnología basada en IA nunca debe usarse para explotar a las personas de ninguna manera, especialmente a los más vulnerables. En cambio, debe usarse para ayudar a las personas a desarrollar sus habilidades (empoderamiento/habilitación) y para apoyar al planeta.

📚 EDUCACIÓN

Transformar el mundo a través de la innovación de la IA significa comprometerse a construir un futuro para y con las generaciones más jóvenes. Este compromiso debe reflejarse en un compromiso con la educación, desarrollando planes de estudio específicos que abarquen diferentes disciplinas en humanidades, ciencia y tecnología, y asumiendo la responsabilidad de educar a las generaciones más jóvenes. Este compromiso significa trabajar para mejorar la calidad de la educación que reciben los jóvenes; esta debe impartirse a través de métodos accesibles para todos, que no discriminen y que puedan ofrecer igualdad de oportunidades y trato. El acceso universal a la educación debe lograrse a través de principios de solidaridad y equidad.

El acceso al aprendizaje permanente debe garantizarse también para las personas mayores, a quienes se les debe ofrecer la oportunidad de acceder a servicios fuera de línea durante la transición digital y tecnológica. Además, estas tecnologías pueden resultar enormemente útiles para ayudar a las personas con discapacidades a aprender y volverse más independientes: la educación inclusiva también significa usar la IA para apoyar e integrar a todas y cada una de las personas, ofreciendo ayuda y oportunidades de participación social (por ejemplo, trabajo remoto para aquellos con movilidad limitada, apoyo tecnológico para aquellos con discapacidades cognitivas, etc.).

🎯 Reformas necesarias en educación:

• 📖 El impacto de las transformaciones provocadas por la IA en la sociedad, el trabajo y la educación ha hecho esencial renovar los planes de estudio escolares para hacer realidad el lema educativo "nadie se queda atrás"
• 🎓 Se necesitan reformas para establecer estándares altos y objetivos que puedan mejorar los resultados individuales
• 💻 Estos estándares no deben limitarse al desarrollo de habilidades digitales, sino centrarse en asegurar que cada persona pueda expresar plenamente sus capacidades
• 🤲 Trabajar por el bien de la comunidad, incluso cuando no haya un beneficio personal que obtener de esto

A medida que diseñamos y planificamos la sociedad del mañana, el uso de la IA debe seguir formas de acción que sean socialmente orientadas, creativas, conectivas, productivas, responsables y capaces de tener un impacto positivo en la vida personal y social de las generaciones más jóvenes. El impacto social y ético de la IA también debe estar en el centro de las actividades educativas sobre IA.

El objetivo principal de esta educación debe ser crear conciencia sobre las oportunidades y también las posibles cuestiones críticas planteadas por la IA desde la perspectiva de la inclusión social y el respeto individual.

🛡️ DERECHOS

El desarrollo de la IA al servicio de la humanidad y el planeta debe reflejarse en regulaciones y principios que protejan a las personas –particularmente a los débiles y desfavorecidos– y a los entornos naturales. El compromiso ético de todos los actores involucrados es un punto de partida crucial; para hacer realidad este futuro, los valores, principios y, en algunos casos, las regulaciones legales, son absolutamente indispensables para apoyar, estructurar y guiar este proceso.

Para desarrollar e implementar sistemas de IA que beneficien a la humanidad y al planeta mientras actúan como herramientas para construir y mantener la paz internacional, el desarrollo de la IA debe ir de la mano con medidas robustas de seguridad digital.

Para que la IA actúe como una herramienta para el bien de la humanidad y el planeta, debemos poner el tema de la protección de los derechos humanos en la era digital en el centro del debate público. Ha llegado el momento de cuestionar si las nuevas formas de automatización y actividad algorítmica requieren el desarrollo de responsabilidades más fuertes. En particular, será esencial considerar alguna forma de "deber de explicación": debemos pensar en hacer comprensibles no solo los criterios de toma de decisiones de los agentes algorítmicos basados en IA, sino también su propósito y objetivos. Estos dispositivos deben poder ofrecer a los individuos información sobre la lógica detrás de los algoritmos utilizados para tomar decisiones. Esto aumentará la transparencia, trazabilidad y responsabilidad, haciendo más válido el proceso de toma de decisiones asistido por computadora.

Deben fomentarse nuevas formas de regulación para promover la transparencia y el cumplimiento de principios éticos, especialmente para tecnologías avanzadas que tienen un mayor riesgo de impactar los derechos humanos, como el reconocimiento facial.

Para lograr estos objetivos, debemos partir desde el mismo comienzo del desarrollo de cada algoritmo con un “algor-ética”, es decir, un enfoque de ética por diseño. Diseñar y planificar sistemas de IA que podamos confiar implica buscar un consenso entre los responsables de las decisiones políticas, las agencias del sistema de las Naciones Unidas y otras organizaciones intergubernamentales, investigadores, el mundo académico y representantes de organizaciones no gubernamentales respecto a los principios éticos que deben incorporarse en estas tecnologías. Por esta razón, los patrocinadores del llamado expresan su deseo de trabajar juntos, en este contexto y a nivel nacional e internacional, para promover la “algor-ética”, es decir, el uso ético de la IA según lo definido por los siguientes principios:

1. Transparencia: En principio, los sistemas de IA deben ser explicables.
2. Inclusión: Las necesidades de todos los seres humanos deben ser tomadas en consideración para que todos puedan beneficiarse y todos los individuos puedan ser ofrecidos las mejores condiciones posibles para expresarse y desarrollarse.
3. Responsabilidad: Quienes diseñan y despliegan el uso de la IA deben proceder con responsabilidad y transparencia.
4. Imparcialidad: No crear ni actuar según sesgo, salvaguardando la equidad y la dignidad humana.
5. Confiabilidad: Los sistemas de IA deben ser capaces de trabajar de manera confiable.
6. Seguridad y privacidad: Los sistemas de IA deben funcionar de manera segura y respetar la privacidad de los usuarios.

Estos principios son elementos fundamentales de la buena innovación.

🌟 LOS 6 PRINCIPIOS DE LA ALGOR-ÉTICA

1️⃣ TRANSPARENCIA 🔍

Los sistemas de IA deben ser explicables

2️⃣ INCLUSIÓN 🤝

Las necesidades de todos los seres humanos deben ser consideradas para que todos puedan beneficiarse

3️⃣ RESPONSABILIDAD ✋

Quienes diseñan y usan la IA deben proceder con responsabilidad y transparencia

4️⃣ IMPARCIALIDAD ⚖️

No crear ni actuar según sesgos, salvaguardando la equidad y la dignidad humana

5️⃣ CONFIABILIDAD 💪

Los sistemas de IA deben funcionar de manera confiable

6️⃣ SEGURIDAD Y PRIVACIDAD 🔒

Los sistemas de IA deben funcionar de manera segura y respetar la privacidad de los usuarios

Estos principios son elementos fundamentales de la buena innovación.

✨ Roma, 28 de febrero de 2020 ✨