A finales de noviembre, los 193 Estados miembros de la UNESCO aprobaron un acuerdo que pasará a la historia por ser la primer Norma a nivel mundial que sienta las bases sobre la ética de la inteligencia artificial.

Este texto pionero, plasma los pilares para la infraestructura jurídica del futuro y el desarrollo seguro de la Inteligencia Artificial (IA). Los Estados Miembros de la UNESCO adoptan el primer acuerdo mundial sobre la ética de la inteligencia artificial.

El contenido de esta Norma establece principios fundamentales, tales como:

• Proporcionalidad e inocuidad. Las tecnologías de la IA no garantizan necesariamente, por sí mismas, la prosperidad de los seres humanos. En particular, los sistemas de IA no deberían utilizarse con fines de calificación social o vigilancia masiva.

• Seguridad y protección. Se propiciarán el desarrollo de marcos de acceso a los datos que sean sostenibles, respeten la privacidad y fomenten un mejor entrenamiento y validación de los modelos de IA que utilicen datos de calidad.

• Equidad y no discriminación. Los actores de la IA deberían promover la justicia social, la salvaguardar la equidad y la lucha contra todo tipo de discriminación.

• Sostenibilidad. La llegada de las tecnologías de la IA puede beneficiar los objetivos de sostenibilidad, pero se debe realizar una evaluación continua de los efectos humanos.

• Derecho a la intimidad y protección de datos. Estos derechos deben ser respetados, protegidos y promovidos a lo largo del ciclo de vida de los sistemas de IA.

• Supervisión y decisión humanas. Un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas.

• Gobernanza y colaboración adaptativas y de múltiples partes interesadas. La participación de las diferentes partes interesadas a lo largo del ciclo de vida de los sistemas de IA es necesaria para garantizar enfoques inclusivos de la gobernanza de la misma.

Estos principios sientan las bases a tener en cuenta en los distintos ámbitos de actuación, tales como, como la política, el medio ambiente, el gobierno de los datos o la educación.

La IA se encuentra cada día más impregnada en todos los campos de la sociedad y el sector sanitario no es ninguna excepción. De hecho, el impacto de los avances en IA ya están comenzando a dejarse notar en tecnologías como escáneres de detección temprana y modelos de predicción hasta la monitorización de pacientes con diagnósticos poco comunes. Cabe resaltar la importancia de la protección jurídica en el tratamiento de los datos sensibles, como los datos de salud. Atendiendo a esta necesidad de protección, ya se pronunció, en el mes de Junio la Organización Mundial de la Salud (OMS) quien publicó el primer informe mundial sobre inteligencia artificial (IA) aplicada a la salud y los seis principios rectores relativos a su concepción y utilización. La OMS publica el primer informe mundial sobre inteligencia artificial (IA) aplicada a la salud y seis principios rectores relativos a su concepción y utilización (who.int)

Es indudable que la IA ya se encuentra omnipresente en nuestro día a día con tecnología tan habitual como los asistentes de voz.

Por ello, ante este panorama tecnológico, la Unión Europa se encuentra trabajando bajo el paraguas del plan de estrategia digital denominado “Shaping Europe"s Digital Future,” habiendo presentado el 21 de abril su Propuesta de Reglamento sobre Inteligencia Artificial (“Propuesta de Reglamento IA”) EUR-Lex - 52021PC0206 - EN - EUR-Lex (europa.eu) para crear el marco normativo de esta tecnología que avanza a pasos agigantados.

Es evidente que la IA debe continuar creciendo, pero debe ir acompañada de la creación de una normativa sólida por parte de los Estados, dado los dilemas éticos que puede conllevar esta nueva tecnología, como afirmó de la Directora General de la UNESCO Audrey Azoulay: “El mundo necesita reglas para que la inteligencia artificial beneficie a la humanidad.”

Artículo de Carolina Sanabrias.