La UNESCO hace la 'Declaración Universal' de la Inteligencia Artificial. Tecnología - Tendencias Hoy

La UNESCO hace la ‘Declaración Universal’ de la Inteligencia Artificial. Tecnología

Sede de la UNESCO en ParísChesnot (Getty Images)

Los estados miembros de la UNESCO ahora tienen una guía sobre cómo “lidiar de manera responsable con los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas”. Ese es el objetivo de la Recomendación sobre la ética de la inteligencia artificial, una especie de declaración universal El uso de estos sistemas fue adoptado por 193 países de la organización durante la conferencia general celebrada este miércoles. La guía considera los principios que han impulsado el desarrollo de tecnologías controvertidas como el reconocimiento facial y también aborda temas menos controvertidos, como el impacto potencial de los sistemas de recomendación en la diversidad cultural o lingüística. “Este texto establece por primera vez un marco regulatorio global para el uso de la inteligencia artificial. Se basa en tres pilares: el respeto a los derechos humanos, el estado de derecho y la lucha contra la discriminación”, dijo a EL Paas la Directora General de la UNESCO, Audrey Azoulay. .

El documento de 30 páginas que Azoulay describe como un “texto histórico” no es legalmente vinculante, pero la UNESCO espera que se convierta en una referencia mundial para el desarrollo y uso ético de esta tecnología. En este contexto, muchos marcos y guías ya han sido desarrollados por organizaciones a varios niveles, desde iniciativas como la OCDE hasta propuestas como la Carta de Derechos Digitales adoptada por el gobierno español el 14 de julio. “La UNESCO hace un llamado a sus 193 estados miembros para que tomen todas las medidas necesarias para implementar este marco ético. La organización evaluará periódicamente su implementación, solicitando a los estados que informen sobre sus avances y prácticas en esta área. Estos resultados serán analizados por expertos y presentados al debate público de forma transparente ”, explica Azoulay.

Más tendencias:  Jamaica comienza a probar su CBDC en agosto

Grupos de expertos integrados por representantes de las universidades de Google, Facebook, Microsoft, Stanford y Nueva York, la Academia China de Ciencia y Tecnología, han participado en la redacción del documento, que comenzó a principios de 2020. En septiembre del año pasado se presentó un primer borrador y se abrió un plazo para que los países de la UNESCO presentaran sus comentarios y observaciones sobre el texto, que ha continuado en revisión hasta la última Conferencia General.

La clave de las recomendaciones recientemente adoptadas es la definición de los principios básicos que se relacionan con el desarrollo de algunas de las tecnologías más cuestionadas del momento, como los sistemas de reconocimiento facial. Según el documento adoptado por la UNESCO, que cuenta con países como China entre sus miembros, estos sistemas “no deben utilizarse con fines de vigilancia masiva o responsabilidad social”. En el caso de las armas autónomas, la subdirectora general de Antropología y Social de la UNESCO, Gabriela Ramos, explica en un comunicado que, si bien no hay una referencia explícita a los drones de uso militar o armas autónomas letales, la recomendación establece reglas básicas. Como tal ”. Las decisiones de vida o muerte no deben ser tomadas por sistemas de inteligencia artificial ”y se especifica que“ la última palabra debe ser humana ”en estos escenarios.

La recomendación también aborda escenarios menos extremos pero igualmente relevantes, como el impacto potencial del sistema de recomendación utilizado por la plataforma. transmisión Como Netflix o Spotify en diversidad cultural y lingüística. Un informe reciente de la Unión Europea explicó que los criterios que utilizan estos modelos para ofrecer nuevos contenidos “no son transparentes ni audibles” y probablemente basan sus decisiones en factores económicos que benefician a las plataformas. “Es menos probable que los artistas locales o el contenido cultural y creativo subrepresentado aparezcan en las recomendaciones de estos sistemas si su trabajo o espectáculo no es lo suficientemente atractivo”, dijo el informe. En este contexto, la guía publicada recientemente insta a los países a trabajar en una mejor comprensión y evaluación de los efectos positivos y potencialmente dañinos de los sistemas de recomendación.

Más tendencias:  Balance: así se comportó el mercado de las criptomonedas en julio

relación humano-robot

Una visión de un futuro hipotético pero cada vez más plausible donde las personas interactúan con robots y sistemas de inteligencia artificial capaces de reconocer y reproducir las emociones humanas requiere que el documento evalúe las implicaciones éticas de estas interacciones, particularmente cuando se establecen con menores. , “La exposición continua a la tecnología de inteligencia artificial, incluidos los algoritmos sociales, puede someter a niños y adultos a consecuencias negativas y manipuladoras para su salud mental”, continúa Ramos. Por otro lado, las personas deben estar informadas en todo momento de si están trabajando o sujetos a las decisiones tomadas por uno de estos sistemas. También se solicita que se establezcan mecanismos para acceder a las razones que orientan una decisión que afecte los derechos o libertades de los usuarios, así como formas de impugnarla o solicitar una revaloración.

Otros temas cubiertos en el marco de esta recomendación son la protección de la privacidad, la prevención de sesgos que perjudiquen el desempeño de estos sistemas, la promoción de un entorno más inclusivo en la región responsable del desarrollo de estas tecnologías, o incluso la privación ambiental del impacto de estos sistemas. Según un estudio publicado en la revista Naturaleza, el entrenamiento de algoritmos de inteligencia artificial puede producir alrededor de 300.000 kg de dióxido de carbono, el equivalente a 125 vuelos de ida y vuelta entre Nueva York y Beijing.

Además, el documento que acaba de aprobar la UNESCO exige que los gobiernos eduquen a sus ciudadanos sobre los derechos digitales que quiere proteger. “Al educar a una nueva generación de consumidores digitales sobre sus derechos y con las habilidades de pensamiento crítico que necesitan para navegar en el ámbito digital, los capacitaremos para que tengan en cuenta la gran tecnología y exigimos que la IA se desarrolle de esta manera. Humana y moral ”, sentencia Ramos.

Más tendencias:  Kiko Llaneras: No hace falta esperar al Metaverso: ya vive en el futuro. Tecnología

PUEDES SEGUIR EL PAÍS TECNOLOGÍA Facebook Y Gorjeo o regístrate aquí para recibir nuestro periodico semanal,

Deja un comentario