Paul Nemitz: «El mantra de que la ley mata la innovación es falso» | transformación digital | Tecnología

Paul Nemitz, en una imagen de archivo.

más información

Paul Nemitz es un perro viejo. Lideró la reforma de la ley de protección de datos de la Unión Europea (que trajo el actual Reglamento General de Protección de Datos), conversaciones con Facebook, Microsoft, Twitter y YouTube para un código de conducta para combatir el discurso de odio ilegal en línea. Ahora trabaja como Asesor Principal del Director General de Justicia y Consumidores de la Comisión Europea, después de seis años en el mismo departamento que el Director de Derechos Fundamentales de los Ciudadanos.

Nemitz también es miembro de la Comisión de Política de Internet y Medios del Partido Socialdemócrata de Alemania (SPD), fideicomisario de varias organizaciones y autor del libro. principio humano. Poder, libertad y democracia en la era de la inteligencia artificial. Quiere contrarrestar el poder de la gran tecnología, destruir la idea de que la regulación mata la innovación y avanzar hacia la gobernanza digital transatlántica. Así lo cuenta en una entrevista en vídeo a EL PAÍS, cuando pasó por el Laboratorio de Políticas de Derechos Fundamentales en Inteligencia Artificial y Sociedades Digitales que organiza el Club de Madrid.

Pregunta. ¿Es usted la persona detrás del Manifiesto Transatlántico? En defensa de la democracia y el Estado de derecho en la era de la inteligencia artificial. ¿Qué sostiene y qué tiene de especial en comparación con otras declaraciones en este sentido?

respuesta. El mero hecho de poder ponerse de acuerdo entre personas de diferentes disciplinas científicas y académicas del otro lado del Atlántico es un signo de esperanza. Partimos de la premisa de que vivimos en un entorno digital altamente centralizado en términos de infraestructura y capacidad para controlar el comportamiento de las personas. Sin embargo, la democracia se basa en principios exactamente opuestos: descentralización y división de poderes (legislativo, ejecutivo, judicial, prensa, educación y sociedad civil) y mecanismos correccionales.

La compensación de poderes se ejerce en todos estos frentes y debemos garantizar que dicha compensación se pueda hacer de manera efectiva. El estado está a cargo de hacer esto, que tenemos que volver a poner en el Centro. En el Manifiesto hemos identificado 17 áreas muy específicas en las que creemos que existe un potencial de acción conjunta entre Estados Unidos y Europa en áreas como competencia, impuestos, gobernanza de datos, transparencia, derechos humanos, seguridad nacional. ..

pag. ¿Quién sustenta estos poderes correctivos?

R. Todo lo que dicen que quieren sumar: Facebook, Google, Microsoft, Amazon … Por ejemplo, Google y Facebook están centralizando la mayor parte de los nuevos ingresos publicitarios. En línea Tomando su dinero de la prensa. Ahora, de una manera muy «suave» [nótese el tono irónico]Se supone que están haciendo un programa para devolver una parte de ese dinero a los medios, pero en realidad crea dependencia y control.

Por otro lado, en el ámbito académico, es muy difícil encontrar una institución que estudie el impacto social de Internet, que no esté recibiendo financiación de estas empresas de una forma u otra. Su ubicuidad no se limita a la tecnología: con su dinero llegan a todos los lugares donde la opinión pública se basa en la tecnología y en Internet.

pag. ¿Cómo se puede arreglar? ¿Qué está en juego si esto no se logra?

R. Dos principios importantes. La primera es que en una democracia, el proceso democrático debe tener prioridad sobre los mercados y la tecnología. Una de las formas más innovadoras de garantizar la primacía es mediante leyes vinculantes cuyo cumplimiento pueda garantizarse.

El segundo principio es que tenemos que restaurar la democracia, ya que la superación de esta crisis plantea dudas sobre si es el mejor sistema para abordar los temas importantes de nuestro tiempo. Grandes empresas de Internet y el impacto de la inteligencia artificial [IA] Nuestra vida es una de ellas. Internet no puede estar en un solo lugar sin democracia.

pag. Internet es global, al igual que las grandes empresas tecnológicas. ¿Es posible democratizar una coalición multipartidista?

R. Si la pregunta es si podemos tener un acuerdo multilateral global vinculante a nivel internacional sobre IA que sea lo más inclusivo posible, entonces tenemos que ser realistas. Tenemos que preguntarnos cuáles son los problemas nucleares en los que estarían de acuerdo un gran número de gobiernos. En mi opinión, hay dos: gobernanza y autodeterminación.

Necesitamos asegurarnos de que la IA no se salga de control: garantizar la supremacía del hombre y la democracia sobre la tecnología. Requiere reglas y responsabilidades para evitar que los individuos y la sociedad se conviertan en objeto del control de las máquinas. Creo que es posible que el mundo esté de acuerdo con estos principios, por una cuestión de intereses compartidos: mantener el dominio de los estados y usar la tecnología como su herramienta en lugar de convertirse en la herramienta de los humanos. . Este sería el fin de la naturaleza humana.

pag. Incluso China ha comenzado a regularlo.

R. Esto se debe precisamente a que el poder de las grandes corporaciones es tan grande que es un problema para la gobernabilidad, y la gobernabilidad es un interés común de la democracia y la autocracia, como es necesario en cualquier tipo de estructura estatal.

pag. Anteriormente se había referido a las leyes como un mecanismo «innovador» para garantizar la primacía de la democracia. Muchos argumentan que, lejos de eso, la regulación inhibe la innovación.

R. El mantra de que la ley mata la innovación es falso. Este es el mito más simple y engañoso en cualquier discusión sobre regulación. La historia muestra que la regulación sirve a la innovación. Por ejemplo, la regulación de seguridad garantiza que la tecnología sea aceptable para la sociedad y alienta a las empresas a innovar para aumentar la seguridad y reducir su costo. Si no tuviéramos una agenda de políticas públicas, no tendríamos un entorno para el avance de la innovación tecnológica. A diferencia del mercado, la legislación crea incentivos para innovar en áreas que sirven al interés público. También redistribuye recursos, incluso a empresas privadas.

Quienes hablan de desarrollar la IA para el bien común no pueden al mismo tiempo decir que no quieren la ley. Cuando hablamos de la regulación como barrera a la innovación, debemos entender una vez más que el derecho es un medio para expresar lo que la democracia busca lograr, dar forma a la sociedad. Por tanto, debe prevalecer sobre los intereses empresariales y el modelado social guiado por la tecnología.

pag. No hay ningún gigante tecnológico que se precie que no tenga una lista de principios éticos de desarrollo de la IA, ya sea que la sigan o no. Abogas por seguir adelante.

R. Todas las cuestiones importantes relacionadas con el cumplimiento de los derechos fundamentales en una democracia deben ser tratadas por el Parlamento. Este principio de inevitabilidad también debería aplicarse a los límites entre lo que puede entrar en el ámbito de la moralidad y las normas que pueden aplicarse con legitimidad democrática.

Si reconocemos que AI representa un alto riesgo contra los derechos fundamentales o la democracia, por ejemplo haciendo posible la micro-división y manipulación de personas en los procesos electorales, tenemos la obligación legal de tomar las medidas necesarias para evitar que esto suceda. y también para evitar consecuencias no deseadas o usos no intencionales de estas tecnologías, de modo que las personas que las crearon y comercializaron tienen obligaciones legales.

pag. Hablando de obligaciones legales, ¿qué opinas de la reciente multa de 225 millones de euros impuesta a WhatsApp por la Comisión de Protección de Datos de Irlanda (DPC) por no informar a sus usuarios sobre cómo compartió datos con Facebook? A pesar de recibir miles de quejas cada año, se han recibido quejas por inacción de DPC. Además, la DPC se vio obligada a aumentar el monto de la multa, ya que inicialmente tenía previsto aumentarla a 50 millones.

R. Europa es una construcción compleja y las autoridades de protección de datos de algunos países deben entender que son agentes de interés europeo. No se les puede considerar servidores de intereses corporativos o nacionales. Tus decisiones con respecto a empresas como Google o Facebook afectan a ciudadanos de toda Europa.

Además, me gustaría recordar que las multas más duras en este sentido se han dado en Estados Unidos, específicamente la de $ 5 mil millones contra Facebook por parte de la Comisión Federal de Comercio. Es injusto y erróneo decir que los europeos van en contra de las empresas estadounidenses. América y Europa comparten problemas con estas empresas. Es por eso que necesitamos uniformidad en la gobernanza y la ley como actores a favor de la democracia para abordar los problemas abiertos con estas corporaciones.

Tenemos que afinar la solidaridad de gobiernos y parlamentos a la luz del enorme poder que han acumulado estas empresas. Esto significaría un regreso a la democracia en el sector tecnológico, donde muchos habían pensado durante mucho tiempo que la ley debería estar ausente. Creo que podremos hacerlo. ¿Qué tenemos para esto?

PUEDES SEGUIR EL PAÍS TECNOLOGÍA: Facebook Y Gorjeo o regístrate aquí para recibir nuestro periodico semanal.

Deja un comentario