“Ahora no puedes creer nada que venga de un dispositivo digital. Contrasta todo”, dice el periodista Robert Scoble en un tuit Con una supuesta imagen de Elon Musk de la mano de la política estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Este es uno de los muchos mensajes de alerta que he visto en los últimos días. Falso en Internet. La detención y eventual fuga de prisión de Donald Trump y las imágenes del papa Francisco con un sofisticado abrigo de plumas de Balenciaga, las imágenes falsas e hiperrealistas que circulan por las redes desde la semana pasada, muestran que la información entra en una nueva era.

La inteligencia artificial (IA) generativa ya está lo suficientemente desarrollada como para engañarnos, al menos a simple vista, incluso con técnicas complejas en manipulación digital y casi completa para usuarios expertos. Según los expertos, a día de hoy será difícil que dejemos de engañarnos por las pantallas. Blockchain se presenta como una solución compleja y de largo plazo, pero por ahora solo existe una solución de por vida: consultar fuentes, prestar atención a los detalles y dudar de todo.

Esta no es la primera vez que las imágenes generadas por la herramienta Midjourney AI se vuelven virales, pero ninguna ha sido tan generalizada como la del Papa de Balenciaga. Primero, porque parece más plausible que otras nociones de personas que tenían apariencias artificiales, como si fueran de un videojuego o con muchos filtros. Además, el contexto que rodea al pontífice puede indicar que probablemente se vestiría como tal.

sin embargo mientras hace zoom, se puede ver la forma de la oreja, la mano cercenada que no sostiene completamente la taza de café, la distorsión de los vasos o la crucifixión donde no se ve a Jesucristo tallado y la persona que lo sostiene sin cadena. Estos detalles indican que no se trata de una imagen real, sino de una IA defectuosa: un dispositivo que conoce muy bien la superficie de la realidad, pero no sabe cómo interactúan los objetos físicos o los humanos, todas las características del cuerpo. por ahora.

Sin embargo, son factores que pasan desapercibidos, sobre todo si estás Desplazarse Rápido y en formato móvil. En unas imágenes del falso arresto de Trump, que circularon en la red hace unos días, se evidencia que se trata de un Falso Merecían más atención. El primer aspecto también es relevante: se suponía que el arresto del ex presidente de los EE. UU. iba a ser cubierto por los principales medios de comunicación, y no fue así. En segundo lugar, como ya han afirmado algunos artistas, las herramientas generativas carecen de la capacidad de representar detalles del cuerpo humano. especialmente las manos, En algunas imágenes de Trump, las proporciones de su cuerpo pueden aparecer distorsionadas o fundidas y borrosas. En otros, se ven textos confusos.

Pero estos dispositivos están mejorando, según los expertos, y ya es hora de que dejen de fallar en estos detalles y comiencen a crear imágenes falsas que parecen extremadamente reales. La nueva versión de Midjourney ya es capaz de generar manos humanas realistas, lo que hasta ahora era la forma más fácil de identificar una imagen artificial.

La velocidad a la que se producen las mejoras es motivo de preocupación. Elena Verdu, miembro del Grupo de Investigación en Inteligencia Artificial y Robótica de la Universidad Internacional de La Rioja, explica a maldita.s que para algunas de estas recomendaciones solo un mes es tiempo suficiente para identificar imágenes falsas como obsoletas. Estamos ante una zozobra colectiva por el poder que estos dispositivos ejercen sobre la sociedad. Tanto es así, que los expertos en inteligencia artificial exigieron en una carta abierta el miércoles que el “descontrol” de ChatGPT, que también utiliza IA generativa, se detuviera durante seis meses.

El periodista Robert Scoble explica en tuit otras formas de identificar Deepfake. Lo primero que debe hacer es consultar con varias fuentes acreditadas y verificar su credibilidad. También evalúe el contexto. “Use el pensamiento crítico: analice la información recibida y considere el contexto, la consistencia y la lógica detrás de ella”, sugieren los autores.

Cuando el contenido se vuelve viral, también es útil verificar qué se puede ver en Internet. Por ejemplo, Google ofrece una herramienta de búsqueda inversa de imágenes en la que es posible cargar una imagen y verificar dónde ya se ha compartido y qué dice la gente al respecto. Si una foto supuestamente tomada por un reportero gráfico fue publicada por primera vez en línea por un extraño anónimo, hay una gran razón para sospechar.

Twitter también tiene la opción de catalogar contenidos como falsos, aunque hacerlo es necesario para que mucha gente sea cautelosa a la hora de publicar. según la revista veceshay un límite software en el mercado que afirman ser capaces de detectar falso profundo, Sin embargo, hay pocas o ninguna herramienta gratuita confiable disponible para el usuario final. Uno de los detectores alojados en la plataforma Hugging Face AI pudo decir “con un 69% de certeza” que la imagen del Papa fue creada por AI. Pero cuando se le presentó la supuesta foto de Musk con OAC, la herramienta no respondió que la foto era cierta en un 54 %.

Otros expertos hablan sobre cómo blockchain puede ayudar a combatirlos. Conocida como la tecnología detrás de las criptomonedas como bitcoin, el Foro Económico Mundial ha destacado su capacidad para proporcionar verificación de autenticidad y una cadena de custodia clara que puede rastrear y almacenar todo tipo de contenido, no solo financiero. controlar. La clave es que esta tecnología tiene un mecanismo que no permite cambiar el mensaje, ni el momento de publicación ni el origen. Pero esta no es una solución por el momento: de la teoría a la práctica, todavía queda un largo camino por recorrer.

El artículo señala que blockchain también tiene sus limitaciones. Si bien puede verificar la existencia de un documento, no puede autenticar la propiedad intelectual, por ejemplo. Además, para que sea verdaderamente eficaz para el usuario final, tendría que integrarse en los chips que ejecutan los teléfonos inteligentes y las computadoras. Algo que también depende de la cohesión entre comunidades internacionales, gobiernos, empresas y sociedad civil para dar forma a un modelo de gobernanza del consumo de contenidos digitales.

puedes seguir tecnologia del pais En Facebook Y Gorjeo o regístrate aquí para recibir nuestros periodico semanal,