¿Por qué nos hemos creído la foto del Papa con el sobretodo blanco? | Tecnología

“Ya no puedes creer en NADA que provenga de un dispositivo digital. Contrástalo todo”, dice el periodista Robert Scoble en un tuit que acompaña a una presunta imagen de Elon Musk cogiendo la mano de la política estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Es uno de los muchos mensajes de alerta que se han conocido en unos días llenos de fakes en internet. Imágenes de Donald Trump arrestado y su eventual huida de la mazmorra y del Papa Francisco con un sofisticado sobretodo de plumas de Balenciaga, las imágenes falsas e hiperrealistas que circulan en las redes desde la semana pasada han mostrado que la información entra en una nueva era.

La inteligencia sintético (IA) generativa ya está suficientemente desarrollada para hacernos caer, al menos a simple olfato, en unos bulos que hasta casi nadie requerían de tecnologías complejas y usuarios expertos en manipulación digital. Hoy, predisponer que seamos engañados por las pantallas será cada vez más difícil, según los expertos. El blockchain se presenta como una opción compleja y a espléndido plazo, pero por ahora no hay más que un remedio de toda la vida: comprobar las fuentes, estar atento a los detalles y dudar de todo.

No es la primera vez que las imágenes generadas por la aparejo de IA Midjourney se han vuelto virales, pero ninguna se ha difundido tanto como el Papa de Balenciaga. Primero, porque parece mucho más verosímil que los demás supuestos de personas que tenían un aspecto sintético, como si fuera de un videojuego o con muchos filtros. Todavía porque el contexto que rodea al pontífice puede suponer que quizá se vestiría de tal guisa.

Sin secuestro, al hacer teleobjetivo, se puede notar el tamaño de la oreja, la mano cortada que no está del todo agarrando la taza de café, la deformidad de las antiparras o el crucifijo donde no se ve a Dios esculpido y sin parte de la condena que lo sostiene. Estos detalles indican que no es una fotografía actual, sino que matizan los fallos de la IA: una aparejo que conoce proporcionadamente la superficie de la efectividad, pero no cómo interactúan los objetos físicos ni todas las características del cuerpo humano. Al menos por ahora.

Aun así, son factores que pasan desapercibidos, sobre todo si se está escroleando rápido y en el formato del móvil. En algunas imágenes del impostor arresto de Trump, que circularon en las redes unos días antiguamente, las evidencias de que se comercio de un fake fueron más notables. El primer aspecto igualmente es contextual: la detención del expresidente estadounidense sería portada en los grandes medios de comunicación, y no lo fue. Segundo, como ya habían afirmado algunos artistas, las herramientas generativas carecen de la astucia de representar detalles del cuerpo humano, especialmente las manos. En algunas imágenes de Trump, las proporciones de su cuerpo pueden estar distorsionadas o incluso derretidas y hay un aspecto nebuloso. En otras, se observan textos distorsionados.

Pero estas herramientas están mejorando y es cuestión de tiempo que dejen de abortar en esos detalles y pasen a crear imágenes falsas que parecen extremamente reales, según los especialistas. La nueva lectura del Midjourney ya es capaz de crear manos humanas realistas, eliminando lo que hasta ahora era la forma más practicable de identificar una imagen sintético.

La velocidad a la que se producen las mejoras es lo que genera inquietud. Elena Verdú, miembro del montón de investigación Inteligencia Sintético y Robótica de la Universidad Internacional de La Rioja, ha explicado a Maldita.es que tan solo un mes es suficiente para que queden obsoletas algunas de estas recomendaciones para identificar a imágenes falsas. Estamos en presencia de una preocupación colectiva sobre el poder que esas herramientas ejercen sobre la sociedad. Tanto es así, que expertos en inteligencia sintético reclamaron el miércoles en una carta abierta que se frenara seis meses la “carrera sin control” de los ChatGPT, que igualmente utiliza IA generativa.

El periodista Robert Scoble explica en el tuit otras formas de poder identificar los deepfakes. Lo primero es contrastar con múltiples fuentes, de buena reputación, y demostrar su credibilidad. Todavía valorar el contexto. “Use el pensamiento crítico: analice la información que recibe y considere el contexto, la consistencia y la razonamiento detrás de ella”, sugiere el autor.

Cuando el contenido se viraliza, igualmente sirve comprobar lo que se puede ver en internet. Google, por ejemplo, proporciona una aparejo de búsqueda inversa de imágenes, dónde es posible cargar una foto y examinar dónde ya se ha compartido y qué dice la multitud al respecto. Si una foto supuestamente tomada por un fotoperiodista fue publicada por primera vez por desconocido secreto en las redes, es una gran razón para desconfiar.

En Twitter igualmente existe la opción etiquetar un contenido como impostor, aunque es necesario que mucha multitud lo haga para que haya un alerta en la publicación. Según recopila la revista Times, existe un paipay de software en el mercado que dicen ser capaces de detectar a los deepfakes. Sin secuestro, hay pocas herramientas gratuitas y fiables, o que no están disponibles para el adjudicatario final. Uno de los detectores, que está alojado en la plataforma de IA Hugging Face, pudo afirmar “con un 69 % de certeza” que la imagen del Papa fue generada por IA. Pero cuando se le presentó la presunta imagen de Musk con OAC, la aparejo falló al contestar que la foto era 54% verdadera.

Otros expertos hablan de cómo el blockchain podría ayudar a combatirlos. Conocida por ser la tecnología detrás de las criptomonedas como Bitcoin, el Fórum Financiero Mundial apuntó su capacidad de proporcionar una acometividad de la autenticidad y una condena de custodia clara que “la hace potencialmente eficaz” para rastrear y comprobar todo tipo de contenido, no solo financieros. La esencia es que esta tecnología tiene un mecanismo que no permite la perturbación del mensaje, ni del momento de publicación o el origen. Pero no es una opción para el presente: de la teoría a la ejercicio, todavía queda un espléndido repaso.

El artículo señala que el blockchain igualmente tiene sus limitaciones. Mientras que es capaz de demostrar la existencia de un documento, no puede probar la propiedad intelectual, por ejemplo. Encima, para que sea positivamente efectiva para el adjudicatario final, deberá integrarse en los chips que alimentan los teléfonos inteligentes y los ordenadores. Poco que depende igualmente de una cohesión entre las comunidades internacionales, los gobiernos, las empresas y la sociedad civil para dar forma a un maniquí de gobernanza al consumo de contenido digital.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para acoger nuestra newsletter semanal.