La útil conversacional ChatGPT impulsó una revolución de la inteligencia químico (IA), pero además provocó advertencias de especialistas de que estos programas podrían inundar internet de desinformación e influir en la valor de los votantes.
En presencia de la celebración de numerosas elecciones este año en países como Estados Unidos, India y Gran Bretaña o en otros más pequeños como Uruguay, OpenAI declaró el lunes que no permitirá que su tecnología -incluidos ChatGPT y el procreador de imágenes DALL-E 3- sean utilizados en campañas políticas.
Queremos asegurarnos de que nuestra tecnología no se use para socavar» procesos democráticos
OpenAI en un blog
«Todavía estamos trabajando para comprender la capacidad de nuestras herramientas para la persuasión personalizada. Hasta que sepamos más, no permitimos construir aplicaciones para campañas políticas y grupos de presión», añadió la firma.
Desinformación, un aventura
La desinformación, incluida la generada por IA, es uno de los mayores riesgos mundiales a corto plazo y podría suscitar perjuicios para gobiernos recién elegidos en las principales potencias económicas, advirtió la semana pasada el Foro Crematístico Mundial.
Según los expertos, el temor a la desinformación electoral comenzó hace abriles, pero el acomodaticio llegada a potentes generadores de texto e imágenes basados en IA aumentaron la amenaza, especialmente si los usuarios no pueden distinguir fácilmente si el contenido es copiado o fue manipulado.
Herramientas de Open IA
OpenAI informó que prepara herramientas que hagan más confiables los textos generado por ChatGPT, así como ofrecer a los usuarios la posibilidad de detectar si una imagen ha sido creada con DALL-E 3.
«A principios de este año implantaremos las credenciales digitales de la Coalition for Content Provenance and Authenticity (Coalición para la Autenticidad y Procedencia de los Contenidos), un enfoque que codifica los detalles sobre la procedencia de los contenidos mediante criptografía», declaró la empresa.
La coalición, además conocida como C2PA, pretende mejorar la identificación y rastreo de contenidos digitales. Entre sus miembros figuran grandes empresas como Microsoft, Sony, Adobe y las japonesas especializadas en imagen Nikon y Canon.
Según OpenAI, el ChatGPT dirigirá a los usuarios a sitios web autorizados cuando se le planteen preguntas de procedimiento sobre las elecciones estadounidenses; por ejemplo, dónde sufragar.
«Las conclusiones de este trabajo servirán de pulvínulo para nuestro enfoque en otros países y regiones», afirmó la empresa. Acotó que DALL-E 3 cuenta con «guardavallas» para impedir que se generen imágenes de personas reales, incluidos candidatos.
Creditos a AFP
Fuente
