Italia ha entregado un paso para poner cerco a la inteligencia químico. En pleno auge de esta tecnología, Roma ha bloqueado este viernes, “con intención inmediato” la aparejo ChatGPT, el chatbot inteligente capaz de fingir y procesar conversaciones humanas y que pertenece a la tecnológica estadounidense OpenAI, a la que el país transalpino acusa de no respetar la ley de protección de datos de los consumidores. La suspensión se levantará cuando demuestre que cumple la legislatura italiana sobre privacidad.
El Avalista italiano para la Protección de Datos Personales, una autoridad administrativa independiente que vela por la protección de datos de los usuarios y consumidores, considera que la plataforma recoge datos de los usuarios de forma ilegal y ha amplio una investigación para esclarecer el funcionamiento preciso de esta aparejo y determinar si ha cometido una infracción.
El organismo italiano asegura que este chat, el más conocido de la emergente inteligencia químico generativa, sufrió el pasado 20 de marzo una pérdida de datos (o violación de datos) sobre sus usuarios y las conversaciones que mantienen con la máquina y la información de suscripción de sus abonados.
El Avalista italiano ha criticado, a través de un comunicado, “la errata de información a los usuarios y a todas las partes interesadas” sobre el proceso de recogida y dirección de datos privados de la plataforma. Y denuncia “la desaparición de pulvínulo jurídica que justifique la recogida y almacenamiento masivos de datos personales con el fin de ‘entrenar’ los algoritmos que gestionan el funcionamiento de la plataforma”.
La autoridad italiana alega, basándose en “las comprobaciones efectuadas” que la información facilitada por ChatGPT “no siempre se corresponde con los datos reales”, lo que según el fiador “da lado a un tratamiento inexacto de los datos personales”.
Por posterior, Italia lamenta “la desaparición de todo tipo de filtro” en la comprobación de la antigüedad de sus usuarios, a pesar de que el servicio esté dirigido a mayores de 13 primaveras. Y reprueba “la exposición de los menores a respuestas totalmente inadecuadas con respecto a su nivel de progreso y autoconocimiento”.
Italia ha pedido a OpenAI que comunique en un plazo de 20 días las medidas adoptadas para dar cumplimiento a la petición del Avalista o, de lo contrario, podrá desavenir una punición de hasta 20 millones de euros o hasta el 4% del prominencia de negocios anual universal.
Guido Scorza, miembro del consejo de la autoridad de protección de datos, ha censurado en una entrevista con el diario La Repubblica “la errata de información sobre el tratamiento de los datos personales de los usuarios” que ofrece la empresa estadounidense. Y ha hablado de los riesgos que entrañan este tipo de herramientas: “Con ChatGPT y los chatbots mantenemos conversaciones, y en estas conversaciones a menudo tendemos a compartir gran parte de nuestras vidas. Puedes preguntar cuándo nació Paolo Rossi y obtener una respuesta. Esto son datos personales. Cada pregunta sobre la vida de las personas es un tratamiento de datos. Por no departir de los que manejo erróneamente”, indica. Y pone un ejemplo: “Si le interpelo al chatbot cuándo se afilió Guido Scorza al colegio de Garantes de la Privacidad me dice que en 2016. Pero yo me colegié en 2020. Adicionalmente de tratamiento de datos ilícito, se da el caso de que el tratamiento en muchos casos es inexacto”.
Scorza asegura que Italia ha actuado de forma autónoma, porque OpenAI no tiene sede en Europa, por lo que queda fuera de los procedimientos de cooperación de la UE, pero auspicia “un debate a nivel europeo para ver si se puede cooperar y representar conjuntamente y cómo”.
El uso de la inteligencia químico cada vez es más frecuente y por ello la Unesco ha urgido a los países que apliquen “sin dilación” el Situación Ético Mundial sobre esa tecnología, que los 193 Estados miembros adoptaron de forma coincidente en 2021 y que contiene orientaciones para maximizar los beneficios de la IA y sujetar los riesgos que esta conlleva. “El mundo necesita normas éticas más estrictas para la inteligencia químico: este es el gran duelo de nuestro tiempo”, ha señalado la directora militar de la Unesco, Audrey Azoulay.
Hace unos días, el fundador y multimillonario dueño de Tesla, Elon Musk, y más de 1.000 investigadores tecnológicos, entre los que se encuentran, entre otros, el cofundador de Apple, Steve Wozniak; Jaan Tallin, cofundador de Skype, encima de ingenieros de Meta o Microsoft hicieron un citación para pausar el progreso de inteligencias artificiales avanzadas durante al menos seis meses. Señalan que el fin es frenar lo que han denominado “una peligrosa carrera que está llevando al progreso de modelos más impredecibles y con capacidades cada vez mayores”. “Los sistemas de inteligencia químico pueden suponer un profundo peligro para la sociedad y la humanidad. Por desgracia, no se está desarrollando con el nivel de planificación y cuidado adecuado”, apuntan en su misiva.
En Estados Unidos varias organizaciones han pedido además la suspensión de ChatGPT por escamarse de estos experimentos con inteligencia químico.
Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para cobrar nuestra newsletter semanal.
Creditos a Lorena Pacho
Fuente