Desde que los avances en inteligencia fabricado han disparado las alarmas sobre su potencial y riesgos, ningún gobierno, habituado o patrón ha dejado de alertar sobre la necesidad de tomar medidas. Los meses posteriores al auge de ChatGPT vieron proliferar manifiestos apocalípticos, firmados por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han solicitado una pausa en su incremento, mientras que la Unión Europea ha acabado implementar la primera ley mundial para su regulación. No obstante, hay voces que claman por un esfuerzo aún viejo. Un centenar de destacadas personalidades, tanto nacionales como internacionales, el Manifiesto OFF. Este documento destaca la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más vanguardia y autónoma, e insta a emprender acciones más decididas y ambiciosas.
El manifiesto, que se ha presentado este miércoles en Madrid, ha sido firmado por personas procedentes del mundo de la civilización, las ciencias, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutor de PRISA Media, Carlos Núñez, el presidente de CaixaBank, José Ignacio Goirigolzarri, la directora de Tecnología, medios y Comunicación en la Universidad de Columbia, Anya Schiffrin, o el CEO de Atresmedia, Javier Bardají, entre otros. “Se comercio de una iniciativa independiente, que nació de la preocupación genuina acerca de tendencias que ponen de manifiesto la enorme vulnerabilidad del ser humano y de las instituciones frente a un despliegue tecnológico mal enfocado”, ha explicado el emprendedor y escritor Diego Hidalgo, coordinador del manifiesto. “Pretende ser un primer paso alrededor de una movilización de la sociedad civil. Nuestro objetivo es retomar el control sobre la tecnología digital, con la ayuda de la actividad pública y privada”.
En esta raya, Hidalgo ha recordado los riesgos para la vitalidad mental que supone poseer un móvil en una existencia temprana. “A Dios gracias, algunos de los temas que aborda el manifiesto ya empiezan a tener cierta presencia en el debate notorio. Uno de ellos tiene que ver con el menoscabo profundo de la vitalidad mental, en singular de los jóvenes de la que todavía nos cuesta tomar la medida. Las curvas que describen el malestar de los jóvenes están al encarecimiento, un encarecimiento absolutamente vertiginosa”, ha recordado. Según un estudio realizado por la plataforma Sapiens Lab, el hecho de que un escuincle posea un smartphone con 12 primaveras aumenta un 20% la probabilidad de sufrir depresión cuando sea adulto, con respecto a ingresar a él a los 18 primaveras, mientras que el 74% de las que disponen de él desde los 6 primaveras han sufrido síntomas depresivos. En España, el 88% de los jóvenes dispone de un smartphone a los 13 primaveras.
Ana Abnegado, abogada y vicepresidenta de la Asociación Europea para la Transición Digital, ha expresado durante la presentación sus perplejidades sobre la mercantilización de los datos. “Estamos en presencia de tecnologías que no son neutras. Pero sobre todo, estas empresas que mercantilizan con nuestros datos son extracomunitarias, y nos ven a los europeos como una gran almohadilla de datos con poder adquisitivo. Desgraciadamente, muchas veces no somos conscientes de que sufragar con datos es sufragar”, ha explicado.
Por otra parte de poner el foco en los riesgos que conllevan las grandes innovaciones como la inteligencia fabricado, el manifiesto expone una serie de medidas calificadas de urgentes para certificar que la tecnología se mantenga al servicio de la humanidad, y no en su contra. En este sentido, los firmantes abogan en primera instancia por la creación de leyes y regulaciones que limiten el uso indebido de la tecnología, especialmente en cuanto a vigilancia, privacidad y monopolios.
Entre las preocupaciones, se encuentra la posibilidad que los estados controlen excesivamente, y de forma generalizada, a los ciudadanos, a través del inspección facial o de otras tecnologías que no garanticen el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, la tecnología biométrica es ampliamente utilizada en los aeropuertos tanto por las aerolíneas como por las agencias gubernamentales a cargo de la seguridad de la aviación. “La videovigilancia con tecnología de inspección facial abre una caja de pandora que amenaza nuestra privacidad y anonimato en el espacio notorio. Supone un brinco diferencial alrededor de el rastreo sistemático de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, que recuerda que Indulto Internacional hizo un citación para prohibir el uso de los sistemas de inspección facial por considerarla una forma de vigilancia masiva.
José María Lassalle, exsecretario de Estado de Dietario digital y director del Centro de Humanismo tecnológico de ESADE, ha insistido sobre las implicaciones que pueden tener la IA en las guerras. “La inteligencia fabricado es poco que está tratando de ser algún, pero sin conciencia. Y esto está alterando los ejes de la capacidad humana para entender esta tecnología, y se visualiza de una forma muy clara en el ámbito de las armas letales”, ha dicho durante la presentación. “Su aplicación en las guerras, que es una experiencia humana desgraciada que nos ha acompañado desde nuestros orígenes como especie, puede ser disruptiva”.
Asimismo, el manifiesto propone la implementación de unas medidas regulatorias que sean “jurídicamente vinculantes”, con el objetivo de defender a los ciudadanos de los abusos que empresas privadas —y en algunos casos, los Gobiernos de estados autoritarios— pueden practicar. Esto incluye la prohibición de publicidad microfocalizada, la protección de neuroderechos a nivel constitucional, estatuto internacional contra armas letales autónomas y el “derecho a la desconexión”, que garantice el entrada a servicios en singular públicos de forma no digital.
Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se ha enfocado especialmente en el entrada a datos y la ética en el diseño de algoritmos, sugiriendo regulaciones para apuntalar su integridad. “Ahora mismos, es inalcanzable por parte de las empresas periodísticas que tradicionalmente han pulido información competir con las grandes plataformas tecnológicas”, ha insistido Herrero-Beaumont, que ha recomendado la prevención de la publicidad microfocalizada como medida crítica para evitar esta deriva.
Finalmente, los firmamentos han recomendado la implantación de iniciativas educativas para mejorar la alfabetización digital de la población, fomentando una comprensión más profunda de los impactos y limitaciones de la tecnología, así como el incremento de habilidades críticas para manejar la influencia tecnológica en la sociedad.
Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para percibir nuestra newsletter semanal.
Creditos a C. A. B.
Fuente
