La inauguración del Centro Europeo de Transparencia Algorítmica (ECAT, por sus siglas en inglés) en Sevilla, la utensilio de la Comisión para brindar las cajas negras donde se ocultan los sistemas algorítmicos de las grandes plataformas de Internet, ha puesto de manifiesto que el conocimiento de cómo funcionan y el control de sus pertenencias sobre nuestra vida cotidiana son un asunto de Estado. En este contexto, España lidera el llamado sandbox regulatorio, un entorno de pruebas, que incluye el estudio de algoritmos, con el que se pretende probar la capacidad del futuro reglamento europeo sobre inteligencia industrial, el situación legal que se aplicará a ese tipo de sistemas computacionales. Una iniciativa que desarrolla la Secretaría de Estado de Digitalización e Inteligencia Fabricado, y que se integra en las políticas europeas que buscan promulgar de modo transversal los servicios digitales, como la recién aprobada Directiva de Servicios Digitales (DSA). “Estamos marcando un maniquí para el resto del mundo, se ha demostrado que la vía europea no es la tercera vía, sino la única posible para conseguir una inteligencia industrial más ética, humanística y torneo”, asegura su titular, Carme Artigas, en una entrevista concedida a EL PAÍS, casi nada tres semanas luego de que tuviera que hacer frente a un motín en su consejo asesor para la inteligencia industrial.
Pregunta. ¿Cómo van a integrarse el sandbox regulatorio y la Agencia Española de Supervisión de la Inteligencia Fabricado con el nuevo centro?
Respuesta. El centro europeo es un confirmación enorme para España en el rol de liderar el avance de una IA [inteligencia artificial] que sea más torneo, más ética y que integre unos principios y títulos que se deben defender en el mundo digital. Luego, que estén aquí los mejores investigadores y que las administraciones españolas tengamos más cercanía con su trabajo y además el sector privado, suma a las iniciativas que ya teníamos. El sandbox ya está en marcha y forma parte de la colaboración que ya teníamos con el JRC [siglas del Centro Común de Investigación, que alberga el ECAT] y vemos muchas similitudes entre el reglamento de IA y la DSA y, por consiguiente, allí vemos muchas sinergias.
P. ¿Cuándo podrán participar las empresas españolas en ese entorno de pruebas regulatorio?
R. Esperamos que ayer de un mes esté dinámico el Existente Decreto para invitar a participar a las empresas españolas y hemos fijado el mes de noviembre a ofrecer los primeros resultados, coincidiendo con el conferencia de la AIA [Alianza para la Inteligencia Artificial].
P. Hablaba de la importancia de desarrollar una IA más ética, pero ese compromiso ha sido cuestionado recientemente por varios miembros del Consejo Asesor de la IA y por ONG a raíz del acuerdo del Gobierno con el centro de investigación ADIA Lab, de Emiratos Árabes Unidos, un país donde no se respetan los derechos humanos y la ciencia está controlada por el Gobierno. ¿Calibró correctamente el Gobierno la repercusión que podía tener este acuerdo, teniendo en cuenta la incidencia que la IA puede tener en las libertades públicas?
R. No entiendo la polémica. Esto es una gran comunicación, son centros de investigación de primer nivel que eligen ubicarse en España, no en Francia o en Alemania. No hay ningún conflicto ético. Esto es una financiación, no para un gobierno, no para un centro, sino para los científicos españoles. Estamos apoyando a las universidades públicas españolas a que podamos financiar líneas de trabajo conjuntas a nivel internacional con cualquier centro de prestigio, de Emiratos Árabes, pero además recientemente el Instituto Tecnológico de Monterrey (México) además ha decidido ubicar su centro europeo en Oviedo. Una cosa son las relaciones diplomáticas, otra el acción directa y otra la ciencia.
P. Se cuestiona además que una andana de investigación de ese centro sea sobre el cambio climático y la sostenibilidad cuando el origen de los fondos de Emiratos Árabes es el petróleo.
R. El fondo soberano de ADIA está financiando la COP28 con Naciones Unidas. Si Naciones Unidas hace un acuerdo con un país, yo no voy a cuestionarlo. Nosotros no cuestionamos países, sabemos que como países tienen menos nivel de democracia que nosotros, nuestro país puede tener relaciones diplomáticas y comerciales con los países que considere oportuno. Nosotros estamos por apoyar a los científicos españoles y no hay nadie mejor que ayudar a la cambio democrática que trocar conocimientos como país.
P. ¿Está garantizada entonces la salvaguarda científica y ética de las investigaciones que se lleven a lado en ese centro que se abrirá en Ciñuela?
R. Es que se han cuestionado cosas que son incuestionables, como la desenvolvimiento de cátedra de científicos españoles ¿O algún pone en duda que un sabio castellano, si es que se siente mínimamente dirigido en su investigación, no va a vigorizar la mano y va a asegurar que ya no quiere colaborar más con ellos? Los científicos son los que tienen desenvolvimiento de atreverse.
P. Los miembros del Consejo Asesor y las ONG además cuestionan que no se les tenga suficientemente en cuenta en la toma de decisiones.
R. Son cosas distintas. Con el Consejo Asesor tenemos tres reuniones oficiales al año con la vicepresidenta [Nadia Calviño] y cada mes tenemos reuniones de trabajo y llamadas de mi equipo director. La relación es continua, lo que pasa es que es un entraña asesor que tiene muchas perspectivas y nunca hay consenso. Con las ONG fui yo la que pedí una reunión al mayor nivel y me preguntaron por el rol de la sociedad civil en el sandbox regulatorio y les trasladé que íbamos a crear un equipo de supervisión del sandbox, pero para que principio ese trabajo técnico es necesario que se apruebe primero el Existente Decreto Ley, que aún no se ha ratificado.
P. Recientemente, científicos, expertos y magnates de las tecnológicas han pedido una moratoria en el avance de la IA generativa, como ChatGPT. ¿Qué opina?
R. No estamos de acuerdo para nadie en que se paren la investigación y la innovación. Al contrario, lo que tiene que hacer es acelerarse para resolver los problemas que las empresas han creado. Hay que acelerar la innovación con límites. Pretender poner en el mercado un producto que no está perfecto, sin los mismos controles que tendría un coche o un medicamento, y decirle a la clan que lo pruebe y que vea dónde están los fallos para ver cómo lo mejoro, que es lo que ha hecho ChatGPT, es lo que no es correcto. ChatGPT ha ido desde la parte de la investigación a la de la comercialización demasiado rápido. Pero ha servido para crear conciencia de que la vía que estaba siguiendo Europa, defendiendo los derechos digitales, es la correcta.
P. ¿La regulación existente en Europa y el futuro reglamento europeo de IA son mecanismos suficientes para controlar el avance de la IA generativa?
R. Todo el conjunto: la legislatura europea de protección de datos, la DSA para el control del contenido ilegítimo, y el reglamento de IA puede atreverse que una IA generativa pueda entrar internamente de la categoría de algoritmos de peligro y se le aplicaría toda la supervisión algorítmica en cuanto que no sesga, no discrimina, no ofrece información falsa…
P. El reglamento se prevé que esté dinámico en 2025, pero hemos comprobado cómo ChatGPT se ha desarrollado rapidísimamente en cuatro meses. ¿No se corre el peligro de que al final las respuestas legislativas vayan siempre por detrás de la tecnología?
R. No, no. Lo que hay que hacer es cerrar el expediente constituyente. En el caso de la IA, se prevé que apruebe en enero de 2024 y por eso la importancia de la presidencia europea de que se vallado el expediente constituyente. A España le va a tocar cerrar el expediente constituyente de la utensilio europea de IA. Por eso se creó el sandbox, porque lo que no queremos es que cuando entre en vigor, tarde dos abriles en implementarse o que se pida una moratoria porque las empresas no están preparadas para aplicarlas. Por eso lo que hacemos es tan importante, porque estamos anticipando la puesta en marcha técnica y operativa de cosas concretas de la ley.
Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para aceptar nuestra newsletter semanal.
Suscríbete para seguir leyendo
Lee sin límites
Creditos a Eva Saiz Escolano
Fuente
