La IA podría desestabilizar sociedades
Las IA generativas -capaces de producir texto, sonidos o imágenes en cuestión de segundos- progresaron exponencialmente en los últimos abriles y las próximas generaciones de estos modelos aparecerán en el verano.
Conllevan grandes esperanzas para el campo de la medicina y la educación, pero todavía podrían desestabilizar las sociedades, permitir la fabricación de armas o eludir el control humano, advierte el gobierno inglés.
Reuniones a puerta cerrada
A posteriori de este primer día dedicado a los peligros potenciales de una IA más vanguardia, se esperan representantes políticos de stop nivel el jueves en Bletchley Park.
Entre ellos, la presidenta de la Comisión Europea, Ursula von der Leyen, el secretario genérico de la ONU, Antonio Guterres, y la jefa del gobierno italiano, Giorgia Meloni.
El multimillonario estadounidense y patrón suerte Elon Musk, presente en la cumbre el miércoles, intercambiará con el primer ministro inglés Rishi Sunak el jueves por la perplejidad.
«Nuestro objetivo es establecer un situación para una mejor comprensión (…), y para que haya al menos un árbitro independiente que pueda observar lo que están haciendo las empresas de la IA y dé la señal de sorpresa si poco le preocupa», precisó Musk a la prensa.
«Mi esperanza para esta cumbre es que haya un consenso internacional sobre la comprensión auténtico de la IA vanguardia», añadió.
En una carta abierta publicada el martes, varios de los «padres fundadores» de esta tecnología, como Yoshua Bengio o Geoffrey Hinton, abogaron por «la elaboración y la ratificación de un tratado internacional sobre la IA«, para compendiar los riesgos «potencialmente catastróficos que los sistemas avanzados hacen pesar sobre la humanidad».
El duelo consiste en establecer salvaguardias sin obstaculizar la innovación para los laboratorios de IA y los gigantes tecnológicos.
La UE y Estados Unidos, a diferencia del Reino Unido, eligieron el camino de la regulación.
La semana pasada, varias empresas como OpenAI, Meta (Facebook) o DeepMind (Google) acordaron hacer públicas algunas de sus políticas de seguridad de la IA a petición del Reino Unido.
En una carta abierta dirigida a Rishi Sunak, un centenar de organizaciones, expertos y activistas internacionales lamentaron que esta cumbre se celebre a «puerta cerrada», dominada por los gigantes de la tecnología y con un llegada establecido para la sociedad civil.
Creditos a AFP
Fuente
