Las principales compañías de inteligencia químico (IA) han anunciado la creación de un fondo dedicado a la seguridad de los desarrollos en ese campo, para apoyar a investigadores independientes que creen herramientas para evaluar y probar los modelos más potentes. Anthropic, Google, Microsoft y OpenAI ya habían creado la ordenamiento Frontier Model Forum, que ahora recibe sus primeros fondos y el proclamación de un director ejecutante.
La financiación original es de 10 millones de dólares. Todas estas empresas se mueven en valoraciones e inversiones que rondan los miles de millones de dólares: solo Microsoft invirtió en OpenAI 10.000 millones. Anthropic está en conversaciones para acoger más de 3.000 millones de Google y Amazon.
Las empresas creen que así cumplirán parte de los compromisos firmados con la Casa Blanca sobre crear una IA responsable: “A principios de este año, los miembros del Foro firmaron compromisos voluntarios de IA en la Casa Blanca, que incluían el compromiso de suministrar el descubrimiento por parte de terceros y la notificación de vulnerabilidades en nuestros sistemas de IA. El Foro considera que el Fondo de Seguridad de la IA es una parte importante para cumplir este compromiso al proporcionar financiación a la comunidad externa para evaluar y comprender mejor los sistemas más avanzados”, dice su nota de prensa.
El Forum todavía ha notorio como nuevo director ejecutante a Chris Meserole, que viene del think tank Brookings Institution. “Los modelos de IA más potentes son muy prometedores para la sociedad, pero para emplear su potencial necesitamos comprender mejor cómo desarrollarlos y evaluarlos de forma segura. Estoy entusiasmado de admitir ese desafío con el Forum”, ha dicho Meserole.
Estos modelos, cada vez más sofisticados, tienen capacidades que pueden ser desconocidas por la empresa que los crea. Este fondo es un modo de acoger poco de ayuda desde fuera para conocer posibles impactos negativos.
Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para acoger nuestra newsletter semanal.
Creditos a EL PAÍS
Fuente
