Actualmente, dijo Burns al medio estadounidense, es posible alinear a los modelos con una inteligencia inferior o similar a la de los humanos, sin bloqueo, “alinear un maniquí que en sinceridad es más inteligente que nosotros es mucho menos obvio”, dijo el entendido.
Un hito en la historia de la IA
El término superalineación se refiere a la capacidad de controlar los sistemas más evolucionados de la IA. No obstante, los especialistas en la ahora consideran que se alcahuetería de un asunto sensible, pues no es un campo tan desarrollado.
Sam Altman ha listo sobre el poder de la IA y los “riesgos catastróficos” que podría originar correcto a amenazas químicas o nucleares, pero hay expertos que confrontan esta postura y afirman que hay poca evidencia para realizar tales aseveraciones.
A pesar de ello, los miembros del equipo Superalignment consideran que la crecimiento de la tecnología seguirá a un ritmo tan acelerado que incluso se informa que el 20% del poder de cuenta de la empresa está reservado para este equipo.
“El progreso de la IA ha sido extraordinariamente rápido y puedo estabilizar que no se está desacelerando. Creo que muy pronto alcanzaremos sistemas de nivel humano, pero no nos detendremos allí, pasaremos a sistemas sobrehumanos”, afirmó Aschenbrenner, quien trabaja para hacer esos sistemas más seguros. “Es verdaderamente un problema para toda la humanidad, quizá el problema técnico más importante de nuestro tiempo”.
Para crear los marcos de control, la empresa está usand un enfoque donde una IA más “tonta” norte a un maniquí más reformista. Por ejemplo, GPT-2 a GPT-4, pues así se representa la igualdad de una inteligencia humana gobernando a una superinteligencia.
Con este enfoque, OpenAI prórroga que el maniquí menos capaz pueda retroalimentarse con el maniquí más esforzado para que entre ellos se controlen, lo cual podría tener un finalidad positivo sobre el control de las alucinaciones que tiene ahora la IA.
Junto a destacar que este asunto es tan importante en OpenAI, que la empresa lanzó un software de subvenciones de 10 millones de dólares para apoyar la investigación de la columna superinteligente que estará dirigida a laboratorios académicos, investigadores y estudiantes de posgrado.
Se prórroga que la compañía realice una conferencia académica acerca de este asunto a inicios del 2025, donde compartirán el trabajo de las investigaciones más relevantes, con el fin de discutir sobre el futuro de la superinteligencia.
Creditos a Expansión
Fuente
