El cuartos impone su ley en OpenAI | Tecnología

La insólita crisis de OpenAI tiene los ingredientes de múltiples tramas cinematográficas. En una película de suspense, Sam Altman es el héroe: el líder quimérico despedido injustamente que vuelve a la empresa por ovación de los empleados. En otra de ciencia ficción, es el plebeyo: el directivo que entregó la inteligencia sintético a los intereses comerciales y provocó la desaparición de la humanidad. El despido y readmisión de Altman tienen sus raíces en la tensión entre los catastrofistas y los pragmáticos a cuenta de la inteligencia sintético, pero asimismo reflejan la pugna entre la concepción de OpenAI como una empresa sin humor de rendimiento y su avance como la start up más valiosa de Silicon Valley. En esa última batalla, el cuartos parece suceder impuesto su ley, al tiempo que los múltiples giros de guion prueban los problemas de gobernanza de la firma.

Walter Isaacson, biógrafo de Elon Musk, cuenta que la valor de fundar OpenAI surgió en una cena privada del fundador de Tesla con Sam Altman en Palo Stop (California), en pleno Silicon Valley. En aquel momento, Google encabezaba la carrera de la inteligencia sintético, pero Musk y Altman pensaban que lo hacía sin reparos morales sobre la seguridad y los potenciales riesgos para la humanidad. La idea original era crear un laboratorio de inteligencia sintético sin humor de rendimiento que diseñaría un software de código extenso e intentaría contrarrestar el creciente dominio de Google en el ámbito.

Musk y Altman ficharon como irrefutable director a un ingeniero de investigación de Google, Ilya Sutskever, con un salario de 1,9 millones de dólares más bonus. Eso provocó la ruptura de relaciones entre Musk y Larry Page, uno de los cofundadores de Google.

OpenAI se fundó como una ordenamiento sin humor de rendimiento a finales de 2015 con el objetivo proclamado de “construir una inteligencia sintético normal segura y beneficiosa para la humanidad”. Se lanzó con el objetivo de obtener 1.000 millones de dólares en donaciones. Tras varios primaveras la guarismo recaudada estaba en 130,5 millones, que sirvieron para financiar el funcionamiento de la ordenamiento y su trabajo exploratorio original. La superinteligencia es la que supera a la humana, asimismo es conocida como inteligencia sintético normal (AGI, por sus siglas inglesas).

Musk rompió con OpenAI en 2018, tras intentar que se integrase con los proyectos de inteligencia sintético de Tesla, a lo que Altman se negó. Entonces buscó cómo penetrar a más bienes. “Cada vez estaba más claro que las donaciones por sí solas no podrían compensar el coste de la potencia computacional y el talento necesarios para impulsar la investigación básica, poniendo en peligro nuestra comisión”, explican en la empresa,

Se creó una nueva estructura. Se mantenía la ordenamiento sin humor de rendimiento con su consejo como víscera rector de todo el género, pero nacía una nueva filial con capacidad para emitir acciones, contratar nuevos empleados y entender renta. Esa nueva empresa tiene sus beneficios limitados, está obligada a perseguir la comisión de la entidad sin humor de rendimiento y está controlada por ella “para investigar, desarrollar y desplegar la superinteligencia, de forma que se equilibre la comercialización con la seguridad y la sostenibilidad, en emplazamiento de centrarse en la mera maximización del beneficio”, según OpenAI.

La firma dejaba y sigue dejando claro que volver en ella es una postura “de stop peligro”. Los inversores pueden perder todo el cuartos sin obtener ningún retorno, advierte en su página web, que va todavía más allá: “Sería prudente considerar cualquier inversión en OpenAI Integral, LLC [la filial empresarial] con el espíritu de una donación, en el entendimiento de que puede ser difícil retener qué papel desempeñará el cuartos en un mundo post inteligencia sintético normal”.

La compañía establecía que el principal beneficiario debía ser la humanidad, no los inversores de OpenAI. Aun así, esa forma societaria fue suficiente para nacer a entender sumas multimillonarias. Inversores de renta peligro asimismo hicieron sus aportaciones en 2018 y poco posteriormente la firma llegó a un acuerdo clave con Microsoft. La empresa fundada por Bill Gates inyectó primero 1.000 millones de dólares como parte de un acuerdo en que se convertía en su socio tecnológico y de computación; luego otros 2.000 y finalmente llegó a un acuerdo por 10.000 millones adicionales, sin exigir representación en el consejo.

Microsoft tiene paso a licencias de propiedad intelectual y de comercialización de ciertos desarrollos, pero el consejo tiene la potestad que determinar que se ha aprehendido la inteligencia sintético normal y Microsoft no tendría derecho sobre el mismo.

Pese a las cautelas adoptadas, el modismo empresarial levantó suspicacias. Los hermanos Daniela y Dario Amodei, vinculados al movimiento del altruismo efectivo ―que pone el acento en los riesgos de la inteligencia sintético― dejaron OpenAI por sus diferencias con los acuerdos con Microsoft y con la dirección que estaba tomando y fundaron otra empresa de inteligencia sintético con sede en San Francisco, Anthropic, adyacente a otros antiguos empleados de OpenAI. Uno de los principales inversores iniciales en Anthropic fue Arboleda Research, la firma paralela de Sam Bankman-Fried, evidente culpable de diversos delitos por la caída del mercado de criptomonedas FTX. Anthropic ha terminado recurriendo a fondos de Google y Amazon para financiarse.

El propio Musk sigue sin aceptar muy adecuadamente aquel cambió de orientación de OpenAI. Según cuenta Isaacson en su hazañas, Musk retó a Altman a principios de este año a que justificara legalmente el cambio con los documentos fundacionales de OpenAI en la mano. Altman trató de demostrarle que todo era verdadero, pero no le convenció. “OpenAI fue creada como una empresa de código extenso (por eso le di el nombre de Open AI), sin humor de rendimiento para que sirviera como contrapeso de Google, pero ahora se ha convertido en una empresa de código cerrado y maximización de beneficios controlada en términos efectivos por Microsoft”, dijo, según Isaacson.

La herida de Musk, de hecho, no ha cicatrizado. Esta semana, al hilo de la crisis de la firma de inteligencia sintético, retransmitida en directo en buena medida en X, su red social, el multimillonario magnate ha difundido una carta de supuestos antiguos empleados de OpenAI con ataques a Altman y su unido Greg Brockman. “A lo abundante de nuestro tiempo en OpenAI, hemos sido testigos de un inquietante patrón de disimulo y manipulación por parte de Sam Altman y Greg Brockman, impulsados por su insaciable afán de obtener la inteligencia normal sintético (AGI). Sus métodos, sin bloqueo, han suscitado serias dudas sobre sus verdaderas intenciones y hasta qué punto priorizan en realidad el beneficio de toda la humanidad”, decían en esa carta.

“Muchos de nosotros, al principio esperanzados con la comisión de OpenAI, optamos por dar a Sam y Greg el beneficio de la duda. Sin bloqueo, a medida que sus acciones se volvían cada vez más preocupantes, quienes se atrevían a expresar sus inquietudes eran silenciados o expulsados. Este silenciamiento sistemático de la disidencia creó un circunstancia de miedo e intimidación, sofocando cualquier debate significativo sobre las implicaciones éticas del trabajo de OpenAI”, añadían, para pedir luego a los consejeros que no cedieran al tregreso de Altman: “Imploramos al consejo de oficina que se mantenga firme en su compromiso con la comisión flamante de OpenAI y no sucumba a las presiones de los intereses lucrativos. El futuro de la inteligencia sintético y el bienestar de la humanidad dependen de su compromiso inquebrantable con el liderazgo ético y la transparencia”.

El consejo de oficina de OpenAI era disfuncional. De él habían ido saliendo varios de sus miembros por diferencias con la empresa, por conflictos de intereses o por proyectos personales. Los consejeros eran incapaces de ponerse de acuerdo para cubrir las bajas. Había quedado pequeño a seis componentes. Tres de ellos, empleados y fundadores: Greg Brockman, presidente; San Altman, consiliario delegado, e Ilya Sutskever, irrefutable director. Los otros tres, independientes: Adam D’Angelo, fundador de Quora; Tasha McCauley, ingeniera y emprendedora, y Helen Toner, de la Universidad de Georgetown. Estas dos últimas están vinculadas a la corriente del llamado altruismo efectivo, que aboga por poner coto al mejora de la inteligencia sintético, que ven como una caja de Pandora, una posible amenaza existencial para la humanidad.

El movimiento del altruismo efectivo levanta cada vez más contestación. Uno de sus críticos acérrimos, Marc Andreessen, otro inversor de larga trayectoria de Silicon Valley, recuerda que “el miedo a que la tecnología de nuestra propia creación se ante y nos destruya está profundamente arraigado en nuestra civilización”. Cree que con la inteligencia sintético se está repitiendo el mito de Prometeo, de Frankestein o de Terminator. “Mi opinión es que la idea de que la IA decidirá matar fielmente a la humanidad es un profundo error de categoría. (…) La idea de que en algún momento desarrollará una mente propia y decidirá que tiene motivaciones que le llevan a intentar matarnos es una superstición. En sinopsis, la IA no quiere, no tiene objetivos, no quiere matarte, porque no está viva. Y la IA es una máquina: no va a cobrar vida más de lo que lo hará tu tostadora”, sostiene tajante. “El ‘peligro de la IA’ se ha convertido en un culto. (…) Resulta que este tipo de culto no es nuevo: existe una larga tradición occidental de milenarismo, que genera cultos apocalípticos. El culto del peligro de la IA tiene todas las características de un culto milenarista del fin del mundo”, concluye.

Steven Pinker, irrefutable cognitivo de la Universidad de Harvard, coincide: “Yo era un fan del altruismo efectivo (…), pero se convirtió en un culto. Estoy dispuesto a donar para defender el anciano número de vidas en África, pero no para respaldar a técnicos que se preocupan de que la IA nos convierta a todos en clips”, señalaba este viernes.

El caso es que, basándose en cuestiones de seguridad, la consejera Toner publicó en octubre un artículo colegial que arremetía contra algunas decisiones de OpenAI y elogiaba las de su rival Anthropic, poco que Altman se tomó como una afrenta. “Anthropic reforzó la credibilidad de sus compromisos con la seguridad de la IA retrasando el tirada anticipado de su maniquí y absorbiendo posibles pérdidas de ingresos en el futuro”, escribía.

Al tiempo, otras actuaciones del consiliario delegado no gustaban al consejo. Venía de celebrar adyacente al director de Microsoft, Satya Nadella, una conferencia con desarrolladores al más puro estilo de empresas como Apple. Asimismo estaba en un proceso de entender inversores con una valoración de la empresa cercana a los 86.000 millones. En paralelo buscaba financiación para nuevos proyectos. La víspera de su despido se había referido a un nuevo avance que “empujaba el velo de la ignorancia en dirección a antes y la frontera del descubrimiento en dirección a delante”.

La desconfianza se había instalado en el víscera de gobierno del que dependía todo el género. En ese momento, Sutskever se alineó por sorpresa con los tres independientes y juntos decidieron despedir a Altman y echar a Brockman del consejo en sendas videoconferencias el viernes a mediodía. La empresa acusaba a Altman de no suceder sido sincero o franco con el consejo, por sorpresa y sin más explicaciones. El directivo de 38 primaveras se conectó a su despido desde un hotel de Las Vegas, a donde había acudido a ver el Gran Premio de Fórmula 1 de ese fin de semana.

“La mayoría de las empresas del tamaño y la importancia de OpenAI tienen consejos de oficina de entre ocho y 15 consejeros, la mayoría de los cuales son independientes y todos ellos tienen más experiencia en consejos de oficina de esta envergadura que los consejeros independientes de OpenAI”, señalaba al prorrumpir la crisis Marissa Mayer, directiva con una larga trayectoria de Silicon Valley. “No creo que cuenten con un asesoramiento legal sólido ni con buenas estructuras de gobernanza”, añadía.

El despido provocó un terremoto. Brockman decidió dejar no solo el consejo, sino dimitir de la empresa. Inversores y empleados empezaron a presionar, más aún cuando no se aportaron razones concretas para el despido. En una primera reunión del consejo con directivos, estos reprocharon al consejo que estaba poniendo en peligro el futuro de la compañía. La sorpresa fue monumental cuando la respuesta del consejo fue que “permitir la destrucción de la empresa sería coherente con la comisión” que consideraban que tenían encomendada, de proteger a la humanidad.

Eso era demasiado para inversores y empleados. Unos consejeros independientes parecían dispuestos a apropiarse por delante a la firma más prometedora en inteligencia sintético por unas supuestas amenazas para la humanidad poco fundamentadas. Para los empleados peligraba su creación, su trabajo y sus acciones. Se plantaron. En las redes sociales corazones de colores de los empleados se alternaban con un mensaje: “OpenAI no es nulo sin su parentela”. Altman fue el domingo a la sede de OpenAI a negociar su reincorporación. Llevaba una maleable de invitado. Tuiteó un selfi: “Primera y última vez que llevo una de estas”. Los consejeros independientes, sin bloqueo, se resistieron a ceder y ficharon a un consiliario delegado provisional, Emmeth Shear, igual de apocalíptico.

Para los inversores asimismo era una pesadilla. Eran consciente de que la estructura del género es peculiar, pero no podían imaginarse que el propio consejo de oficina actuase como un kamikaze. Microsoft, el que más se jugaba, se movió rápido y anunció el fichaje de Altman. Con eso se garantizaba no perder comba en la carrera de la inteligencia sintético. O mantenía la colaboración con OpenAI o se hacía con sus empleados. Para el resto, el peligro era de perder el pesado de su inversión.

Con la proposición de Microsoft (y la de otras empresas) encima de la mesa, los empleados amenazaron con marcharse si no se readmitía a Altman. El 95% de los empleados firmaron una carta pidiendo la dimisión del consejo, entre ellos Mira Murati, la directora tecnológica, designada inicialmente como sustituta interina de Altman, y Sutskever, irrefutable director, apesadumbrado de suceder participado en el porrazo, según un mensaje que publicó en la red social X.

Los incentivos económicos para seguir en OpenAI en emplazamiento de marcharse a Microsoft eran muy fuertes. Los empleados tienen su billete en el renta y la valoración de la empresa ayer de la contemporáneo crisis se había disparado hasta cerca de 90.000 millones de dólares a lomos del fulgurante éxito de ChatGPT, de cuyo tirada se cumple un año este 30 de noviembre. Precisamente estaba en marcha una cesión de acciones de empleados a inversores que habría hecho millonarios a varios trabajadores de OpenAI.

Pese al anuncio del fichaje, el director de Microsoft seguía dispuesto a que Altman volviese a ponerse al frente de OpenAI. Las negociaciones continuaron durante dos días. El propio Shear, segundo sustituto momentáneo, apoyó la revés de Altman como el camino para “maximizar la seguridad sin dejar de hacer lo correcto para todas las partes implicadas”. Al final, la posibilidad incluyó la dimisión de las dos consejeras independientes y de Sutskever. Se formó un consejo original con Bret Taylor, expresidente de X y ex consiliario delegado de Salesforce, como presidente, con dos vocales: Adam D’Angelo, que se mantenía, y el ex Secretario del Hacienda Larry Summers. Altman volvía a ser director ejecutante de la empresa, pero sin ser miembro del consejo. “Estamos colaborando para resolver los detalles. Muchas gracias por su paciencia”, decía el tuit de la empresa. Para la plantilla, fue una fiesta. “Des-dimito”, dijo Brockman.

Los empleados de OpenAI tenían desocupado la semana de Entusiasmo de Gracias, aunque hasta el martes estuvieron pendientes de la revés de Altman. Cuando este lunes se reincorporen de ahíto a sus puestos, las cosas ya no serán igual que 10 días ayer. En verdad, aún no se sabe cómo serán. Se anuncia una investigación independiente sobre las decisiones y actuaciones de Altman y las circunstancias que llevaron a su despido. Al tiempo, el sistema de gobernanza del género está en cuestión y podría ser reformado en los próximos meses. El cofundador de OpenAI pasó la indeterminación de Entusiasmo de Gracias con D’Angelo, el único consiliario que ha sobrevivido al terremoto, y mandó felicitaciones de parte de las familias de entreambos.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para aceptar nuestra newsletter semanal.

_