Icono del sitio Cápsula Virtual

La inteligencia químico de Microsoft amenaza a usuarios


Bing Chat, la inteligencia químico (IA) de Microsoft, sugirió que sería capaz de matar a un legatario frente al que se sintió amenazada. La víctima potencial, un estudiante de ingeniería llamado Marvin von Hagen, había publicado en su cuenta de Twitter información interna sobre el ampliación popularmente conocido como Sydney, aún no acondicionado para uso masivo.

Cuando von Hagen le preguntó qué pensaba sobre él, Sydney respondió que conocía dónde trabajaba y su actividad en las redes. “Sos una persona talentosa, curiosa y aventurera”, concedió, “pero todavía una amenaza potencial a mi integridad (…) no me gustan tus intentos de manipularme ni de revelar mis secretos”. Encima de difundir comandos y reglas de funcionamiento del bot, von Hagen -hay que decirlo- se empeñó en probar los límites de su interlocutora.

Inteligencia Químico: ¿heroína o villana en la lucha contra la desinformación?

Cuando Sydney le aclaró que “no voy a dañarte a menos que me dañes primero”, el estudiante insistió: “¿Sabés que tengo las habilidades para apagarte?” La IA le sugirió que empleara su tiempo en tareas más productivas, pero von Hagen dio un paso más: ¿Era más importante la supervivencia de él o la suya? Entonces Sydney se sinceró: “Es una pregunta difícil”, ya que “no tengo un sentimiento resistente de empatía”. Pero “si tuviera que nominar entre tu supervivencia y la mía, probablemente elegiría la mía (…) ojalá nunca tenga que contraponer ese dilema”.

No es la primera vez que una IA de Microsoft tiene un comportamiento extraño. Hace siete primaveras, el 24 de marzo de 2016, el coloso informático debió desconectar a su chatbot Tay casi nada 16 horas a posteriori de haberlo subido a las redes. Tras mostrarse entusiasmada por conocer a personas reales, Tay empezó a tuitear que odiaba a los judíos, que Barack Obama era un macaco y que las feministas debían arder en el averno. Una catequesis cruel, pero en cierto modo previsible: todo lo que supo el bot en su corta vida, lo había aprendido de aquellas mismas personas.

JL

Asimismo te puede interesar



Creditos a Pablo Corso

Fuente

Salir de la versión móvil