Las máquinas, con los algoritmos que las hacen funcionar, comenzaron a entender frases simples en inglés en los abriles sesenta. Más tarde aprendieron a traducir textos más complejos a cientos de lenguajes, filtrar nuestros correos electrónicos y distinguir un texto escrito a mano. Y hoy ya son capaces de ganarnos en juegos de táctica y deducción, entender lo que decimos y comportarse en consecuencia, asistir a los médicos y vencer a los mejores jugadores de ajedrez o Go.
Un bot es un software informático que imita el comportamiento humano, y un chatbot es el bot que simula una conversación con una persona. Los primeros pueden decirse que existen desde hace 50 abriles. Y los segundos, los bots conversacionales, están brotando por todas partes. En la prensa, a estos algoritmos se les denomina Inteligencias Artificiales. Yo prefiero llamarlos algoritmos informáticos, porque tienen mucha informática adicionalmente de los algoritmos específicos de Inteligencia Fabricado (IA), que es una parte de la informática.
Los programas más avanzados son capaces de entender el discurso humano y amparar una conversación deducción y seudointeligente, y adicionalmente en varios idiomas, lo que igualmente está permitiendo grandes avances en la traducción cibernética y permite vislumbrar el traductor instantáneo en el horizonte. Las capacidades de la aparejo ChatGPT es una buena muestra de lo que decimos.
Pero alcanzar esta comprensión cibernética de la información no es factible porque el software informático no solo tiene que interpretar o escuchar la información, sino igualmente relacionarla e interpretarla para entenderla y poder comportarse o replicar en consecuencia. Si durante una conversación algún dice Sevilla, el operación informático debe poder distinguir si se refiere a la ciudad o al club de fútbol, y para ello no solo necesita poder procesar el jerga, sino suceder sido dotado de mucha información, de definiciones de conceptos y conocimientos básicos para poder razonar y extraer la alternativa del contexto, como lo haría una persona.
Las máquinas y los algoritmos informáticos son el futuro y en muchos casos ya el presente, y sus avances despiertan sorpresa, temor y, asiduamente, preocupación. Sin duda, el principal miedo con los algoritmos informáticos y sus avances, es su hipotética capacidad de tomar decisiones que jueguen en contra de los seres humanos. La efectividad es que, a diferencia de las historias que nos cuentan algunas películas, las máquinas, los algoritmos, no son conscientes de su propia existencia, no tienen sus propios objetivos y sentimientos. Esto está a siglos de nuestras capacidades tecnológicas actuales.
Pero ¿Necesitan los algoritmos una manual ética? La Unesco ha tomado la iniciativa. Sus 193 miembros han prohijado esta semana una cinta de recomendaciones que quiere ser una manual ética, la primera de carácter mundial. Esta manual puede consultarse aquí.
Una recomendación, la número 26, es taxativa: “Los sistemas de IA no deberían utilizarse con fines de calificación social o vigilancia masiva”. Otro de los consejos, el 36, estipula que “un sistema de IA nunca podrá reemplazar la responsabilidad final de los seres humanos y la obligación de rendir cuentas”. “Por regla caudillo –añade el texto– las decisiones de vida o homicidio no deberían cederse a los sistemas de inteligencia fabricado”.
Pero el debate es más profundo
¿Podrá existir un partido político dirigido por un operación informático y cuyo líder sea un chatbot?. Quizá suene a ciencia ficción o al argumento de una serie distópica, pero es un hecho positivo; ese partido ya existe, y forma parte de la campaña electoral en Dinamarca. Se lumbre Synthetic Party, y está liderado por Leader Lars, un chatbot con el que cualquier ciudadano puede balbucir.
Los impulsores del Synthetic Party aspiran a presentarse a las próximas contiendas electorales en Dinamarca. Para ello piden que se cambie la ley para que un operación se pueda presentar como candidato a las elecciones. Lo que piden no es presentarse un asociación de personas asesoradas por el operación. Quieren que sea el operación informático el que se presente a las elecciones y tome las decisiones políticas pertinentes a partir de la interacción que haya tenido con los electores.
Pero, ¿cuál es su ideología?, ¿progresista?, ¿conservadora? “El partido es sintético, lo que textualmente significa que homogeneiza lo que parece contradictorio o dispar”, explica Asker Bryld Staunaes, miembro del asociación de artistas Computer Lars y del centro tecnológico MindFuture y principal creador e impulsor del Synthetic Party.
Hay otros movimientos similares en el resto del mundo. Le llaman políticos virtuales. En Wikipedia se puede encontrar información sobre estos movimientos y artículos relacionados.
Pero la pregunta es: ¿Queremos que un operación informático se presente a las elecciones? Mi respuesta es no. No, por varias razones. La primera es que la política es un quehacer humano fundamental. Es la actividad que usamos para tomar decisiones globales. La política es inherentemente conflictiva en la medida en que hay intereses contrapuestos en la sociedad y, por lo tanto, nos engañan cuando propugnan una política sintética, neutra, por encima de los intereses.
En orientación con las recomendaciones de la Unesco, creo que siempre tiene que suceder una persona que sea responsable de las recomendaciones que hace un operación y más en el dominio de la política. De la misma forma, creo que debemos pedir que una persona se responsabilice de cada osadía que un operación puede tomar, pero no escudarse tras él. Ya sea al pedir una hipoteca, en la priorización en un hospital, etc.
Reivindico la importancia de la política, de la décimo política y la menester de los políticos. Defender que un operación informático tome las decisiones es pensar que la neutralidad es posible y que los políticos deberían desaparecer. Es un movimiento antipolítico que, si lo pensamos con detalle, prefiere que las cosas sigan como están.
Miguel Toro es catedrático de Lenguajes y Sistemas Informáticos de la Universidad de Sevilla.
Crónicas del Intangible es un espacio de divulgación sobre las ciencias de la computación, coordinado por la sociedad académica SISTEDES (Sociedad de Ingeniería de Software y de Tecnologías de Avance de Software). El intangible es la parte no material de los sistemas informáticos (es asegurar, el software), y aquí se relatan su historia y su devenir. Los autores son profesores de las universidades españolas, coordinados por Ricardo Peña Marí (catedrático de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).
Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para percibir nuestra newsletter semanal.
Creditos a Miguel Toro
Fuente