Paula Gordaliza, matemática: “Los algoritmos no funcionan solos. Quien los utiliza sabe qué están haciendo y por qué se toman estas decisiones” | Tecnología

Paula Gordaliza (Valladolid, 29 primaveras) usa la matemática para intentar que la sociedad sea un poco más desafío. La nuevo investigadora, galardonada con el premio Vicent Caselles otorgados anualmente por la Verdadero Sociedad Matemática Española (RSME) y la Fundación BBVA, ha desarrollado un sistema para corregir el sesgo de los algoritmos de la inteligencia industrial (IA), capaces de formular predicciones más precisas que una persona experta. “El problema es que no siempre estas decisiones son socialmente responsables”, explica Gordaliza en una videollamada. Investigadora en el Basque Center for Applied Mathematics en Bilbao y profesora asociada en la Universidad Pública de Navarra, empezó a estudiar una forma para eliminar los sesgos algoritmos durante su doctorado en la Universidad de Toulouse, cuando la IA aún no se encontraba bajo la lupa de reguladores y de la opinión pública. “Las cosas han evolucionado muy rápido durante estos últimos cinco primaveras. Ahora más que nunca es importante trabajar en los afectos que la inteligencia industrial tiene en la vida de la concurrencia”, asegura la investigadora.

Pregunta. ¿Usa mucho la inteligencia industrial en su trabajo?

Respuesta. Me gusta recapacitar que yo, antiguamente de todo, soy matemática, y lo que hago es investigación en matemáticas. Mi trabajo consiste en la fundamentación de las bases teóricas que se necesitan para desarrollar cualquier tecnología, en particular la inteligencia industrial. Entonces yo me ocupo más correctamente de estudiar problemas matemáticos y cómo, una vez resueltas estas cuestiones desde el punto de perspectiva teórico, se pueden aplicar a problemas reales. En mi caso, se palabra del estudios inevitable y la equidad algorítmica, que están englobados en el campo de la inteligencia industrial.

P. ¿Cómo se relacionan las matemáticas y la inteligencia industrial?

R. Las matemáticas están detrás de todos los avances científicos y tecnológicos, y en estos últimos primaveras la IA es la forma de avance más de moda. Lo que hace la matemática es establecer las bases teóricas para entrar a resolver los problemas a los que nos enfrentamos, que en el caso de mi investigación serían los sesgos algorítmicos de la inteligencia industrial.

P. ¿Qué es un sesgo algorítmico?

R. Es poco difícil de explicar, porque son palabras que se han utilizado tanto, se le han legado muchos significados dependiendo del contexto. En estadística, poco sesgado es poco que no se comporta como lo esperado. Mientras que, si nos vamos al ámbito de la inteligencia industrial, donde se emplea mucho esta palabra, se refiere más a las inclinaciones o a los prejuicios en auxilio o en contra de un colectivo o de un individuo sobre la almohadilla de determinadas características, como el productos o el color de piel. Quizás es esto que contribuye a que los algoritmos provocan miedo y desconfianza en la concurrencia.

P. ¿A qué se debe?

R. Estamos asistiendo a un uso generalizado de los sistemas de inteligencia industrial, en particular de los algoritmos, y esto se está viendo en aspectos que afectan directamente a la vida de las personas. La concesión de créditos, en la selección del personal para un trabajo o en el ámbito clínico, para atreverse a quién aplicar un tratamiento o hacer un dictamen. Hay muchos más ejemplos, pero estos quizás son los más comunes. Y claro, el hecho de que los algoritmos puedan atreverse sobre estas cuestiones genera temores y desasosiego en la población. Esto sucederá mientras no reciban garantías de que estos algoritmos son justos, son confiables y son interpretables.

P. ¿Qué se puede hacer para que desaparezca este miedo?

R. Aquí es donde se ve la importancia de la matemática, que nos sirve para entender cómo están funcionando los algoritmos y que es la aparejo para desplegar la caja negra de la inteligencia industrial. Es importante que llegue el mensaje de que los algoritmos no funcionan solos, que quien los utiliza sabe qué están haciendo y por qué se están tomando estas decisiones. Esto ayudaría mucho a estrechar la desconfianza que la concurrencia le tiene.

R. Ha hablado de prejuicios y discriminaciones. ¿Los algoritmos son racistas?

P. Los algoritmos no son racistas, ni machistas. Los algoritmos aprenden de datos. El estudios inevitable es una forma de inteligencia industrial que es capaz de hacer predicciones y de establecer conexiones a partir de bases de datos enormes, que es capaz de ejecutar a gran velocidad. El problema viene cuando estos datos no son de calidad. Por eso es fundamental suponer por tener bases de datos de calidad y que no estén sesgadas con respecto a variables que pueden conllevar información sensible, como la raza, el productos, las discapacidades, la orientación sexual o cualquier otra información que pueda ser susceptible de discriminación.

P. De esto va su investigación.

R. La idea era tratar de crear dos subgrupos de población, por ejemplo, de hombres y mujeres, que fueran lo más parecidos posible en el resto de características. De esta forma, intenté borrar la información del productos para que los algoritmos no sean capaces de formarse sobre el productos de las personas y se queden con la información que les proporciona el resto de la almohadilla de datos.

P. La sociedad ha mejorado cuando se palabra de discriminación. ¿Por qué siguen existiendo tantos sesgos?

R. No es un problema de la sociedad. Al final se está utilizando una aparejo que aprende de datos históricos y esos están sesgados, así es como el cálculo lo aprende. Lo que habría que hacer para avanzar es fomentar la investigación, porque se manejo de un asunto del conocimiento y la frontera del conocimiento es cada vez más compleja. Si queremos mejorar, se necesitan equipos multidisciplinares formados por matemáticos, estadísticos, informáticos y más profesionales que aporten su parte a la causa. Se necesitan todos los puntos de perspectiva, no solamente la examen matemática, que igualmente necesitaría mejorar mucho.

P. ¿De qué forma?

R. Seguramente habría que fomentar la carrera académica e investigadora, para tener una investigación de calidad centrada exclusivamente en inteligencia industrial, pero con bases matemáticas muy sólidas que aseguren que lo que se está haciendo con los algoritmos sea confiable, seguro y ajustado. Para obtener esto, es necesario que haya una motivación para que los jóvenes se sientan atraídos por esta carrera, lo cual en estos tiempos es sobrado difícil. Es importante mejorar las condiciones de esta profesión, sobre todo en las primeras etapas. Antiguamente con 30 primaveras ya eras profesor titular, mientras que ahora, con 29, todavía voy a emprender en la plaza de ayudante.

P. ¿Cuándo palabra de motivación se refiere a fortuna económicos?

R. En parte, pero hay igualmente otros factores a tener en cuenta. Por ejemplo, percatar que vas avanzando en tu carrera y que vas consiguiendo plazas cada vez más relevantes. Sentirse valorados es fundamental para quedarse en España y seguir intentándolo.

P. Usted ha hecho el doctorado en Francia. ¿Cree que en el extranjero hay más posibilidades?

R. Hay muchas posibilidades, pero igualmente en España. Las matemáticas que se hacen aquí y la investigación que hay es de gran calidad. Yo ya he pasado por esta experiencia de residir en el extranjero y estoy segura de que a lo espacioso de mi carrera igualmente se me presentarán otras oportunidades para hacer estudios internacionales, lo cual es indudablemente poco que da gran valencia a tu carrera y que proporciona mucha proyección. Pero mi objetivo final es quedarme en España, donde la investigación, al menos en mi campo, está avanzando mucho, y la importancia que está ganando la inteligencia industrial nos va a dar mucho en lo que trabajar.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para percibir nuestra newsletter semanal.