Predicciones e inteligencia artificial a través de las matemáticas
30 noviembre, 2023
Como parte del programa científico de la Feria Internacional del Libro de Guadalajara se presentó una combinación de matemáticas y comedia. Una colaboración entre el Centro de Investigación en Matemáticas (CIMAT) y el Gallinero Teatro permitió a los asistentes comprender un poco más sobre predicciones.
Predecir: una necesidad humana
El principio de la charla rompió con el esquema clásico de una presentación en una feria del libro. Sin embargo, fue un buen ejemplo del espíritu científico.
Con la colaboración de los asistentes se realizó un experimento estadístico. A través de un típico juego de cálculo mental se demostró lo predecible que llegan a ser nuestras elecciones.
Una vez reveladas las predicciones y su grado de certeza comenzó la discusión científica. La idea original para la charla era hablar de inteligencia artificial. Sin embargo, había algo más básico que era necesario explicar: las predicciones.
El ser humano ha buscado métodos para predecir desde mucho tiempo atrás. Con una breve mención de métodos antiguos de predicción Johan van Horebeek recordó la importancia de las predicciones para los seres humanos.
“Las predicciones nos afectan a todos, emocionan a la gente, las hace reír, las hace llorar, las hace preocuparse”, mencionó van Horebeek. Después recordó que las predicciones nos ayudan a tomar decisiones.
En la antigüedad las predicciones buscaban culpables. Sin embargo, no son las únicas posibles, las matemáticas también permiten predecir. Van Horebeek tomó como ejemplo a Galileo y su cálculo de la caída libre.
Las matemáticas crean conexiones. Gracias a ellas podemos relacionar datos y esto nos ayuda a predecir. Esto es un aspecto básico de la inteligencia artificial. Aquí apareció un nombre que serviría para profundizar la explicación: Chat GPT.
Víctor Muñiz explicó algunos aspectos clave para comprender a un sistema como Chat GPT. Se trata de un modelo de lenguaje que calcula probabilidades a partir de secuencias de palabras. A partir de relaciones semánticas se crea un texto coherente.
Los sistemas informáticos de conversación no siempre funcionaron de esta forma. Aquí apareció un ejemplo de la década de 1960: Eliza.
Eliza causó revuelo por su capacidad para hacer sentir mejor a las personas. Sin embargo, su funcionamiento era muy simple, en comparación con los programas de conversación actuales.
Ante una consulta respondía con una pregunta. Bajo una lógica de cuestionamiento constante, Eliza ofrecía una especie de terapia en la que el consultante se contestaba a sí mismo.
A propósito de Eliza se realizó una breve representación de un sistema más actual con el que mucha gente interactúa. Una esfera de cristal llamada Circe respondía a todas las consultas de una mujer que buscaba relajarse.
Las respuestas del programa de conversación estaban cada vez más lejos de la consulta de la mujer hasta hacerla perder el control. Además de risas, el ejemplo permitió comprender la forma en que funcionan las predicciones de la inteligencia artificial.
Para cerrar la charla se tocó un punto medular: predecimos para reducir errores. Johan van Horebeek advirtió sobre los riesgos de las predicciones, entre ellos la discriminación.
Las predicciones sin la orientación adecuada generan sesgos. Víctor Muñiz recordó un ejemplo que hace unos meses se reportó en Chat GPT. Al buscar una analogía simple: “hombre es a mujer como doctor a…” el consultante se encontraba con un prejuicio de género; actualmente el mismo sistema de conversación ofrece una explicación extensa sobre el sesgo que se detectó.
Como conclusión se invitó a los asistentes a estar conscientes, tomar acción y asumir la responsabilidad. No todos los errores tendrán el mismo impacto y es importante elegir de una forma adecuada.