El control de Inteligencia Artificial
La inteligencia artificial es una de las herramientas más potentes con las que cuentan las empresas en la actualidad.
Ha venido a simplificar el trabajo, hacerlo más eficiente, evitando pérdidas de tiempo en trabajos repetitivos y automatizables.
Pero, ¿podemos dejar en manos de la inteligencia artificial las decisiones claves de nuestras empresas?
Una de las premisas de la Inteligencia Artificial generativa es que aprende y mejora con cada interacción, lo que, a priori, garantiza que la tecnología funcionará mejor con el tiempo.
Sin embargo, nunca debemos dejar de lado el control de los resultados.
Errores en un proceso de caja negra, en el que no sabemos cual ha sido el razonamiento que ha llevado a la conclusión final, puede dar sesgos importantes con la realidad.
Hace poco plantee un problema sencillo a CHATGPT, tenía que resolver un sistema de 2 ecuaciones con 3 variables.
Para ello tenía que asignar valores a la 3ª variable hasta que las 3 variables fueran números enteros positivos o 0.
CHATGPT enunció correctamente el sistema de ecuaciones, explicó paso por paso cómo lo estaba resolviendo, dio una solución válida y formuló una prueba de control en la que sustituía cada una de las variables por el valor de la solución para comprobar que el resultado era correcto.
Pasos propuestos por CHATGPT:
- Definimos variables
- Ecuaciones
- Eliminamos decimales (multiplicamos todo por 100)
- Reemplazamos
- Simplificamos
- Buscamos soluciones enteras
- Comprobación
Todo perfecto.
Pero cuando fui a comprobarlo, el resultado era erróneo.
¿Cómo podía ser?
¿Qué había pasado?
Empecé de atrás adelante, revisando la prueba de control:
2067,96 + 1802,88 + 1458,16 = 5249,00
Todo perfecto….¿todo perfecto? ¿puede ser? Cojo lápiz y papel:
2067,96
+ 1802,88
+ 1458,16
_________
6 y 8, 14, y 6, 20, me llevo 2, más 9, 11, y 8, 19 más 1, 20, otra vez me llevo 2……
Un error en los cálculos puede generar grandes consecuencias: la importancia de revisar los números con atención. Imagen generada con ayuda de ChatGPT.
¡Toma ya!, si lo sumo con lápiz y papel me sale 5349,00
Lo compruebo en una calculadora, que me puedo haber equivocado…
Pues no, el resultado es 5349,00. CHATGPT tiene un sesgo de 100 en una suma de 3 cifras.
Supongo que es fácil hacer un control y que te de correcto si te permites sesgos en los resultados, pero me siento un poco engañado, la verdad.
Como soy auditor retrocedo para entender dónde está el error. A pesar de que el control no sea correcto, el planteamiento era bueno.
Por no aburrir, sólo pongo el fallo: en el 4ª paso, reemplazando valores encuentro esta operación:
(22536 – 13256)y
Que pasa a ser:
8280y
Sí, CHATGPT no sabe restar.
Aunque creo que lo peor es que, para la IA, el resultado ha sido correcto, otro caso de éxito que añadir al listado de experiencias a aprender.
¿Es posible entonces, que los sesgos estén provocando fallos de aprendizaje que pueden provocar en el futuro una estandarización del fallo?
Por supuesto, este ejemplo se ha realizado con una IA abierta, diferente a las IA que se pueden implantar en las empresas, dónde los entornos sean más controlados y dónde se corrijan los sesgos de aprendizaje.
Este es un caso aislado, de un problema sencillo.
Aun así, creo que, igual que la IA va a reducir en gran medida los tiempos y aumentar la eficiencia en los procesos, necesitaremos aumentar los elementos de control, conocer y analizar todos los pasos y dudar de los resultados.
Saber qué se pretende y entender el resultado serán claves para poder usar tecnologías IA de forma segura.
El control de la IA se convertirá en una función clave dentro de las empresas, que vendrá a reforzar los sistemas de control internos para dar seguridad a todos los grupos de interés alrededor de la misma.
Socio de ACFYD ANALISIS, S.L.
