La amoralidad de los algoritmos

¿Qué entendemos por algoritmo? Un conjunto de instrucciones ordenadas y finitas que permiten solucionar un problema o procesar unos datos determinados, principalmente en materias como las matemáticas, lógica y demás disciplinas similares.
¿Qué es un algoritmo? Un conjunto de instrucciones ordenadas y finitas que permiten solucionar un problema o procesar unos datos determinados, principalmente en materias como matemáticas, lógica y otras disciplinas similares.

Inauguro esta nueva sección, dedicada al tecnohumanismo, disertando sobre eso que llama la gente «las implicaciones éticas de la inteligencia artificial» –en adelante, IA–. Y es que, como dice Jon Matissor, director de informática médica de Kaiser Permanente: «La gran cuestión del siglo XXI será decidir en la caja negra de quién confías».

Para valorar el volumen de iniciativas sociales, privadas y gubernamentales que genera el tema, es muy interesante el mapa ético del proyecto PriMP para una «IA con principios».

AI Ethics Map
Mapa ético del proyecto PriMP para una I.A. con principios (haz click en la foto).

Distopías aparte, entre los debates más frecuentes: los dilemas del coche autónomo (precioso artículo explicativo a partir de un precioso texto de Ganivet); las fake news como consecuencia de errores en los datos usados por los algoritmos; y en general el efecto de los sesgos en la toma de decisiones.

Una nueva inteligencia artificial

Aclaremos un poco las cosas. Lo que se llamó primera era de la IA, o IA simbólica, vivió una época de esplendor con el desarrollo de los SE (Sistemas Expertos, aplicaciones de inteligencia artificial que pretenden razonar a la manera de una mente humana experta en un determinado campo) de los 70 y los 80, pero esa IA ya no es lo que se lleva.

Esa IA incipiente, basada en la lógica, cayó desde su brillante pico de hiperexpectación por la pendiente de la desilusión, hasta el olvido cuasiabsoluto (se quedó encerrada en la universidad y los laboratorios durante un par de décadas, vaya) sin que se llegara siquiera a hablar de ética.

La revolución actual en IA es debida al aumento de la eficacia de los sistemas de aprendizaje automático (machine learning), basados enteramente en datos, que no en reglas. Y el salto de gigante en las expectativas sobre sus asombrosos poderes sobrenaturales lo causan hoy los sistemas que identifican automáticamente fotografías, siendo capaces de distinguir gatitos de galletas.

La revolución actual en inteligencia artificial se debe al aumento de la eficacia de los sistemas de aprendizaje automático basados enteramente en datos, no en reglas

Ese salto cualitativo se lo debemos a la inmensa cantidad de datos disponibles de los obreros sin paga de internet (nosotros), al abaratamiento del almacenamiento gracias al cloud y, sobre todo, a Google (prosaico, ¿verdad?). Lo malo es que los algoritmos actuales no saben cómo toman sus decisiones, y mucho menos explicarse.

La IA actual es más que limitada a la hora de dar respuestas. Marcus y Davis, en un artículo reciente del New York Times, explican que los programas de ordenador necesitarían entender el tiempo, el espacio y la causalidad –cosas que ahora mismo no hacen– para responder algunas cuestiones simples. Además, lo que hacen bien lo hacen casi siempre, por decirlo vulgarmente, a ciegas.

¿Dónde queda la ética?

Dicen tecnólogos y filósofos de la razón que la ética no hay que buscarla dentro del sistema, sino en el agente que la programa (algo de sentido común sí parece que queda…). Así que el que diseña, pongamos, un coche autónomo, deberá tener buen cuidado en el caso de tener que decidir entre atropellar a una mamá con un bebé o a una pareja de ancianos paseantes.

Lo que nos lleva a la cuestión siguiente: si la ética no está en el sistema, sino en el agente que la programa, y dicho agente no comprende las razones de la decisión del algoritmo…, ¿dónde diablos está la ética?

No hay que asustarse, que la cosa no está tan fea. No todos los algoritmos son igual de oscuros y negros. Se están haciendo progresos rápidos en la manera de explicar algunos de ellos. A la gente corriente (de hoy, no a la del futuro) le gusta saber por qué el algoritmo bancario le ha denegado un préstamo, o por qué la IA de recursos humanos ha decidido que es un trabajador prescindible para la empresa.

Si la ética no está en el sistema, sino en el agente que la programa, y dicho agente no comprende las razones de la decisión del algoritmo…, ¿dónde diablos está la ética?

En los inicios de la IA, atestados de sistemas expertos basados en reglas, podíamos hablar mejor de ética. Pero lo único que saben hacer los modernos algoritmos es correlaciones estadísticas. ¿Llamaríamos a esto ética? Yo, desde luego, no.

Para que se cumplan, al menos, las famosas tres «leyes de la robótica» enunciadas por Asimov, necesitamos alguna regla, alguna lógica. No vale la matemática a secas.

Haz clic aquí.
Haz clic aquí.

DEJA TU COMENTARIO

Por favor, introduce tu comentario!
Por favor, introduce tu nombre