La inteligencia artificial ya no es sólo una herramienta para recuperar hechos; se ha convertido en un árbitro silencioso en decisiones críticas de la vida. Desde determinar la elegibilidad para préstamos y contratar candidatos hasta brindar orientación médica, los modelos de IA están cada vez más integrados en los flujos de trabajo que dan forma a nuestras realidades sociales y económicas.
Un nuevo estudio publicado en Proceedings of the Royal Society A revela una verdad profunda sobre esta integración: los sistemas de IA no se limitan a procesar datos, sino que forman “juicios” sistemáticos sobre las personas con las que interactúan.
La mecánica de la confianza digital
Para comprender cómo funcionan estos modelos, los investigadores compararon 43.000 decisiones simuladas tomadas por modelos avanzados de IA, como ChatGPT de OpenAI y Gemini de Google, con aproximadamente 1.000 decisiones tomadas por humanos. Las tareas implicaban evaluaciones sociales comunes, como decidir cuánto prestarle al propietario de una pequeña empresa, si confiar en una niñera o cómo calificar a un supervisor.
Los hallazgos sugieren que los modelos de IA efectivamente captan los pilares fundamentales de la confianza humana:
– Competencia: La capacidad percibida para realizar una tarea.
– Integridad: La honestidad percibida de un individuo.
– Benevolencia: La bondad percibida o las buenas intenciones de una persona.
Sin embargo, si bien los criterios para el juicio pueden parecer similares, el método para llegar a esas conclusiones difiere fundamentalmente entre la inteligencia biológica y la artificial.
Intuición holística frente a lógica de hoja de cálculo
La distinción central radica en cómo está estructurado el proceso de toma de decisiones. Los humanos tienden a utilizar un enfoque holístico. Cuando conocemos a alguien, combinamos varios rasgos en una impresión única, intuitiva y a menudo “confusa”. Vemos a una persona como una entidad completa.
Por el contrario, la IA opera mediante una descomposición rígida y sistemática. En lugar de dar una impresión holística, los modelos parecen dividir a los individuos en puntuaciones discretas (muy parecidas a columnas en una hoja de cálculo) según su competencia, integridad y amabilidad.
“Las personas en nuestro estudio son desordenadas y holísticas en la forma en que juzgan a los demás. La IA es más limpia, más sistemática y eso puede conducir a resultados muy diferentes”, explica Valeria Lerman, una de las autoras del estudio.
Este enfoque “más limpio” no es necesariamente un beneficio. Debido a que la IA juzga a través de una categorización rígida, su razonamiento carece de los matices de la inteligencia social humana, lo que hace que sus sesgos subyacentes sean mucho más difíciles de detectar y corregir.
El riesgo de un sesgo amplificado y sistemático
Una de las revelaciones más preocupantes del estudio es que la IA no sólo refleja los prejuicios humanos; puede amplificarlo y sistematizarlo.
Si bien los seres humanos son ciertamente propensos a tener prejuicios, sus prejuicios suelen ser inconsistentes o situacionales. Sin embargo, los sesgos de la IA tienden a ser más predecibles y generalizados. Por ejemplo, en simulaciones financieras, el estudio observó discrepancias significativas basadas en rasgos demográficos, como que las personas mayores reciben consistentemente resultados más favorables.
Además, el estudio destaca dos riesgos críticos para el futuro de la integración de la IA:
1. Falta de uniformidad: No existe una única “opinión de IA”. Dos modelos diferentes pueden parecer idénticos en sus habilidades conversacionales, pero se comportan de maneras tremendamente diferentes al tomar decisiones que alteran sus vidas.
2. Discriminación predecible: Debido a que la IA sigue patrones matemáticos, sus sesgos pueden quedar codificados en la lógica misma del sistema, lo que lleva a una desigualdad generalizada y automatizada.
Conclusión
La integración de la IA en la sociedad ha superado la cuestión de si estas herramientas son útiles; el verdadero desafío es comprender su arquitectura “moral” interna. A medida que estos modelos actúan cada vez más como guardianes de las oportunidades, debemos reconocer que no ven el mundo (ni a nosotros) a través de una lente humana.
