Ciudad de México, 15/09/26 (Más).- Mientras las principales empresas de inteligencia artificial (IA) y especialistas del sector advierten sobre los riesgos de un eventual escenario extremo provocado por sistemas cada vez más autónomos, investigadores y defensores de derechos digitales señalan que las comunidades de menores ingresos y otros grupos marginados ya enfrentan consecuencias concretas por los sesgos incorporados en herramientas de inteligencia artificial.
De acuerdo con información de Forbes México, Joy Buolamwini, fundadora de la Algorithmic Justice League, considera que concentrar la discusión sobre la IA en las llamadas “amenazas existenciales” puede desviar la atención de problemas que ya afectan a comunidades pobres y marginadas, como decisiones automatizadas relacionadas con atención médica, vivienda, contratación laboral y procesos penales.
La investigación de Buolamwini se ha enfocado en el concepto de la “mirada codificada”, que plantea que los sesgos y preferencias de quienes desarrollan un sistema pueden quedar incorporados en el software. Una de las preocupaciones señaladas es que los conjuntos de datos utilizados históricamente para entrenar sistemas de IA han presentado una representación desigual, particularmente a favor de hombres blancos.
Uno de los casos documentados corresponde al reconocimiento facial. El estudio “Gender Shades” encontró que algunas de las principales herramientas de este tipo presentaban tasas de error inferiores a 1 por ciento al identificar hombres de piel clara, mientras que los errores podían alcanzar entre 35 y 47 por ciento en mujeres de piel oscura.
Los problemas derivados de los sistemas automatizados también han llegado al mercado de la vivienda. De acuerdo con los datos citados, algoritmos empleados por empresas de administración inmobiliaria para evaluar a posibles inquilinos han rechazado a solicitantes de bajos ingresos sin ofrecer explicaciones o mecanismos de recurso.
Uno de los casos señalados involucra a SafeRent Solutions, empresa de selección de inquilinos que llegó a un acuerdo por 2.3 millones de dólares en una demanda presentada por más de 400 personas. Los demandantes alegaron que el algoritmo de la compañía asignaba puntuaciones menores a solicitantes e inquilinos negros e hispanos que utilizaban vales gubernamentales para vivienda.
En el sector sanitario también se identificaron diferencias en el funcionamiento de sistemas automatizados. Un estudio publicado en la revista Science encontró que un algoritmo comercial utilizado para determinar qué pacientes debían recibir atención médica adicional daba prioridad a pacientes blancos frente a pacientes negros con niveles similares de enfermedad.
La razón identificada fue el uso del gasto sanitario histórico como indicador de las necesidades médicas. Debido a desigualdades sistémicas que habían provocado un menor gasto en pacientes negros, el algoritmo interpretaba esos antecedentes como una señal de que presentaban mejores condiciones de salud, aunque su estado médico fuera equivalente al de otros pacientes.
Los sesgos también han sido identificados en procesos automatizados de selección y contratación laboral, sistemas de policía predictiva y evaluaciones de riesgo utilizadas en casos relacionados con el bienestar infantil. Estos ejemplos han incrementado el debate sobre los efectos que puede tener el uso de herramientas automatizadas cuando sus decisiones se basan en datos históricos que contienen desigualdades.
Otro antecedente corresponde a Amazon, que retiró un sistema interno de reclutamiento basado en inteligencia artificial después de detectar que degradaba sistemáticamente solicitudes que contenían la palabra “mujeres” y también perjudicaba a egresados de universidades exclusivamente femeninas. El sistema había sido entrenado con una década de información histórica de contrataciones de una industria tecnológica dominada por hombres.
Joanne Chen, socia de la firma de inversión en IA Foundation Capital, resumió uno de los problemas de estos sistemas al señalar que la inteligencia artificial puede describir el mundo actual con sus sesgos, pero no determinar cómo debería ser ese mundo. La afirmación fue realizada durante el festival SXSW en 2018.
Al mismo tiempo, una parte de la industria tecnológica mantiene la preocupación por riesgos de mayor alcance. Directivos de compañías de inteligencia artificial han pedido reducir el ritmo de desarrollo de modelos de frontera para permitir que los reguladores y especialistas en seguridad alcancen los avances tecnológicos.
Entre las advertencias recientes se encuentra la de Evan Hubinger, responsable de ciencia de alineación de Anthropic, quien afirmó que considera superior al 10 por ciento la posibilidad de una extinción humana provocada por una IA no alineada durante los próximos 10 años. Jacob Coxon, exinvestigador de Anthropic y OpenAI, también sostuvo que algunos desarrolladores consideran posible que estas tecnologías provoquen consecuencias catastróficas antes de que termine la década.
Más de mil 300 empleados de empresas pioneras de IA se han incorporado a la iniciativa “Pacing the Frontier”, cuyo objetivo es permitir que la comprensión y las medidas de seguridad avancen al ritmo del desarrollo de sistemas capaces de mejorar sus propias capacidades.
Sin embargo, especialistas como Timnit Gebru y Margaret Mitchell han cuestionado que los escenarios de extinción concentren buena parte de la discusión pública y regulatoria. Gebru ha señalado que las predicciones apocalípticas pueden eclipsar problemas actuales relacionados con despidos atribuidos a la automatización y con el impacto ambiental de los grandes centros de datos utilizados para operar sistemas de IA.
Mitchell, quien también trabajó anteriormente en Google, ha planteado que la atención sobre amenazas existenciales puede llevar a los legisladores a concentrarse en nuevas regulaciones para la industria en lugar de aplicar las leyes existentes relacionadas con explotación laboral, derechos de autor, afectaciones ambientales y discriminación algorítmica.
Otros especialistas consideran que los temores sobre una transformación tecnológica de gran escala forman parte de un patrón histórico de preocupación frente a nuevas herramientas. El empresario Marc Andreessen ha comparado la inteligencia artificial con tecnologías anteriores, como el fuego, y sostiene que puede incrementar la productividad sin necesariamente eliminar la capacidad de decisión humana.
El debate reúne así dos perspectivas sobre los riesgos de la inteligencia artificial. Por un lado, investigadores y trabajadores de la industria advierten sobre escenarios futuros vinculados con sistemas autónomos cada vez más capaces; por otro, especialistas en justicia algorítmica señalan que los efectos de los sesgos ya pueden observarse en decisiones que afectan el acceso a vivienda, atención médica, empleo y otros servicios, particularmente entre grupos que históricamente han enfrentado desigualdades.
Descubre más desde Más Información
Suscríbete y recibe las últimas entradas en tu correo electrónico.