 |
A medida que las empresas estadounidenses recurren a la IA, los consumidores rechazan préstamos y empleos Nota del autor del blog ,. es al revés, los consumidores son rechazados por los programas informáticos.
Ciudad de Nueva York – Rachel S vive en un vecindario transitable a pie en Brooklyn, Nueva York. La mayoría de los días puede vivir cómodamente sin coche. A menudo trabaja de forma remota, pero ocasionalmente necesita ir a la oficina. Ahí es donde su situación se vuelve un poco desafiante. Su espacio de trabajo no es fácilmente accesible en transporte público.
Como no necesita conducir con frecuencia, solicitó la plataforma de coches compartidos Zipcar para satisfacer sus necesidades ocasionales. El proceso de solicitud es bastante rápido, lo que permite a los consumidores salir a la carretera utilizando su flota de automóviles con relativa rapidez.
SIGUE LEYENDO
lista de 4 artículos¿Cómo ha impulsado el efecto Taylor Swift el fútbol americano?
La inteligencia de Ucrania 'confirma' que las fuerzas rusas utilizan Starlink
Austin, jefe de defensa de Estados Unidos, hospitalizado nuevamente y transfiere funciones a su adjunto
El maratonista keniano Kelvin Kiptum, que batió el récord mundial, muere en un accidente automovilístico
Desafortunadamente, ese no fue el caso de Rachel. Tan pronto como presionó el botón de enviar, el software de inteligencia artificial que utiliza la empresa la consideró no elegible. Desconcertada por el resultado, Rachel se puso en contacto con el equipo de atención al cliente de la empresa.
Después de todo, no tiene deméritos que sugieran que es una conductora irresponsable. No tiene puntos en su licencia. El único fracaso fue una multa de tráfico que recibió cuando tenía diecisiete años y que la multa fue pagada hace años.
Aunque la multa de tráfico ya ha sido rectificada, ahora, a sus treinta años, todavía está lidiando con las consecuencias.
Habló con el equipo de atención al cliente de Zipcar sin éxito. A pesar de tener un historial de conducción limpio, fue rechazada. Afirma que la empresa dijo que no tenía ningún recurso y que un humano no podía sobrescribir la decisión.
"No había ningún camino o proceso para apelar a un ser humano y, si bien es razonable, la única forma de volver a intentarlo sería volver a presentar una solicitud", para lo cual hay una tarifa de solicitud no reembolsable, dijo Rachel a Al Jazeera recordando su conversación con la empresa.
Zipcar no respondió a la solicitud de comentarios de Al Jazeera.
Rachel es uno de los muchos consumidores a quienes los sistemas de IA rechazaron préstamos, membresías e incluso oportunidades laborales sin ningún recurso o política de apelación, ya que las empresas continúan dependiendo de la IA para tomar decisiones clave que impactan la vida cotidiana.
Eso incluye a D, que recientemente perdió su trabajo.
Regístrate en Al Jazeera
Boletín de cobertura de las Américas
Como condición de la entrevista, D solicitó que solo usáramos su inicial por respeto a su privacidad. D buscó religiosamente una nueva oportunidad sin éxito.
Después de meses de buscar, D finalmente consiguió un trabajo, pero había un gran problema: el momento.
Todavía faltaban varias semanas para que D comenzara el nuevo trabajo y varias semanas después de que D recibiera el primer cheque de pago.
Para obtener ayuda adicional, D solicitó un préstamo personal en múltiples plataformas en un esfuerzo por eludir los préstamos de día de pago abusivos, solo para salir adelante mientras tanto.
D fue rechazado en todos los préstamos que solicitaron. Aunque D no confirmó qué empresas específicas, el sector tiene múltiples opciones, incluidas Upstart, Upgrade, SoFi, Best Egg y Happy Money, entre otras.
D dice que cuando llamaron a las empresas después de enviar una solicitud en línea, nadie pudo ayudar ni hubo apelaciones.
Cuando D tenía poco más de veinte años, tenía una tarjeta de crédito con la que no podía pagar las facturas. Esa era su única tarjeta de crédito. También alquilan un apartamento y dependen del transporte público.
Según los prestamistas en línea impulsados por la IA, su falta de historial crediticio y de garantías los hace no elegibles para un préstamo a pesar de haber pagado su deuda pendiente hace seis años.
D no confirmó a qué empresas específicas intentaron obtener un préstamo. Al Jazeera se acercó a cada una de esas empresas para comentar sobre sus procesos; solo dos respondieron, Upgrade y Upstart, al momento de la publicación.
"Hay casos en los que podemos cambiar la decisión sobre el préstamo basándonos en información adicional, es decir, prueba de otras fuentes de ingresos, que no se proporcionó en la solicitud original, pero cuando se trata de una 'decisión humana', "Hay mucho espacio para prejuicios personales, algo que los reguladores y los líderes de la industria han trabajado arduamente para eliminar", dijo un portavoz de la compañía Upgrade en un correo electrónico a Al Jazeera. "La tecnología ha aportado objetividad y equidad al proceso de préstamo, y ahora las decisiones se toman en función del verdadero mérito del solicitante".
Sesgos históricos amplificados
Pero no es tan simple como eso. Los sesgos históricos existentes a menudo se ven amplificados con la tecnología moderna. Según una investigación de 2021 realizada por el medio The Markup, los estadounidenses negros tienen un 80 por ciento más de probabilidades de ser rechazados automáticamente por las agencias que otorgan préstamos que sus homólogos blancos.
“La IA es sólo un modelo que se entrena con datos históricos”, dijo Naeem Siddiqi, asesor principal de SAS, una empresa global de datos e inteligencia artificial, donde asesora a los bancos sobre el riesgo crediticio.
Esto se debe a la larga historia de prácticas discriminatorias en la banca hacia las comunidades de color en Estados Unidos.
"Si se toman datos sesgados, lo único que hará la IA o cualquier modelo es esencialmente repetir lo que le dio", dijo Siddiqui.
“El sistema está diseñado para tomar tantas decisiones como sea posible con el menor sesgo y juicio humano posible para que sea una decisión objetiva. Ésta es la ironía de la situación... por supuesto, hay algunos que se quedan en el olvido”, añadió Siddiqi.
No se trata sólo de una cuestión de raza. Empresas como Apple y Goldman Sachs incluso han sido acusadas de conceder sistemáticamente límites de crédito más bajos a las mujeres que a los hombres.
Estas preocupaciones también son generacionales. Siddiqi dice que tales negaciones también limitan abrumadoramente la movilidad social entre las generaciones más jóvenes, como los jóvenes millennials (los nacidos entre 1981 y 1996) y la Generación Z (los nacidos entre 1997 y 2012), en todos los grupos demográficos.
Esto se debe a que el apodo estándar de buena salud financiera –incluyendo tarjetas de crédito, casas y automóviles– cuando se evalúa la responsabilidad financiera de alguien es cada vez menos relevante. Sólo aproximadamente la mitad de la Generación Z tiene tarjetas de crédito. Esa es una disminución con respecto a todas las generaciones anteriores.
También es menos probable que los miembros de la Generación Z tengan garantías, como un automóvil, para apostar al solicitar un préstamo. Según un estudio reciente de McKinsey, este grupo de edad tiene menos probabilidades de optar por obtener una licencia de conducir que las generaciones anteriores. Sólo una cuarta parte de los jóvenes de 16 años y el 45 por ciento de los de 17 años tienen permiso de conducir. Eso es un 18 por ciento y un 17 por ciento menos, respectivamente.
La Oficina de Protección Financiera del Consumidor ha intensificado sus salvaguardias para los consumidores. En septiembre, la agencia anunció que las agencias de crédito ahora tendrán que explicar el motivo detrás de la denegación de un préstamo.
“Los acreedores a menudo alimentan estos complejos algoritmos con grandes conjuntos de datos, que a veces incluyen datos que pueden extraerse de la vigilancia de los consumidores. Como resultado, a un consumidor se le puede negar crédito por razones que tal vez no considere particularmente relevantes para sus finanzas”, dijo la agencia en un comunicado.
Sin embargo, la agencia no aborda la falta de un proceso de apelación humana, ya que D afirma haberlo tratado personalmente.
D dijo que tuvieron que posponer el pago de algunas facturas que dañarán su salud financiera a largo plazo y podrían afectar su capacidad para obtener un préstamo con tasas de interés razonables, en todo caso, en el futuro.
'Excluidos de las oportunidades'
Siddiqi sugiere que los prestamistas deberían comenzar a considerar datos alternativos al tomar una decisión sobre préstamos, que pueden incluir pagos de alquiler y servicios públicos e incluso el comportamiento en las redes sociales, así como los patrones de gasto.
En las redes sociales, los registros de extranjeros son un indicador clave.
“Si tienes más dinero, tiendes a viajar más o si sigues páginas como Bloomberg, Financial Times y Reuters es más probable que seas financieramente responsable”, añade Siddiqi.
vaya !!! yo sigo esas 3 además , The economist, CNBC , The Wall street Journal , Al Jazeera, Al arabiya, Al Mayadeen , BBC, Rusia Today. El País, CNN, Gestión, Deutsche Welle, Hispan TV, Irna, Haaretz , Aurora Digital , Yomiuri Shimbum , Xinhua, Pravda. Hurriyet. Sana, ya préstenme un millón.
El problema del rechazo automático no es sólo un problema para las solicitudes de préstamos y membresías, sino también de las oportunidades laborales. En plataformas de redes sociales como Reddit, los usuarios publican correos electrónicos de rechazo que reciben inmediatamente después de enviar una solicitud.
"Cumplí con todos los requisitos y acerté todas las palabras clave y un minuto después de enviar mi solicitud, recibí tanto el reconocimiento de la solicitud como la carta de rechazo", dijo a Al Jazeera Matthew Mullen, el cartel original.
El editor de vídeo con sede en Connecticut dice que esta fue la primera vez para él. Expertos como Lakia Elam, directora de la consultora de Recursos Humanos Magnificent Differences Consulting, afirma que entre los sistemas de seguimiento de candidatos y otras herramientas impulsadas por la IA, esto se está convirtiendo en un tema cada vez más importante y cada vez más problemático.
Los sistemas de seguimiento de candidatos a menudo pasan por alto habilidades transferibles que no siempre se alinean en el papel con el conjunto de habilidades de un candidato.
"A menudo, los solicitantes que tienen una trayectoria profesional no lineal, muchos de los cuales provienen de diversos orígenes, quedan excluidos de las oportunidades", dijo Elam a Al Jazeera.
"Sigo diciéndoles a las organizaciones que debemos mantener el toque humano en este proceso", dijo Elam.
Pero cada vez más organizaciones dependen más de programas como ATS y ChatGPT. Elam sostiene que eso deja fuera a muchos solicitantes de empleo que valen la pena, incluida ella misma.
"Si tuviera que pasar por un sistema de inteligencia artificial hoy, te garantizo que sería rechazado", dijo Elam.
Tiene un GED (el equivalente al diploma de escuela secundaria) en lugar de un título de cuatro años.
“Ven GED en mi currículum y dicen que debemos mantenernos alejados de esto”, agregó Elam.
En parte, esa es la razón por la que los estadounidenses no quieren que la IA participe en el proceso de contratación. Según un informe de abril de 2023 de Pew Research, el 41 por ciento de los estadounidenses cree que la IA no debería utilizarse para revisar solicitudes de empleo.
"Es parte de una conversación más amplia sobre perder el camino hacia el debido proceso", dijo Rachel.
No hay comentarios:
Publicar un comentario