La próxima crisis financiera podría provenir de la IA, dice el presidente de la SEC
Gary Gensler emitió una nota cautelosa sobre la tecnología que se sumó al escepticismo de otros funcionarios estadounidenses.
La próxima crisis financiera podría surgir del uso de la inteligencia artificial por parte de las empresas, dijo el presidente de la Comisión de Bolsa y Valores, Gary Gensler , y advirtió sobre el "riesgo sistémico" potencial que plantea la proliferación de la tecnología.
Los agregadores de datos y las plataformas de inteligencia artificial podrían ser componentes importantes de la futura "fragilidad" del sistema financiero, dijo Gensler el martes en una conferencia en Washington organizada por la Autoridad Reguladora de la Industria Financiera, el organismo autorregulador de Wall Street.
Los observadores dentro de unos años podrían mirar hacia atrás y decir "la crisis en 2027 se debió a que todo dependía de un nivel básico, lo que se llama [el] nivel generativo de IA, y un montón de aplicaciones fintech se construyeron encima de él", Sr. Gensler dicho. Los sistemas de IA generativa, como la popular herramienta ChatGPT , pueden crear salidas sofisticadas de texto, imágenes y sonidos.
INSCRÍBASE AL BOLETÍN
WSJ | Diario de Riesgo y Cumplimiento
Nuestro Informe matutino de riesgos presenta información y noticias sobre gobernanza, riesgo y cumplimiento.
Al igual que el Sr. Gensler, muchos funcionarios gubernamentales han adoptado una postura escéptica hacia la IA, incluso cuando una gran cantidad de empresas en toda la economía han adoptado la tecnología por su promesa de permitir que se haga más trabajo con menos trabajadores.
Los bancos y otras instituciones financieras han empleado IA en una variedad de funciones, incluso para el trabajo de cumplimiento normalmente laborioso que implica evaluar nuevos clientes o verificar transacciones sospechosas. Pero a pesar de las posibles mejoras en la eficiencia, los sistemas deben examinarse de cerca, dijo Gensler.
“No es necesario que entiendas las matemáticas, pero [tienes] que entender, realmente, cómo se maneja la gestión de riesgos”, dijo, destacando el potencial de decisiones sesgadas.
Aunque muchos defensores de la IA argumentan que los sistemas pueden diseñarse libres de los sesgos inconscientes de los seres humanos, los reguladores de EE. UU. han destacado repetidamente el potencial de la IA para escalar inadvertidamente los sesgos que podrían estar al acecho en sus diseñadores o en los datos en los que se entrenaron dichos sistemas. .
Las agencias de aplicación de la ley dijeron el mes pasado que abordarían la discriminación y el sesgo de AI en áreas como préstamos, vivienda y contratación. Algunas jurisdicciones más pequeñas también han tomado medidas para controlar la tecnología.
Sam Altman , el director ejecutivo del creador de ChatGPT, OpenAI, pidió el martes al Congreso que cree estándares de licencia y seguridad para la IA avanzada a medida que los legisladores comienzan un impulso regulatorio bipartidista .
Escriba a Richard Vanderford a Richard.Vanderford@wsj.com
Copyright © 2023 Dow Jones & Company, Inc. Todos los derechos reservados. 87990cbe856818d5eddac44c7b1cdeb8
Apareció en la edición impresa del 17 de mayo de 2023 como 'IA podría provocar la próxima crisis financiera, dice el jefe de la SEC'.
No hay comentarios:
Publicar un comentario