"La humanidad necesita despertar": Escalofriante mensaje del CEO de una empresa de IA
Dario Amodei, director ejecutivo de la empresa emergente estadounidense de investigación y desarrollo de inteligencia artificial Anthropic, ha lanzado una seria advertencia sobre dicha tecnología en un ensayo publicado este lunes en su página web.
"Dado que la IA ahora escribe gran parte del código en Anthropic, ya está acelerando sustancialmente nuestro progreso en la construcción de la próxima generación de sistemas de IA", reza el texto en el que se indica que la compañía está cerca de "un punto en el que la generación actual de IA construirá la siguiente de forma autónoma".
Asimismo, indica que, si no se toman cartas en el asunto, podría derivar en riesgos catastróficos que van desde el desplazamiento masivo de empleos hasta la extinción humana, pasando por la posibilidad de una "dictadura totalitaria global" habilitada por la vigilancia, la propaganda y las armas autónomas impulsadas por la IA.
"Poder casi inimaginable"
Amodei alerta sobre los "riesgos de autonomía", donde los sitemas de inteligencia artificial —tecnología que cree que está a punto de conseguir un "poder casi inimaginable"— podrían "descontrolarse y dominar a la humanidad".
Destaca que una de las amenazas más urgentes es el potencial que posee la IA para reducir considerablemente la barrera para la creación de armas biológicas y otras de destrucción masiva.
"Un solitario perturbado puede perpetrar un tiroteo en una escuela, pero probablemente no pueda construir un arma nuclear ni desatar una plaga", continúa, asegurando que una IA mejorada convertiría a cualquiera en un virólogo con doctorado capaz de "guiar paso a paso el proceso de diseño, síntesis y liberación de un arma biológica", llegando incluso a crear un patógeno sintético capaz de "destruir toda la vida en la Tierra".
En consecuencia, Amodei aboga por una regulación "quirúrgica", empezando por leyes de transparencia, para establecer las barreras de seguridad necesarias. "La humanidad necesita despertar", concluye, aseverando que los próximos años son una prueba crucial para la madurez de la civilización.
No hay comentarios:
Publicar un comentario