La IA plantea un riesgo de extinción humana similar al de una guerra nuclear, advierten Sam Altman y otros líderes tecnológicos
- Sam Altman, director ejecutivo de OpenAI, fabricante de ChatGPT, así como ejecutivos de la división de IA de Google, DeepMind, y Microsoft estuvieron entre los que apoyaron y firmaron la breve declaración.
- “Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, dice el comunicado.
- Otros líderes tecnológicos, como Elon Musk de Tesla y el ex director ejecutivo de Google, Eric Schmidt, han advertido sobre los riesgos que la IA representa para la sociedad.
La inteligencia artificial puede conducir a la extinción humana y la reducción de los riesgos asociados con la tecnología debería ser una prioridad mundial, afirmaron expertos de la industria y líderes tecnológicos en una carta abierta .
“Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social como las pandemias y la guerra nuclear”, se lee en el comunicado del martes.
Sam Altman, CEO de OpenAI, fabricante de ChatGPT, así como ejecutivos deGoogleEl brazo de IA de DeepMind y Microsoftestuvieron entre los que apoyaron y firmaron la breve declaración del Centro para la Seguridad de la IA.
La tecnología se ha acelerado en los últimos meses después de que el chatbot ChatGPT se lanzara para uso público en noviembre y posteriormente se volviera viral. En solo dos meses después de su lanzamiento, alcanzó los 100 millones de usuarios. ChatGPT ha asombrado a los investigadores y al público en general con su capacidad para generar respuestas similares a las humanas a las indicaciones de los usuarios, lo que sugiere que la IA podría reemplazar los trabajos e imitar a los humanos.
La declaración del martes dijo que ha habido una discusión cada vez mayor sobre un “amplio espectro de riesgos importantes y urgentes de la IA”.
Pero dijo que puede ser “difícil expresar preocupaciones sobre algunos de los riesgos más graves de la IA avanzada” y tenía el objetivo de superar este obstáculo y abrir las discusiones.
Podría decirse que ChatGPT ha generado mucha más conciencia y adopción de la IA, ya que las principales empresas de todo el mundo se han apresurado a desarrollar productos y capacidades rivales.
Altman admitió en marzo que está “un poco asustado” de la IA porque le preocupa que los gobiernos autoritarios desarrollen la tecnología. Otros líderes tecnológicos, como Elon Musk de Tesla y el ex director ejecutivo de Google, Eric Schmidt, han advertido sobre los riesgos que la IA representa para la sociedad.
En una carta abierta en marzo, Musk, el cofundador de Apple, Steve Wozniak, y varios líderes tecnológicos instaron a los laboratorios de inteligencia artificial a detener los sistemas de capacitación para que sean más poderosos que GPT-4 , que es el último modelo de lenguaje grande de OpenAI. También pidieron una pausa de seis meses en un desarrollo tan avanzado.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos con los humanos en tareas generales”, decía la carta.
″¿Deberíamos automatizar todos los trabajos, incluidos los satisfactorios? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?” preguntó la carta.
La semana pasada, Schmidt también advirtió por separado sobre los “riesgos existenciales” asociados con la IA a medida que avanza la tecnología .
No hay comentarios:
Publicar un comentario