Sam Altman afirma que la IA ha entrado en una "singularidad": ¿Deberíamos preocuparnos?
La "singularidad" se refiere al punto en el que la IA supera la inteligencia humana y se vuelve difícil de controlar.
¿Cómo se regula la industria tecnológica estadounidense?
La película estadounidense de 2014, Transcendence, narra la historia de un científico moribundo que transfiere su mente a una supercomputadora y se convierte en una inteligencia casi omnipotente. Un año después, Ex Machina contó la historia de un robot humanoide que burla a sus cuidadores humanos y escapa al mundo exterior.
Ambas películas, al igual que muchas otras del ámbito de la ciencia ficción, hacían referencia a lo que se conoce como "la singularidad", un momento en el tiempo en el que la tecnología, en particular la IA, supera la inteligencia humana y se vuelve cada vez más difícil de controlar.
El sábado, Sam Altman, director de OpenAI , declaró que ese momento ha llegado. La IA ha alcanzado la singularidad, afirmó. Si bien Altman recalcó que la singularidad puede ser beneficiosa para el mundo, su comentario ha generado preocupación.
Analicemos con más detalle lo que dijo Altman y si significa una automatización más fluida o el riesgo de una catástrofe inminente.
¿Qué es la singularidad?
La singularidad se refiere a un punto hipotético en el futuro en el que una tecnología como la IA supera la inteligencia humana y se vuelve capaz de mejorarse a sí misma de forma autónoma. Se teoriza que este es el punto en el que será difícil para los humanos controlarla o revertirla, y podría tener efectos impredecibles en la civilización humana.
La teoría propone que, una vez que la IA tome el control de su propio desarrollo, los avances tecnológicos subsiguientes podrían producirse tan rápidamente que los humanos serían incapaces de seguirles el ritmo, lo que la llevaría a evolucionar por sí sola, más allá del control humano.
Dado que se trata solo de una teoría, es difícil predecir sus posibles consecuencias. Algunos expertos advierten que la singularidad sería catastrófica para la humanidad, mientras que otros son más optimistas y sugieren que podría ser beneficiosa para la raza humana.
Hasta ahora, la singularidad se ha mantenido dentro del ámbito de la ciencia ficción. Uno de los ejemplos más famosos es la trilogía Matrix (1999-2003), que imagina un sombrío futuro posterior a la singularidad en el que las máquinas gobiernan a los humanos. Otro ejemplo es la película Singularity (2017), en la que una supercomputadora, originalmente construida para acabar con las guerras humanas, concluye que la humanidad es la verdadera amenaza y lanza un ataque apocalíptico para exterminarla por completo.
¿Qué dijo Altman sobre la singularidad?
Altman es el director ejecutivo de OpenAI, cuyo producto estrella, ChatGPT, domina el mercado de la IA para el consumidor con más de 900 millones de usuarios activos semanales y alrededor de 50 millones de suscriptores.
El año pasado, predijo que la IA superaría a la inteligencia humana en todos los ámbitos para 2030.
Luego, durante su aparición en el podcast Relentless, una serie documental "sobre la búsqueda de ideas descabelladas y aspiraciones inusuales", el sábado, Altman dijo: "Ahora estamos, por así decirlo, en la singularidad".
Aclaró que, en términos de avances tecnológicos, nos estamos adentrando gradualmente en la singularidad, y que este cambio será positivo para el mundo.
Añadió: “Ahora sí estamos viviendo ese momento del que solíamos hablar en la mesa durante el almuerzo, de una manera muy informal.
“He estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, fantástico para el mundo.”
Más adelante en el episodio del podcast, Altman criticó a otros líderes en IA por advertir que la IA podría ser peligrosa. Si bien Altman no mencionó a Anthropic, competidor de OpenAI, su director ejecutivo, Dario Amodei, es conocido por hacer este tipo de advertencias.
“También creo que algunas de las visiones alternativas que presentan otras empresas son bastante aterradoras”, dijo Altman. “Me aseguraré de que eso se rechace y no se convierta en realidad”.
El mes pasado, Anthropic, la empresa creadora del chatbot Claude, hizo un llamamiento a las principales empresas de IA del mundo para que idearan una forma coordinada de frenar el desarrollo de sistemas avanzados de IA, advirtiendo de que la tecnología está mejorando tan rápidamente que existe el riesgo de que los humanos pierdan el control.
En una publicación de blog del 4 de junio, Anthropic, que desde hace tiempo se ha posicionado como un laboratorio de IA centrado en la seguridad, escribió que a medida que la IA se vuelve más avanzada, "sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente" su desarrollo.
¿Por qué otros advierten sobre los peligros de la IA?
El 23 de julio, dos miembros del Congreso de los Estados Unidos presentaron la Ley de Interruptor de Desconexión de la IA , un proyecto de ley bipartidista que exigiría a los desarrolladores de IA del país incorporar un "interruptor de desconexión" en sus programas, lo que permitiría a los humanos ralentizar, suspender o apagar los modelos avanzados de IA si alguna vez representaran un riesgo catastrófico.
La legislación se presentó días después de que OpenAI revelara lo que describió como un "incidente cibernético sin precedentes", en el que dos de sus modelos de IA más avanzados escaparon de un entorno de pruebas y piratearon la plataforma de desarrollo de IA Hugging Face durante una evaluación de seguridad interna.
El 13 de julio, cientos de expertos firmaron una carta abierta , organizada por el laboratorio de economía digital de la Universidad de Stanford, en la que exigían que los responsables políticos y los líderes tecnológicos "actúen ya" para prepararse para el impacto económico de la IA.
La carta advierte que la IA podría volverse mucho más capaz en la próxima década, impulsando una transformación "mayor que la Revolución Industrial, pero que se desarrollaría en un plazo mucho más corto".
“Podría acarrear riesgos, como el desplazamiento masivo de puestos de trabajo, así como oportunidades, como mejoras significativas en el nivel de vida”, añadía la carta.
En junio, un equipo de investigadores de la Universidad de Toronto demostró que las herramientas de IA podrían utilizarse para crear un nuevo tipo de "gusano" de IA que adapta su estrategia de pirateo a medida que se propaga de dispositivo en dispositivo y se apodera de una vasta red informática.
“Creo que es muy importante que la gente entienda que no son solo los modelos de lenguaje más grandes y potentes los que plantean problemas de seguridad”, dijo el investigador principal Nicolas Papernot en una entrevista.
En los últimos años, los investigadores de IA han instado a hacer pausas similares a la sugerida recientemente por Anthropic. Sin embargo, no se les ha hecho caso.
Elon Musk, propietario del laboratorio de IA xAI, fue uno de los impulsores de una iniciativa de 2023 del Future of Life Institute, una organización sin ánimo de lucro, para detener el desarrollo de la IA durante seis meses con el fin de dar tiempo a desarrollar medidas de seguridad.
