“El orden social podría colapsar y provocar guerras”: dos de las principales empresas de Japón temen una IA desenfrenada y advierten que los humanos son “fáciles de engañar”

 “El orden social podría colapsar y provocar guerras”: dos de las principales empresas de Japón temen una IA desenfrenada y advierten que los humanos son “fáciles de engañar”

BOYCHRIS MORRIS

8 de abril de 2024 a las 09:43 GMT-5

El director ejecutivo de OpenAI, Sam Altman, habla en Tokio.

.

TOMOHIRO OHSUMI/GETTY IMÁGENES

La mayor compañía de telecomunicaciones y el periódico más grande de Japón han emitido una severa advertencia sobre la inteligencia artificial, diciendo que si se permite que no se controle, podría resultar en el colapso de la sociedad tal como la conocemos. También "se espera que la tecnología mejore la productividad laboral hasta cierto punto", añaden.

Nippon Telegraph and Telephone (NTT) y Yomiuri Shimbun Group Holdings publicaron el lunes una propuesta conjunta para dar forma a la IA generativa, instando a los funcionarios a revisar las leyes que rodean la tecnología y diciendo que la IA ya está teniendo impactos negativos en los usuarios.

"Si se permite que la IA generativa no se controle, la confianza en la sociedad en su conjunto puede verse dañada a medida que las personas desconfían unas de otras y se pierden incentivos para garantizar la autenticidad y la confiabilidad", se lee en el documento. “Existe la preocupación de que, en el peor de los casos, la democracia y el orden social puedan colapsar y provocar guerras”.

Los humanos, dijeron las dos compañías, son incapaces de controlar completamente esta tecnología, y señalaron que la IA "se encuentra en la confianza" y los humanos "se dejan engañar fácilmente". El diseño de sistemas de inteligencia artificial para captar la atención de los usuarios también ha sido perjudicial, sostiene el documento, dañando “la autonomía y la dignidad, que son valores esenciales que permiten que los individuos de nuestra sociedad sean libres”.

La propuesta critica aún más el uso de la IA en las escuelas, especialmente para los estudiantes más jóvenes cuya "capacidad para tomar decisiones apropiadas no ha madurado completamente".

El grupo pide al gobierno de Japón que tome medidas, incluida la aprobación de leyes que protejan las elecciones y la seguridad nacional y leyes de derechos de autor más estrictas. Reconociendo que cualquier reforma legal llevará tiempo, las organizaciones están pidiendo a los medios de comunicación y a los líderes industriales del país que introduzcan normas en torno a la difusión de tecnologías de IA.

Si bien el informe fue cauteloso respecto de las desventajas de la IA, no despreció la tecnología en su conjunto, señalando que el genio ya hace tiempo que salió de la botella y que no hay vuelta atrás.

"La tecnología de inteligencia artificial en sí misma ya es indispensable para la sociedad", dijeron las empresas. "Si la tecnología de IA se descarta en su conjunto como poco confiable debido a una IA generativa fuera de control, la productividad de la humanidad puede disminuir".

Japón, al igual que Estados Unidos, se ha visto estancado en el tema de la regulación de la IA. Mientras tanto, la Unión Europea ya ha ratificado un acuerdo provisional que establece reglas de IA que podrían marcar la pauta sobre cómo actuarán otros países a continuación.

La Ley de IA, como se la llama, establece reglas para una serie de industrias, desde la banca hasta el transporte, así como pautas sobre cómo las fuerzas del orden pueden utilizar la IA en sus funciones. También se aborda cómo se pueden construir grandes modelos lingüísticos para proteger tanto la privacidad individual como los secretos corporativos.