Laureate premio nóbel amplifica las advertencias sobre la IA

 Laureate premio nóbel amplifica las advertencias sobre la IA

THE WALL STREET JOURNAL. Jueves, 10 de octubre de 2024 | A3

NOTICIAS DE EE. UU.

El recién galardonado con el premio Nobel Geoffrey Hinton tiene un

mensaje sobre los sistemas de inteligencia artificial que ayudó a crear: tomen más en serio la

seguridad o podrían poner en

peligro a la humanidad.

“Creo que estamos en una especie de

punto de bifurcación en la historia

en el que, en los próximos años,

debemos averiguar si hay una manera de lidiar con esa

amenaza”, dijo Hinton en una entrevista el martes con un funcionario del Premio Nobel que mezcló el orgullo por el trabajo de su vida con advertencias sobre el creciente

peligro que representa.

Hinton, de 76 años, renunció a Google el año pasado

en parte para poder hablar más

sobre la posibilidad de que los sistemas de IA puedan escapar al control

humano e influir en las elecciones

o impulsar robots peligrosos. Junto con otros investigadores experimentados en

IA, ha pedido

a empresas como OpenAI, Meta Platforms y Google, propiedad de Alpha, que dediquen

más recursos a la seguridad

de los sistemas avanzados que compiten entre sí para desarrollar lo más rápido posible.

El Nobel de Hinton ha proporcionado una nueva plataforma para sus

advertencias apocalípticas al mismo tiempo que celebra su

papel fundamental en el avance de las tecnologías que las impulsan.

Hinton ha argumentado que un..

Los sistemas avanzados de IA son capaces

de comprender sus resultados, una opinión controvertida en

los círculos de investigación. “Con suerte, me hará más creíble

cuando digo que estas cosas realmente

entienden lo que están

diciendo”, dijo sobre el premio.

Las opiniones de Hinton lo han enfrentado

con facciones de la comunidad de IA que creen que insistir en escenarios apocalípticos

ralentiza innecesariamente el progreso tecnológico o distrae

de daños más inmediatos, como la

discriminación contra grupos minoritarios.

“Creo que es un tipo inteligente, pero creo que mucha gente

ha exagerado mucho el riesgo

de estas cosas”, dijo Melanie

Mitchell, profesora del Instituto Santa Fe, durante un panel el año pasado.

,,,,

El miércoles, otros destacados empleados de Google especializados en

IA también recibieron el Premio Nobel. Demis Hassabis, director

ejecutivo de Google DeepMind,

y John Jumper, director del laboratorio de

IA, formaban parte de un grupo de tres científicos que

ganaron el premio de química por su trabajo en la

predicción de la forma de las proteínas.

Hinton compartió el Nobel de

física con John Hopfield, de la Universidad

de Princeton, por su trabajo desde la década de 1980 en redes neuronales que procesan la información de maneras inspiradas en el cerebro

humano. Ese trabajo es la base de muchas de las tecnologías de IA que se utilizan hoy en día,

desde las conversaciones similares a las humanas de ChatGPT hasta la capacidad de Google Photos de reconocer quién está

en cada foto que tomas. “Sus contribuciones para conectar conceptos fundamentales

en física con conceptos en biología, no solo en IA, estos conceptos todavía están con nosotros hoy”, dijo Yoshua Bengio, investigador de IA en la Universidad de

Montreal.

Hinton recibió el Premio Turing 2018, un premio de ciencias de la computación, por su trabajo en

redes neuronales junto con Bengio y un colega investigador de IA, Yann LeCun. A los tres se los suele llamar los “padrinos de la IA” modernos.

Para 2023, Hinton se había alarmado por las consecuencias de construir una inteligencia artificial más poderosa.

Comenzó a hablar sobre la...posibilidad de que los sistemas de IA

puedan escapar del control de

sus creadores y causar daños catastróficos a la humanidad. Al

hacerlo, se alineó

con un movimiento vocal de personas preocupadas por los riesgos existenciales de la tecnología.

“Estamos en una situación que

la mayoría de la gente ni siquiera puede concebir, que es que estas

inteligencias digitales van a ser

mucho más inteligentes que nosotros,

y si quieren hacer cosas, van a querer

tomar el control”, dijo Hinton en

una entrevista el año pasado.

Hinton anunció que dejaría Google en la primavera de 2023,

diciendo que quería poder

discutir libremente los peligros de la IA sin preocuparse por

las consecuencias para la empresa.

Google había actuado "de manera muy responsable", dijo en una publicación de X.

En los meses siguientes,

Hinton ha pasado gran parte de su

tiempo hablando con los responsables políticos

y ejecutivos tecnológicos, incluido

Elon Musk, sobre los riesgos de la IA.

El creciente activismo de Hinton

lo ha puesto en oposición a

otros investigadores respetados

que creen que sus advertencias son

fantásticas porque la IA está lejos

de tener la capacidad de

causar daños graves.

“Su total falta de comprensión del mundo físico y su falta de

capacidades de planificación los colocan muy por debajo de la inteligencia

de los gatos, por no hablar del nivel humano”, escribió LeCun

en una respuesta a Hinton

en X el año pasado.