https://www.nytimes.com/2019/03/29/world/canada/bengio-artificial-intelligence-ai-turing.html
Yoshua Bengio, un pionero de la IA que ganó el Premio Turing 2018 AM con otros dos, apoya la propuesta de prohibir los robots que podrían usar la IA para atacar a humanos sin supervisión humana. Crédito Crédito Renaud Philippe para The New York Times
Por Dan Bilefsky
29 de marzo de 2019
MONTREAL - A Yoshua Bengio le preocupa que las innovaciones en inteligencia artificial que ayudó a desarrollar podrían llevar a un futuro oscuro, si los "robots asesinos" llegan a las manos equivocadas.
Sin embargo, el científico canadiense de 55 años de edad, de voz suave, ganador del Premio AM Turing de este año, considerado el Premio Nobel de computación, prefiere ver el mundo a través del idealismo de "Star Trek" en lugar de la visión apocalíptica de "El terminador."
"En 'Star Trek', hay un mundo en el que los humanos están gobernados a través de la democracia, todos reciben buena atención médica, educación y alimentos, y no hay guerras excepto contra algunos alienígenas", dijo el Dr. Bengio, cuya investigación ha ayudado a allanar El camino para la tecnología de reconocimiento de voz y facial, la visión por computador y los autos de auto conducción, entre otras cosas. "También estoy tratando de casar la ciencia con la forma en que puede mejorar la sociedad".
El Dr. Bengio expuso las promesas, y los peligros, de AI en un día reciente mientras estaba sentado en su pequeña y estrecha oficina en el Instituto de Algoritmos de Aprendizaje de Montreal, un centro de investigación que fundó y que ha hecho de Montreal un centro global de inteligencia artificial. Junto a él había una pizarra cubierta con complejas ecuaciones matemáticas, junto con una advertencia para los limpiadores escritos en francés: "No borrar".
ANUNCIO
Borrar esas ecuaciones podría tener un alto costo para los humanos y también para las máquinas.
El Dr. Bengio, profesor de ciencias de la computación en la Universidad de Montreal , es modesto. Pero su trabajo en un área conocida como aprendizaje profundo: "enseñar a las máquinas a aprender de una manera inspirada en la forma en que nuestros cerebros computan", dice, ya ha afectado nuestra vida diaria de innumerables formas, haciendo posible que Google Translate convierta una oración. de francés a mandarín o software para detectar células cancerosas en una imagen médica.
Él y sus investigadores también están aprovechando la IA para descubrir moléculas que podrían curar enfermedades, detectar sesgos de género en los libros de texto y predecir cuándo ocurrirán los desastres naturales.
Tiene 4 artículo libre s restante.
Suscríbete a The Times
Cherri M. Pancake, presidente de la Association for Computing Machinery , que ofrece el premio de $ 1 millón, acreditó al Dr. Bengio y a otras dos luminarias que compartieron el premio, Geoffrey Hinton y Yann LeCun , por sentar las bases de las tecnologías utilizadas por miles de millones de gente. "Cualquier persona que tenga un teléfono inteligente en el bolsillo" ha sentido su impacto, dijo, señalando que su trabajo también proporcionó "nuevas herramientas poderosas" en los campos de la medicina, la astronomía y las ciencias materiales.
A pesar de todos los elogios, el Dr. Bengio rechaza a los científicos que se convierten en celebridades. Mientras que el Dr. Hinton trabaja para Google y el Dr. LeCun es el principal científico de AI en Facebook, el Dr. Bengio ha evitado estudiadamente a Silicon Valley en favor de una vida más académica en Montreal, donde también es cofundador de Element AI, una empresa de software.
"No soy un fanático de la personalización de la ciencia y de hacer que algunos científicos sean estrellas", dijo el Dr. Bengio, un introvertido que se describe a sí mismo, y sus colegas dicen que es más feliz cuando se agacha sobre un algoritmo. "Tal vez tuve la suerte de estar en el momento adecuado y pensar lo correcto".
Destacados
Es posible leggings son el futuro. Tratar con él.
'Dog Suicide Bridge': ¿Por qué tantas mascotas siguen saltando en una garganta escocesa?
"Después de Colgar, recibí un texto simple: solo su nombre".
ANUNCIO
Myriam Côté , una científica informática que ha trabajado con el Dr. Bengio durante más de una década, lo describió como un iconoclasta y libre pensador que se sentiría bloqueado por las restricciones del Silicon Valley. Un corazón comunitario, dijo ella, elude a la jerarquía y es conocido por compartir los beneficios de sus propios proyectos con colegas más jóvenes y menos establecidos.
"Él quiere crear en libertad", dijo. Citando el credo de los estudiantes rebeldes en 1968 en París, donde nació el Dr. Bengio, dijo que su filosofía era: "Está prohibido prohibir".
Eso, a su vez, ha informado su acercamiento a la IA.
Incluso cuando Stephen Hawking, el célebre físico de Cambridge, advirtió que la IA podría ser "el peor evento en la historia de nuestra civilización", y el empresario multimillonario Elon Musk advirtió que podría crear un "dictador inmortal", el Dr. Bengio se ha mantenido más optimista.
"Tenemos que buscar el conocimiento científico, o todo lo que haremos es correr contra una pared", dijo. "Pero debemos hacerlo con prudencia". Refiriéndose al uso del álgebra para calcular los ángulos de los misiles, agregó: "No se puede culpar al inventor de álgebra por la guerra".
Sin embargo, en un momento en que los algoritmos de Facebook han sido criticados por su influencia en las elecciones de 2016 en los Estados Unidos y aumentan los temores de que los robots puedan usar la inteligencia artificial para atacar a humanos sin supervisión humana, el Dr. Bengio está muy consciente de que sus innovaciones corren el riesgo de convertirse en "Frankenstein's monstruos ". Como resultado, dijo, él apoya la regulación de la IA, incluido un tratado internacional que prohíbe" robots asesinos "o" armas autónomas letales ".
Pero descartó el "escenario Terminator" en el que una máquina, dotada de emociones humanas, se convierte en su creadora. Las máquinas, subrayó, no tienen egos ni sentimientos humanos, y no son esclavos los que quieren ser liberados. "Imaginamos que nuestras creaciones se vuelven contra nosotros porque estamos proyectando nuestra psicología en las máquinas", dijo, calificándolo de "ridículo".
Hijo de judíos sefardíes de Casablanca, Marruecos, que emigraron a París en la década de 1960, el Dr. Bengio rastreó su interés por la IA en su infancia, cuando devoró con avidez los libros de ciencia ficción de Isaac Asimov , Ray Bradbury y Arthur C. Clarke .
Suscríbase al boletín de noticias de Canadá
Cada semana, reciba una selección selecta de noticias y opiniones, además de comentarios exclusivos de los periodistas del New York Times.
REGÍSTRATE
ANUNCIO
Dijo que su imaginación estaba particularmente encendida por la relación entre el hombre y la máquina en "2001: Una odisea del espacio" de Stanley Kubrick. "Un maestro que pasa todos los días enseñando una máquina sobre el mundo me resonó", dijo. "La ciencia ficción era una manera de soñar con el futuro".
A la edad de 11 años, recordó, comenzó a programar insertando números en una calculadora. Cuando se le pidió que recordara los recuerdos más formativos de la infancia, de repente se detuvo e hizo una confesión poco probable.
“No tengo buena memoria, soy bueno para razonar, no para recordar. Por eso me atrajeron las matemáticas y la informática, ya que no necesitas memorizar nada ".
El Dr. Bengio atribuyó su éxito a sus padres con conciencia social, señalando que su padre, un farmacéutico que dirigió el teatro, y su madre, que manejó a los artistas, le dieron a él y a su hermano la libertad de pensar por sí mismos.
Parece que ha funcionado. Su hermano , Samy, un año más joven, dirige un grupo de investigación en Google Brain, un equipo de investigación de AI. Los dos eran "prácticamente gemelos", dijo, colaborando en la investigación e intercambiando ideas.
Cuando tenía 12 años, la familia se mudó a Montreal, donde vivían sus abuelos maternos. Mientras perseguía su maestría y doctorado en ciencias de la computación en la Universidad de McGill a fines de la década de 1980, recordó que se sintió atraído por el trabajo del Dr. Hinton, quien se esforzaba por desarrollar "computadoras inteligentes" basadas en las llamadas redes neuronales, algoritmos matemáticos. que pueden aprender tareas por su cuenta analizando vastas extensiones de datos.
"No se trataba solo de una cuestión matemática o informática, sino de comprender la inteligencia humana para construir máquinas inteligentes", dijo. Trabajo postdoctoral en el Instituto de Tecnología de Massachusetts y en los Laboratorios Bell.
ANUNCIO
El Dr. Bengio notó que él, el Dr. Hinton y el Dr. LeCun trabajaron en redes neuronales durante décadas, incluso cuando muchos en el establecimiento de ciencias de la computación los descartaron como dabblers en una forma de magia oscura con pocas aplicaciones prácticas, si es que las tienen. Para el Dr. Bengio, la sabiduría convencional se volvió natural.
"Los grandes sueños de construir máquinas inteligentes se desvanecieron a finales de los años 90 y la gente pensó: 'Oh, es demasiado difícil, solo usemos nuestros algoritmos para resolver problemas concretos' ', recordó. "Creo que no soy sensible a lo que a la gente le importa en un momento en particular, y creía en lo que estaba haciendo".
Mientras que su trabajo pionero transformó el campo, y lo convirtió en una superestrella de la IA, el Dr. Bengio aún se deleita en pasar tiempo con los estudiantes, a quienes describe como una "familia". Está divorciado y tiene dos hijos adultos, uno de los cuales se ha ido en la IA Pasa sus raros momentos libres leyendo a Spinoza y caminando por el bosque cerca de su casa.
Sin sentirse impresionado por los premios o riquezas científicas, el Dr. Bengio destacó que la complacencia y el exceso de confianza eran los enemigos del progreso científico.
"Ser seguro de sí mismo no es suficiente", dijo. "Puedes estar seguro de ti mismo y equivocado".
No hay comentarios:
Publicar un comentario