La inteligencia artificial plantea una gran amenaza para la sociedad, advierten los principales científicos.
https://www.voanews.com/a/artificial-intelligence-poses-big-threat-to-socienty-warn-leading-scientists/4274329.html
28 de febrero de 2018 12:18 p.m.
MIRAR: el video de Henry Ridgwell
La Inteligencia Artificial está en la cúspide de transformar nuestro mundo de maneras que muchos de nosotros apenas podemos imaginar. Si bien hay mucha expectación acerca de las tecnologías emergentes, un nuevo informe de 26 de los principales investigadores de IA del mundo advierte sobre los peligros potenciales que podrían surgir en la próxima década, a medida que los sistemas de IA comienzan a superar los niveles de rendimiento humano.
El pirateo automático se identifica como una de las aplicaciones más inminentes de la IA, especialmente los llamados ataques de "phishing".
"Esa parte solía requerir mucho esfuerzo humano: tenías que estudiar tu objetivo, hacer un perfil de ellos, crear un mensaje en particular, eso se conoce como phishing. Ahora estamos llegando al punto en que podemos entrenar computadoras para que hagan lo mismo. De modo que puede modelar los temas de interés o preferencias de alguien, su estilo de escritura, el estilo de escritura de un amigo cercano y hacer que una máquina cree automáticamente un mensaje que se parece mucho a algo en lo que harían clic ", dice el coautor del informe, Shahar Avin. del Centro para el estudio del riesgo existencial en la Universidad británica de Cambridge.
En una era de las llamadas "noticias falsas", las implicaciones de la inteligencia artificial para los medios y el periodismo también son profundas.
Programadores de la Universidad de Washington construyeron el año pasado un algoritmo de IA para crear un video de Barack Obama, permitiéndoles programar al ex presidente "falso" para que diga todo lo que deseen. Es solo el comienzo, dice Avin.
"Se crean videos y grabaciones de audio que son de píxel a píxel indistinguibles de los videos reales y el audio real de las personas. Necesitaremos nuevas medidas técnicas. Tal vez algún tipo de firma digital, para poder verificar las fuentes ".
Hay mucho entusiasmo por la tecnología, como los automóviles de IA autodirigidos, con grandes compañías de tecnología junto a fabricantes de autos gigantes que compiten por ser los primeros en comercializar. Sin embargo, los sistemas son tan seguros como los entornos en los que operan.
"Puede tener un automóvil que sea tan bueno y mejor para navegar el mundo que un conductor promedio. Pero pones algunas pegatinas en un cartel de "Parar" y piensa que es "Ir a 55 millas por hora". Mientras no hayamos solucionado ese problema, podríamos tener sistemas que son muy seguros, pero no son seguros. Podríamos tener un mundo lleno de sistemas robóticos que son muy útiles y muy seguros, pero también están expuestos a un ataque de un actor malicioso que sabe lo que están haciendo ", agrega Avin.
El informe advierte que la proliferación de drones y otros sistemas robóticos podría permitir a los atacantes implementar o reutilizar dichos sistemas con fines perjudiciales, como el choque de flotas de vehículos autónomos, convertir drones comerciales en misiles dirigidos a rostros o mantener una infraestructura crítica para rescatarlos "
Él dice que el uso de la IA en la guerra es ampliamente visto como una de las posibilidades más inquietante, con los llamados 'robots asesinos' y la toma de decisiones tomadas de las manos de los humanos.
"Deseas tener una ventaja sobre tu oponente al desplegar montones y montones de sensores, montones y montones de pequeños sistemas robóticos, todos ellos te dan terabytes de información sobre lo que está sucediendo en el campo de batalla. Y ningún humano estaría en condiciones de agregar esa información, por lo que comenzaría a tener sistemas de recomendación de decisiones. En este punto, ¿todavía tienes un control humano significativo? "
También existe el peligro de que la IA se utilice en la vigilancia masiva, especialmente por regímenes opresivos.
Los investigadores destacan las muchas aplicaciones positivas de la IA; sin embargo, señalan que se trata de una tecnología de doble uso, y afirman que los investigadores e ingenieros de IA deben ser proactivos sobre el potencial de su uso indebido.
Los autores dicen que la IA misma probablemente proporcionará muchas de las soluciones a los problemas que identifican.
No hay comentarios:
Publicar un comentario