7
grandes problemas que están causando los algoritmos en el mundo,
http://www.bbc.com/mundo/noticias-38932308
Redacción
BBC
Mundo
15
febrero 2017
Los
algoritmos lo controlan todo, desde las operaciones financieras hasta nuestra
salud o ciertos sistemas educativos.
Vivimos
en la era de los algoritmos. Esos códigos matemáticos lo abarcan todo: desde los resultados de los
buscadores de internet y redes sociales, hasta los sistemas de seguridad de
nuestras tarjetas de crédito y teléfonos móviles.
Los
algoritmos han revolucionado nuestras vidas, facilitando en muchos casos tareas
informáticas más o menos complejas que antes tomaban mucho tiempo en
resolverse, salvando vidas y organizando situaciones caóticas.
Han
transformado el comercio -desde librerías hasta
supermercados- prediciendo y controlando sistemas electrónicos de forma
rápida y eficiente, y gestionando la mayoría de las transacciones financieras.
El éxito de Google, Amazon, YouTube o Netflix es fruto de los
algoritmos.
Algoritmos,
las reglas secretas de la vida moderna
Cómo
aprovechar los algoritmos informáticos para acabar rápido con las tareas
cotidianas y ser más eficaces
También
pueden ayudarnos a encontrar pareja, a encontrar trabajo, reconocer rostros,
tomar fotos, construir -y manejar autos-, enviar emails o ubicarnos en un mapa.
"Todo
lo que la gente hace y ve en la web es producto de algoritmos. Y están
emergiendo nuevos algoritmos de autoaprendizaje y autoprogramación",
explican los expertos del centro independiente de investigación Pew Research
Center, con sede en Washington D.C., EE.UU.
Pero los
algoritmos también tienen un lado oscuro y no
siempre el cambio que introducen es positivo, especialmente si les otorgamos
demasiado control sobre la toma de ciertas decisiones.
Estos son
algunos de los problemas que están causando en el mundo.
1.
La perturbación de los mercados financieros
algoritmosDerechos
de autor de la imagenTHINKSTOCK
Image
caption
Los
algoritmos lo controlan todo, desde las operaciones financieras hasta nuestra
salud o ciertos sistemas educativos.
La moneda británica cayó descontroladamente frente al dólar -hasta un
6,1%- en los mercados asiáticos en octubre de 2016. Fue el mayor
descenso de la divisa desde el voto del Brexit (la salida de Reino Unido de la
Unión Europea), cuando se hundió un 11%.
Y el
desplome se debió, en parte, a operaciones computarizadas que funcionan con
algoritmos, dicen los especialistas de Pew Research Center.
Los
analistas creen que él pudo deberse a los programas informáticos diseñados para
operar en los mercados de forma automática y que pueden reaccionar mucho más
rápido que los humanos.
Y algunos
dicen que, en aquel momento, había pocas personas en el mercado y las
operaciones estaban siendo realizadas, mayoritariamente, por algoritmos, aunque todavía no
se sabe qué pasó con exactitud.
¿Algoritmo
descontrolado o error humano?: qué causó que la libra
esterlina sufriera un desplome monumental en minutos
2.
El fomento de los discursos de odio en internet
MicrosoftDerechos
de autor de la imagenTAY
Image
caption
Los
algoritmos hicieron que las interacciones de Tay, el bot de Microsoft para Twitter, fueran racistas y xenófobas.
Hace casi un
año, Microsoft creó un programa informático para mantener conversaciones con
usuarios de Twitter al que llamó Tay.
Sin embargo,
el experimento terminó en un fracaso estrepitoso cuando Tay comenzó a emitir
comentarios racistas y xenófobos, mostrando su simpatía por Hitler y
justificando el Holocausto.
El bot
estaba basado en algoritmos que habían "aprendido" a responder a sus
interlocutores, a quienes acusaron de "abusar del sistema".
Pero lo
cierto es que la apuesta del gigante tecnológico por la inteligencia artificial
no salió como esperaba, y puso de manifiesto una vulnerabilidad que no había
tenido en cuenta antes.
Tay, la
robot racista y xenófoba de Microsoft
3.
La distribución de noticias falsas
FacebookDerechos
de autor de la imagenBLOOMBERG/GETTY
Image
caption
Los
algoritmos de Facebook crean tu sección de noticias de forma predeterminada.
"Facebook
trató de crear una herramienta para destacar los temas que son tendencia en la
sección de noticias de la gente", explican los analistas.
"Primero,
contó con un equipo humano para editarlo, pero hubo controversia cuando les
acusaron de sesgo contra los conservadores, así que decidió dejarlo en manos de
los algoritmos"
El problema
fue que las máquinas no pudieron
diferenciar las noticias falsas de las reales, agregan desde Pew Research
Center.
4 formas de
burlar el algoritmo de Facebook y "romper la burbuja" de las redes
sociales
4.
El aumento de la desigualdad y la discriminación
algoritmos
matemáticos en una pizarraDerechos de autor de la imagenTHINKSTOCK
Image
caption
Algunos
modelos matemáticos limitan las posibilidades educativas de ciertas personas y
sectores de la población.
Cathy O'Neil
-una exprofesora del prestigioso Barnard College de la Universidad de Columbia,
en EE.UU. que trabajó como analista de datos en Wall Street- explicó en su
libro, "Weapons of Math Destruction"(Armas de destrucción
matemática), que hay ciertos algoritmos"opacos,
desregulados e irrefutables" que refuerzan la discriminación.
Es el lado
oscuro del Big Data.
Esos algoritmos favorecen a los más afortunados y castigan a los
oprimidos, creando un "cóctel tóxico para
la democracia" al controlar resultados
académicos, clasificar currículos vitae, evaluar a trabajadores, determinar
votantes, establecer penas de libertad condicional y vigilar la salud de los
ciudadanos.
Los
algoritmos ocultos que funcionan como "armas de destrucción
matemática"
5.
La destrucción de empleos
PapelDerechos
de autor de la imagenTHINKSTOCK
Image
caption
Las máquinas causarán desempleo, dicen los
expertos.
La Casa
Blanca lanzó el pasado mes de octubre dos informes detallando el avance de los
algoritmos y de la inteligencia artificial, además de los planes para gestionar
esa realidad.
Dos meses
más tarde, emitió un nuevo informe hablando sobre los efectos potenciales de la
inteligencia artificial en el mercado laboral y en la economía estadounidense.
"Puede
ser que en mi vida haya mirado 20.000 o 30.000 currículos", explicó
Sheerov Desai, ejecutivo jefe de Gild, una empresa de reclutamiento. "Pero
una máquina que se ha alimentado de cientos de millones va a hacerlo mejor que
yo".
Y ese es
sólo un ejemplo. El problema afecta a muchos otros sectores.
Cómo
funcionan y cómo pueden afectarte los algoritmos que seleccionan candidatos de
trabajo
6.
La vulnerabilidad de internet
HackerDerechos
de autor de la imagenTHINKSTOCK
Image
caption
En octubre,
la ruta de acceso a las plataformas de Twitter, Netflx o Spotify fue inundada
con tráfico basura a raíz de un ciberataque.
"Los
algoritmos bienintencionados pueden ser saboteados por terceros", dicen
los analistas de Pew Research Center.
Eso fue lo
que ocurrió hace apenas unos meses en Estados Unidos, cuando unos hackers
atacaron a un proveedor de acceso al sistema de nombres de dominio (DNS, por
sus siglas en inglés)DNS llamado Dynsobrecargándolo con información y tráfico
basura.
El
ciberataque provocó la caída de Twitter, Spotify,
Netflix, Airbnb, SoundCloud, Amazon y hasta diarios como The New York Times.
Tardó dos
horas en ser resuelto.
Por otra
parte, el abuso del algoritmo de Facebook para la difusión de noticias falsas
fue un tema controversial durante la campaña presidencial estadounidense de
2016.
¿Cómo un
único ciberataque pudo dañar a varios sitios populares como Twitter, Spotify y
Netflix al mismo tiempo?
7. La falta de ética y otros peligros potenciales
RobotsDerechos
de autor de la imagenTHINKSTOCK
Image
caption
¿Cómo lograr
evitar los peligros? Los especialistas están buscando la respuesta.
En enero, el
Future of Life Institute publicó una carta abierta con 23 principios para
evitar los peligros de la Inteligencia Artificial.
El escrito
incluía más de 1.600 firmas, entre ellas la de Steven Hawking, Elon Musk, Ray
Kurzweil y cientos de científicos e investigadores de todo el mundo.
Los multimillonarios de la tecnología
que quieren "protegernos" de la inteligencia artificial
Además, la
Fundación Knight, el Instituto de Tecnología de Massachusetts (MIT), la
Universidad de Harvard y otras instituciones crearon el Fondo para la Ética y
Gobierno de la Inteligencia Artificialpara "identificar problemas, ayudar
a determinar quién los decide y abordar perspectivas sobre cómo sacaremos el
mejor provecho a la inteligencia artificial para beneficiar a la sociedad y
minimizar su daño potencial", dijo Alberto Ibargüen, presidente de la
Fundación Knight.
"La
promesa de la inteligencia artificial está inevitablemente ligada al beneficio
público", aseguró.
Y todo
parece indicar que los inconvenientes serán también
inevitables.
No hay comentarios:
Publicar un comentario