jueves, 21 de noviembre de 2019

​Los riesgos de la inteligencia artificial

Pablo Rodríguez Canfranc
Economista

Son numerosos los expertos del sector tecnológico y de actividades asociadas a él que expresan sus miedos y preocupaciones acerca de los peligros que presenta la inteligencia artificial. Uno de los nombres más destacados en este campo es el de Elon Musk, el fundador de empresas de alta tecnología como Tesla o Space X, pero también el propio Stephen Hawking, en sus últimos años de vida, también se manifestó en esa dirección.


Sobre este particular, el Pew Research Center en el verano de 2018 reunió en un estudio la opinión sobre el tema de grupo de casi 1.000 pioneros tecnológicos, innovadores, desarrolladores, líderes políticos y empresariales, investigadores y activistas. Las principales preocupaciones que surgieron sobre el posible impacto negativo de las máquinas inteligentes fueron las siguientes:


La pérdida de control sobre nuestras vidas. Acabamos cediendo a las herramientas herméticas basadas en el código aspectos clave de nuestras vidas. No conocemos el funcionamiento de estas complejas herramientas, ni por qué toman las decisiones que toman, y sacrificamos nuestra independencia, privacidad y en última instancia nuestra capacidad de elegir. 


Mal uso descontrolado de los datos por las empresas y los gobiernos. La inteligencia artificial pone en las manos de las compañías privadas y de los poderes públicos potentes sistemas de control y manipulación de la gente, a través de la gestión de sus datos. Es un aspecto muy difícil de regular, dada la globalidad de las redes y la dispersión de la información que circula a través de ellas.


Efectos sobre el mercado de trabajo. La disrupción que provoca la incorporación de sistemas inteligentes a los entornos laborales conlleva la sustitución de trabajadores por máquinas, hinchando las cifras de desempleo.


Pérdida de habilidades y dependencia. Aunque hay quienes piensan que la inteligencia artificial aumentará la capacidad del ser humano, existen otras teorías contrarias que defienden que el uso intensivo de la tecnología erosionará nuestras habilidades como personas y nos hará dependientes de las máquinas, destruyendo nuestra iniciativa.


Caos mundial. Para los más catastrofistas el cambio tecnológico dañará las estructuras sociopolíticas tradicionales, provocando que el planeta vaya derivando al caos. El uso militar descontrolado de armas inteligentes, la propaganda y las noticias falsas o un cibercrimen cada vez más sofisticado, son elementos que tienden a desestabilizar el frágil orden mundial.


En otro orden de cosas, existen riesgos mucho más concretos e inmediatos, subrayados por el MIT en un texto publicado a principios de este año, que analiza algunos sucesos que han tenido lugar recientemente. El artículo hace referencia a:


Los accidentes de los vehículos autónomos. El coche de Uber que atropelló a un peatón en marzo de 2018 en Arizona, o el Tesla que se estrelló en 2016 matando a su ocupante, ponen de manifiesto que, o bien la tecnología de estos automóviles no está lo suficientemente desarrollada para garantizar su autonomía completa y que la intervención de un conductor humano es todavía necesaria. En cualquier caso, los coches completamente autónomos son actualmente un factor de riesgo.


Los bots que manipulan la opinión pública y la intención de voto. El caso Cambridge Analytica, que saltó a los medios en marzo del pasado año, demostró cómo se puede manipular la intención de voto del electorado haciendo uso de la información de la gente (en ese caso de los usuarios de Facebook), es decir, explotando adecuadamente el big data.


La creación de armas inteligentes. Los trabajadores de Google se rebelaron al conocer la intención de la empresa de aportar tecnología a las fuerzas aéreas de Estados Unidos, y consiguieron impedir el acuerdo para participar en el proyecto Maven. No obstante, el peligro de que los gobiernos –o, peor aún, terroristas- desarrollen armas autónomas sigue allí, y, de hecho, otras grandes tecnológicas como Microsoft y Amazon parecen no tener limitaciones morales para colaborar en programas en ese terreno.


La identificación facial como herramienta de control. Otra de las aplicaciones de la inteligencia artificial que está en boga en la actualidad es el reconocimiento facial. Se trata de una tecnología que puede invadir en derecho a la privacidad de las personas y que puede acumular sesgos que lleven a discriminar a determinados colectivos.


Falsificación de vídeos o deepfake. Es un campo en el que los algoritmos han demostrado su peculiar destreza: construir vídeos falsos de personalidades para desacreditarlas (muchos de ellos de contenido pornográfico) o campañas agresivas de desprestigio para manipular a la opinión pública.


La discriminación que desarrollan los propios algoritmos. Los sesgos de los programas basados en la inteligencia artificial,que bien aparecen en el proceso de aprendizaje automático o que llevan deliberadamente en su propio diseño, pueden conducir a la  discriminación de determinados colectivos, por ejemplo, por motivos raciales o de género.

1 Comentarios

1

Gracias por la nota, interesante

escrito por Ollantay 04/nov/19    16:16

Escribe tu comentario




No está permitido verter comentarios contrarios a la ley o injuriantes. Nos reservamos el derecho a eliminar los comentarios que consideremos fuera de tema.


Más autores

Opinadores
Leer edición en: CATALÀ | ENGLISH