Hace unas noches estaba viendo unos capítulos de la serie de Movistar “The good fight”, que trata de las peripecias que suceden en un bufete de abogados de color, en Chicago, y me topé con algo que no hace mucho conocí y lo comenté en un post en este blog en febrero pasado.
Efectivamente, en dicho bufete hay dos personajes (por cierto, caucásicos) que controlan en un ordenador si en los casos complicados en los que el computador está especializado coincide el pronóstico de los letrados que los llevan con el de la máquina. Y en la mayoría de los casos es imposible rebatir el criterio de los algoritmos digitales.
Es decir, en la ley, los analistas jurídicos llevan camino de ser reemplazados por la inteligencia artificial, lo que significa que la defensa de un caso puede depender bastante de los algoritmos. De igual manera, hay un software que ayuda a predecir futuros delincuentes y en base a sus resultados se decide si alguien obtiene la libertad condicional o no. Este algoritmo está presuntamente sesgado.
La existencia del algoritmo no se limita únicamente a las redes sociales, donde estos sistemas invisibles conocen mejor que los usuarios sus gustos e intereses, o eso hacen creer. Cada imagen, vídeo, enlace o post que aparece en el muro de Facebook es producto de una operación sistemática de probabilidades que define que ello capturará a quien navega. Los algoritmos moldean la realidad más de lo que imaginamos.
El profesor británico Dionysios S. Demetis, escribió en un artículo de «The Conversation» que su estudio los llevó a él y a un colega a la conclusión de que, «con el tiempo, los roles de la tecnología de la información y los seres humanos se han invertido».
Demetis explica su argumento afirmando que, en el pasado, los humanos utilizábamos la tecnología como herramienta, pero ahora la tecnología ha avanzado hasta el punto en que nos usa e incluso nos controla. Y agrega que los humanos no estamos «aislados de las decisiones que las máquinas están tomando por nosotros, sino profundamente afectados por ellas».
Un ejemplo conocido es el algoritmo que fija los precios en Amazon (y prácticamente en todos grandes portales de comercio online), de los que una investigación reciente descubrió que aprenden sistemáticamente a seguir patrones monopolísticos; es decir, que de forma automática actúan en perjuicio de los consumidores y no a su favor.
El futuro del trabajo de las personas también recae en manos de los algoritmos, al existir una herramienta para filtrar currículums y dar a los reclutadores los perfiles que buscan, sin que tengan que echar un vistazo a los otros candidatos que optan a un puesto. El estudio recuerda que en Amazon un algoritmo de currículums mostró sesgos de contratación.
«En noticias, lo que se conoce como análisis de sentimiento automatizado analiza opiniones positivas y negativas acerca de las compañías basadas en diferentes fuentes web», escribió Demetis. «A su vez, estos están siendo utilizados por algoritmos comerciales que toman decisiones financieras automatizadas, sin que los humanos tengan que leer las noticias».
El 85% de las transacciones de los mercados de divisas ya las realizan algoritmos, y en los mercados financieros se están convirtiendo en celebridades. Esto pasa porque, «a lo largo de los años, las personas que dirigían el sistema de comercio habían llegado a ver las decisiones humanas como un obstáculo para la eficiencia del mercado», explica el científico.
«A medida que las decisiones humanas son sustituidas por otras algorítmicas, y nos convertimos en herramientas cuyas vidas son moldeadas por máquinas y sus consecuencias no deseadas, nos estamos preparando para la dominación tecnológica», concluye en su artículo Demetis. E invita a pensar en lo que esto significa para los individuos y para la sociedad.
Hasta la próxima
No hay comentarios:
Publicar un comentario