23/2/18

La oscuridad de los algoritmos: problema democrático elemental. ¿La democracia de Google, Facebook y YouTube? Apuntes sobre el sesgo ideológico de los motores de búsqueda

"Cuando Mark Zuckerberg decidió ofrecer a las naciones emergentes Internet.org, la rabia no tardó en estallar. Como explica acertadamente Daniel Leisegang en «Facebook salvará al mundo» (publicado en español por Nueva Sociedad), este proyecto surgido en 2013 tenía una mascarada humanitaria: permitir acceso a Internet a una enorme cantidad de ciudadanos del Tercer Mundo que aún están fuera de la aldea global. Por supuesto, la idea era romper las barreras que impiden, por ejemplo, que dos tercios de la población india se puedan unir a Facebook.

Además de la India, el proyecto aspiraba a un total de 100 naciones más. Acusada de violar la neutralidad de la red, Facebook tuvo que cambiarle el nombre: de Internet.org pasó a llamarse Free Basics y de la India debió irse en 2015 debido a la gran cantidad de críticas que recibió. 

¿Por qué? Porque Facebook no estaba ofreciendo Internet a secas, sino que se trataba de una aplicación para teléfonos móviles a través de la cual los sectores de menores recursos de ese país podían acceder a una versión recortada de Internet. 

La idea, originalmente impulsada con el espíritu de que «la conectividad es un derecho humano», terminó exhibiendo que lo que se proponía Zuckerberg es apropiarse de la gigantesca masa de datos de una significativa cantidad de los pobres del mundo (para monetizarlos). 

¿Quién decidía qué servicios están disponibles en la aplicación? Según Chris Daniels, el vicepresidente de la compañía, la decisión la toman Facebook, el gobierno de cada país y el operador de telecomunicaciones asociado. Con razón, podríamos afirmar que si «Internet es un derecho humano», con Free Basics Facebook sólo aspira a regular los «derechos humanos recortados» de la mitad de la población mundial (la que no tiene acceso a Internet). 

Estas políticas que agrandan la brecha digital poco tienen que envidiarle al modelo de Corea del Norte, donde la mayoría sólo tiene a acceso a una modesta Intranet local que apenas tiene 28 páginas webs disponibles con contenidos fiscalizados por el gobierno de Kim Jong Un (la excepción la constituye, como es obvio, la élite gobernante). 

Free Basics, que se encuentra en una fase muy embrionaria, sumaba en noviembre de 2016 unos 40 millones de usuarios. 

En América Latina, Free Basics ya ha sido implementado en 3 países (sobre veintitrés a nivel mundial que se han unido): Colombia, Guatemala y también Bolivia, cuya inclusión en este programa pone de relieve la insuficiente discusión de los problemas del monopolio de la información en la era digital por parte del populismo continental (o en este caso, su colaboración/subordinación con esos monopolios). 

Free Basics no permite ingresar a Google, el buscador más popular de todo el mundo, sino a Bing (el buscador de la competencia, Microsoft, que posee acciones en Facebook). Ahora bien, ¿qué ocurre con el 49,6% (3700 millones de personas) que sí tenemos acceso a Internet a secas, sin (aparentes) restricciones, y del cual más del 90% somos usuarios de Google? ¿Podemos realmente jactarnos de utilizar un Internet realmente libre y «neutral»?

Efecto de la Manipulación de los Motores de Búsqueda

La expresión «Efecto de la Manipulación de los Motores de Búsqueda» (Seme, por sus siglas en inglés), fue utilizada en agosto de 2015 por Robert Epstein y Ronald E. Robertson, dos académicos de estadounidenses que demostraron que se podía decantar el voto de un 20% o más de indecisos en función de los resultados que ofreciera Google. 

En varios artículos y entrevistas, Epstein se refiere a su estudio y afirma que «en algunos grupos demográficos, hasta un 80% de los votantes» pueden llegar a cambiar sus preferencias electorales según los resultados que ofrece Google. En febrero de 2016, los medios ingleses fueron el terreno de una polémica sobre la injerencia del buscador en las elecciones de los votantes.

Este no es solamente un problema de la democracia occidental. Según la intelectual francesa Barbara Cassin, autora de «Googléame: la segunda misión de los Estados Unidos», Google habría cedido al gobierno de China perfiles de sus usuarios en ese país, «lo cual permitió identificar e incluso arrestar a disidentes».

 Para ilustrar el sesgo ideológico de los motores de búsqueda de manera clara, Cassin afirma que «si, en un país que no sea China, uno escribe en el Google Tiananmen, obtendrá datos sobre la represión a manifestantes en esa plaza de Beijing, en 1989, que dejó centenares de muertos: pero, si lo escribe en China, no obtendrá más que pacíficas referencias urbanísticas a la plaza».

Por supuesto, Google no admite este sesgo ideológico implícito en su sistema, pero las recientes políticas de la empresa para ayudar a «combatir el terrorismo» en general y al Estado Islámico (ISIS) en particular, exhiben concretamente el modo en que funciona su poder sobre las decisiones de las personas en la actualidad.

 Es el caso de Jigsaw, un programa piloto de Google basado en su sistema de publicidad personalizada, pero con un objetivo cero comercial, sino político. El plan es localizar usuarios proclives al mensaje del ISIS y ofrecerles una serie de anuncios específicos para ellos, a través de los cuales se los redirige disimuladamente a contenidos que refutan las tesis del ISIS y que podrían ayudar a quitarles de la cabeza la idea de unirse al 'Califato'. 

Pocos podrían objetar que Google convenza a las personas de rechazar a ISIS, pero es evidente que esto revela que Google está lejos de ser «neutral» u «objetivo» y, por el contrario, llama la atención sobre las posibilidades de manipulación sobre el usuario.

¿Batalla contra las «fake news» o censura 2.0?

Los tiempos han cambiado, y con ellos también lo que hallamos en internet. En 2010, al buscar sobre política en Google, solo un 40% de los resultados los proveían medios de comunicación. Ya en 2016, ese porcentaje rozaba el 70%. El 25 de abril de 2017, Google anunció que había implementado cambios en su servicio de búsqueda para dificultar el acceso de los usuarios a lo que llamaron información de «baja calidad» como «teorías de conspiración» y «noticias falsas» (fake news). Facebook también aplicó una política similar.

Google aseguró que el propósito central del cambio en su algoritmo de búsqueda era proporcionar un mayor control en la identificación de contenido considerado objetable. Ben Gomes, a título de la compañía, declaró que había «mejorado nuestros métodos de evaluación e hizo actualizaciones algorítmicas» para «hacer emerger contenido más autorizado».

 Google continuó: «actualizamos nuestras directrices para evaluar la calidad de búsqueda para proporcionar ejemplos más detallados de páginas web de baja calidad para que los evaluadores marquen adecuadamente». Estos moderadores tienen instrucciones de marcar «experiencias molestas para el usuario», incluidas páginas que presentan «teorías de conspiración». Según Google, estos cambios rigen a menos que «la consulta indique claramente que el usuario está buscando un punto de vista alternativo».

Desde que Google implementó los cambios en su motor de búsqueda, menos personas han accedido a sitios de noticias de izquierdas, progresistas, u opositoras a la guerra. Con base en la información disponible en análisis de Alexa, algunos de los sitios que han experimentado bajas en el ranking incluyen WikiLeaks, Truthout, Alternet, Counterpunch, Global Research, Consortium News, WSWS, la American Civil Liberties Union y hasta Amnistía Internacional. 

También en el caso de Facebook, el editor de KRIK, un medio independiente serbio, publicó sus quejas en The New York Times, explicando como cambios para combatir (aparentemente) las fake news, los perjudicaron seriamente.
 
Llamativamente, poco antes de esa decisión de Google, The Washington Post había publicado un artículo, «Los esfuerzos de propaganda rusos ayudaron a difundir noticias falsas durante las elecciones». Allí se citaba a un grupo anónimo conocido como PropOrNot que compiló una lista de sitios de noticias falsas difundiendo «propaganda rusa». 

El 7 de abril de 2017, Bloomberg News informó que Google estaba trabajando directamente con The Washington Post para «verificar» los artículos y eliminar las «fake news». Esto fue seguido por la nueva metodología de búsqueda de Google: de los 17 sitios declarados como «noticias falsas» por la lista negra del Washington Post, 14 cayeron en su clasificación mundial. 

La disminución promedio del alcance global de todos estos sitios es del 25 por ciento, y algunos sitios vieron caerlo hasta un 60 por ciento. La sospecha de que Google se haya aliado con estos medios tradicionales potentes para discriminar a medios alternativos e independientes cobra fuerza al hilar estos hechos. 

Además de su propio buscador, Google posee el control de YouTube, empresa que compraron en 2006 (un año después de su fundación). YouTube paga a los productores de videos a partir de una cierta cantidad de visualizaciones por colocar anuncios (ads) sobre ellos, actuando de intermediario entre las grandes empresas y ellos.

 El cambio más serio de YouTube se produjo a raíz de informes como el de The Wall Street Journal de que los anuncios aparecían en los videos de YouTube que mostraban extremismo y odio. Cuando grandes anunciantes como AT&T y Johnson&Johnson retiraron sus anuncios, YouTube anunció que trataría de hacer que el sitio sea más aceptable para los anunciantes al «adoptar una postura más dura respecto del contenido ofensivo, ofensivo y despectivo».

 Con estos nuevos algoritmos, Google perjudicó a productores de videos progresistas e independientes, provocando lo que estos denominaron the adpocalypse (apocalipsis de los anuncios). 


Basado en su estudio, Epstein había cuestionado que Google y Facebook decidan que noticias son falsas y cuales. Considera que su posición monopólica los transforma en un super-editor periodístico mundial. Las prácticas de Google en relación a los algoritmos que regulan los motores de búsqueda no sólo tuvieron implicancias políticas sino también fines comerciales. 

 En el marco de su regulación anti-trust, la Comisión Europea multó a Google con $ 2.7 mil millones por manipularlos para dirigir a los usuarios a su propio servicio de compras, Google Shopping, haciendo uso de su posición dominante. 

La oscuridad de los algoritmos: problema democrático elemental

Cathy O'Neil, cientista de datos y autora del libro «Armas matemáticas de destrucción», alerta sobre la «confianza ciega» depositada en los algoritmos para obtener resultados objetivos. La arquitectura de internet tiene una influencia tremenda sobre lo que se hace y lo que se ve; los algoritmos influyen sobre qué contenido se extiende más en Facebook y cual aparece encima de las búsquedas de Google. 

Sin embargo, los usuarios no están prevenidos de esto ni capacitados para entender el modo en que se recolectan los datos y el modo en que estos se clasifican. Si Free Basics fue criticado por intentar que los desconectados del Tercer Mundo accedan a una conexión de segunda clase creyendo que Internet es igual a Facebook, no puede negarse que para la ciudadanía digital «de primera clase» Google es prácticamente lo mismo que Internet, pues es la que nos posibilita acceder organizadamente a los contenidos de ella.

 De este modo, la oscuridad de los algoritmos se constituye en un problema democrático elemental. Tras un decenio de gobiernos populistas o progresistas en América Latina, no se han tomado medidas que controlen el poder de estos monopolios de la información, en tanto que la discusión sobre este tópico se encuentra completamente atrasada. 

Incluso la izquierda de las naciones desarrollados no ha llegado a proponer un programa de conjunto. Quizás, una de las tareas más urgente consista en politizar esta cuestión."                    (Lucas Malaspina, Nueva Sociedad, febrero, 2018)

No hay comentarios: