Expandir el programa de estudios de las disciplinas STEM (ciencia, tecnología, ingeniería y matemáticas) para que sus alumnos puedan obtener una comprensión más profunda de cómo la tecnología afecta a la humanidad.

"Después de una luna de miel prolongada para la economía digital, el lado oscuro de Internet, las redes sociales y las “Big Tech” se ha vuelto cada vez más evidente en los últimos años. Online, lo que es bueno para los negocios no necesariamente es bueno para los individuos o las sociedades. Las plataformas Big Tech hacen más fácil que se pueda manipular la opinión, diseminar el odio e incitar a la violencia.

Alguna vez creíamos ingenuamente que el acceso masivo a la web inevitablemente democratizaría la información; hoy, nos preocupamos por el surgimiento de una “economía de la adicción” que es mala para todos. ¿Qué se puede hacer para sustentar una tecnología más humana, ética y efectiva?
Una manera importante de abordar este problema de una manera sistémica es reformando la educación en las llamadas disciplinas STEM: ciencia, tecnología, ingeniería y matemáticas.

Los hacedores de políticas públicas en todo el mundo ya se están concentrando en aumentar la cantidad de graduados de STEM y la diversidad de los alumnos de STEM. Pero también deberíamos expandir el alcance de la educación STEM, para garantizar que los alumnos aprendan a evaluar y responder a las consecuencias sociales, económicas y políticas de su trabajo.

Esto no significa agregar cursos de humanidades o de ciencias sociales existentes a un programa STEM. Por el contrario, exigirá el desarrollo de un programa absolutamente nuevo que le dé a la próxima generación de tecnólogos, ingenieros, científicos y matemáticos las bases formales –incluidos un vocabulario compartido y marcos intelectuales- para considerar los efectos macro de sus acciones en la sociedad. Sin ese marco, la brecha entre la promesa de innovación y la realidad de la experiencia humana no hará más que crecer.

Afortunadamente, las semillas de esta revolución educativa ya están germinando. Algunas universidades están agregando clases de ética al programa STEM. La Universidad de Stanford, con sus profundos vínculos con la industria tecnológica, recientemente ha incorporado cursos con temas como “Ética, Políticas Públicas y Cambio Tecnológico” y “Computadoras, Ética y Políticas Públicas”.

Recientemente, Stanford también ha lanzado una nueva Iniciativa de IA Centrada en los Seres Humanos, que reconoce que “el desarrollo de IA debería estar acompañado por un estudio continuo de su impacto en la sociedad humana, y estar guiado en consecuencia”. El año pasado, Cornell lanzó el Programa Milstein en Tecnología y Humanidad.

Estas iniciativas tempranas pueden servir como campos de prueba importantes para nuevos programas y métodos. Pero el cambio real sólo se producirá cuando todos los programas STEM les ofrezcan a los estudiantes las herramientas que necesitan para llevar a cabo una evaluación creíble de los efectos de su trabajo en la humanidad.

Por supuesto, esos cambios significarán poco si no sabemos cuáles son realmente las herramientas más efectivas. Es por eso que una experimentación continua también es esencial.

Casey Fiesler de la Universidad de Colorado, Boulder, está llevando a cabo esta experimentación mediante programas de estudio participativos focalizados en ética tecnológica. La creciente base de datos online ya contiene más de 200 programas diferentes de universidades de todo el mundo. Sin embargo, sólo un cuarto de esos cursos son dictados por profesores de ciencias informáticas. El resto son dictados en departamentos como leyes, filosofía y comunicaciones, lo que significa que no están siendo adaptados a los desafíos relacionados con las disciplinas STEM.

En un plano más fundamental, estos cursos individuales no son ideales. Una mejor estrategia, como concuerda la propia Fiesler, sería concentrarse en integrar la ética a la “práctica de todos los días” en los campos STEM. (Fiesler espera que su base de datos ayude al personal docente a plantear este caso en sus universidades).

Éste es el objetivo del Desafío de CI Responsable, lanzado el mes pasado por Omidyar Network, Schmidt Futures, Craig Newmark Philanthropies y Mozilla. El desafío de dos años debería alentar a los profesores de ciencias informáticas (CI) en Estados Unidos a integrar la ética en su programa de estudios, para que los alumnos de STEM puedan obtener una comprensión más profunda de cómo la tecnología afecta a la humanidad.

Éste es un buen primer paso, pero debe hacerse mucho más. Por un lado, si bien el foco inicial en la ética tiene sentido, harán falta exploraciones similares en una amplia variedad de disciplinas como la economía, la psicología y muchas más de las llamadas humanidades.

Expandir la educación STEM para incluir estas consideraciones más amplias serviría como un pilar de una estrategia más integral de largo plazo para garantizar que la tecnología sirva a la sociedad de maneras inmensamente positivas. Esa estrategia debe también incluir cambios, por ejemplo, en los modelos de negocios, incentivos, estrategias de innovación y regímenes regulatorios –cambios que deberían implementar quienes tienen una educación que los ha preparado para enfrentar los efectos de su trabajo en el resto de nosotros."                        

(Mitchell Baker is Co-Founder and Chair of the Mozilla Foundation and the Mozilla Corporation. Project Syndicate, 14/12/18)

Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia

"[Por mor de la simplicidad, marcaré entre paréntesis y con números arábigos las páginas del libro que comento, según la edición castellana: Cathy O’Neil, Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia, trad. de Violeta Arranz de la Torre, Madrid, Capitán Swing, 2018.]

Sin caer en determinismos tecnológicos, cualquiera con una mínima sensibilidad materialista aceptará que los instrumentos técnicos han sido elementos relevantes en el desarrollo de las instituciones políticas.

 Aunque podamos declarar la autonomía de los principios normativos que regulan nuestras aspiraciones políticas, su realización depende en muchas ocasiones de que dispongamos de medios técnicos que nos lo faciliten.

 Podemos ser unos incondicionales de la libertad de expresión, pero tenemos que aceptar que para que de facto disfrutemos de todo el contenido implicado en ese principio normativo, hacen falta muchísimas más cosas además de su reconocimiento formal en un texto legal. 

No hace falta pensar en sofisticadas tecnologías como la imprenta, la fibra óptica o el 3G: algo tan sencillo como la escritura es un elemento técnico fundamental para el ensanchamiento de la libertad de expresión e información. Lo es del mismo modo que disponer de técnicas de contabilidad resulta esencial para llevar a cabo programas de redistribución de riqueza a gran escala, o una red de telégrafos para conseguir una centralización estatal eficaz.

 Los principios normativos, decía, son autónomos de cada contexto tecnológico —Thomas Jefferson defendía la libertad de expresión con intuiciones muy similares a las de Pericles, aunque la mayoría de atenienses fueran analfabetos, no tuvieran correo postal ni conocieran la imprenta—, pero es innegable que las herramientas técnicas abren (o cierran, si están del lado del tirano) las posibilidades de institucionalización y su realización de facto.

1. Un ejemplo para explicar la principal idea del libro

Los modelos matemáticos son una de esas herramientas técnicas que en la era del big data —la capacidad para generar y procesar datos masivamente— afectan de lleno a nuestra vida sociopolítica. Para lo que a nosotros nos interesa, podemos hablar de un modelo matemático como un conjunto de normas que traducen datos en predicciones. 

Los puede haber más y menos sofisticados, pero la modelización de la realidad social es una capacidad cognitiva que usamos constantemente. La autora no insiste en ello, pero es fácil entender el uso pernicioso del big data como sesgo cognitivo a escala masiva y camuflado por matemáticas. Veamos el siguiente, basado en un prejuicio racial (que lo alimenta):

1. Datos brutos: a veces roban productos de mi tienda; tengo alguna información acerca de esas personas y me fijo en alguna característica llamativa para mí, como su acento, su color de piel, su manera de vestir, etc.
2. Procesamiento, busco correlaciones: la mayoría de ladrones a los que he pillado han resultado ser negros.
3. Predicción: lo más probable es que si un negro entra mi tienda, será para robar; indicaré a mi guardia jurado que les vigile con especial atención.

El modelo es simple y se basa en una sencilla correlación de dos variables (hurtos y color de piel) que justifica la acción de prestar más atención a la vigilancia de ese tipo de clientes. 

Mi cerebro hace ese pequeño cálculo y orienta mi acción, haciéndome confundir correlación con causalidad. Para que un inofensivo algoritmo o modelo matemático se convierta en un “arma de destrucción matemática” (ADM) suele cumplir tres características:

1. Opacidad (o incluso invisibilidad): ¿saben mis clientes que trato de predecir si me roban o no?, ¿saben que el color de su piel es una variable relevante en mi modelización de los hurtos?
2. Bucle de retroalimentación: en lugar de contrastar mi modelo con una prueba empírica rigurosa (para descubrir si existe causalidad entre el color de piel y el robo), asumo que las correlaciones son vínculos causales y a medida que aplico mi modelo, mi propia generación de datos comienza a sesgarse por las correlaciones que había observado originalmente. Como vigilo más a los clientes negros, descubriré más hurtos suyos que de otros grupos que pudieran ser relevantes, retroalimentando la correlación inicial del modelo en cada iteración. Las ADM frecuentemente toman la forma de profecías autocumplidas.
3. Escalabilidad: a parte de la escasa sensibilidad racial, poco se le puede impugnar a un tendero prejuicioso que con su pequeño modelo mental alimenta su propio sesgo cognitivo. Pero las ADM que trata O’Neil son a escala nacional y se basan en gran cantidad de datos —por eso afectan a tantas personas—. Aunque podría contar como otra característica más, la escalabilidad suele ir asociada al uso de variables sustitutivas [1].

1.1. Dos casos relacionados: la predicción de la reincidencia y del crimen

Como el comentario de este libro es una mera excusa para abordar cuestiones filosófico-políticas de mayor calado, me remitiré a exponer dos de los muchos casos que el libro desarrolla, para dar una muestra del funcionamiento de las ADM. Es bien sabido que una revisión de la jurisprudencia penal estadounidense revela sesgos racistas por parte de los jueces.

 Una manera de evitar la arbitrariedad que supone la sensibilidad política del juez es usar un algoritmo auxiliar que predice la reincidencia del reo, ayudando así a determinar cuántos años debería ir a la cárcel o si le otorgan la condicional: “podríamos pensar que la utilización de modelos de riesgo informatizados nutridos con datos debería reducir la influencia de los prejuicios en las condenas y contribuiría a que el trato impartido sea más imparcial” (p. 35).

El LSI-R es uno de esos algoritmos ampliamente utilizados en Estados Unidos, que basa sus resultados en cuestionarios que rellenan los mismos presos: “¿Cuántas condenas previas ha tenido?”, “¿Qué papel tuvieron otras personas en el delito?”, “¿Qué papel tuvieron las drogas y el alcohol?”, “¿Cuándo fue la primera vez que tuvo trato con la policía?”.

El modelo elabora sus predicciones de acuerdo a correlaciones que podríamos pensar que son razonables [2], por ejemplo, si el reo tuvo su primer encuentro con la policía con 13 años o si su hermano fue también delincuente, el algoritmo le asignará mas probabilidades de reincidir, porque hay una masiva base de datos [3] según la cual otros condenados con las mismas características fueron reincidentes.

Si le hacemos esa pregunta [sobre si sus familiares o amigos tienen antecedentes] a un condenado que se haya criado en un barrio de clase media, es mucho más probable que la respuesta sea no (…) el cuestionario no pregunta por la raza, ya que esa pregunta es ilegal, pero teniendo en cuenta la abundancia de detalles que obtiene de la vida de cada preso, esa única pregunta ilegal es prácticamente superflua (p. 37).

La herramienta es tremendamente eficiente y ahorra muchísimos recursos al sistema judicial, resolviendo mucho más rápido los procesos. Pero ¿sería aceptable que un fiscal argumentara contra la prisión condicional del acusado señalando que sus padres eran unos delincuentes?

Algunos cuerpos de policía en EE.UU. usan PredPol: una aplicación en la que “los datos de entrada principales son la tipología y localización de cada delito, así como el momento en que tienen lugar” (p. 109), por lo que a priori no cometería la misma injusticia que el LSI-R. La aplicación divide un mapa en zonas de diverso riesgo para así distribuir las patrullas policiales. 

Y otra vez aparece el bucle de retroalimentación: se envían más patrullas a barrios de mayor “desorden” (en los que abundan delitos menores), que a su vez producen más encuentros con la policía, que a su vez aumentan las correlaciones en la base de datos, que a su vez hace que se envíe al mismo lugar más policía, etc.

La policía de Los Ángeles podría decidir eliminar los delitos menores de los datos de entrada del modelo —posesión de pequeñas cantidades de droga, beber en la calle, hurtos en comercios, grafitis, multas de tráfico…—, pero cuando eso ocurre “la capacidad de predicción” se ve muy reducida, ya que los delitos graves, como los grandes robos, los asesinatos o las violaciones se producen de manera dispersa por el mapa.

 Lo que PredPol hace, concluye O’Neil, es “un mapa de la pobreza” (p. 113) y la “criminaliza”, “convencidos en todo momento de que nuestras herramientas no solo son científicas, sino también justas” (p. 115).

PredPol es un gran ejemplo de cómo los algoritmos son meros deudores de los sesgos, vicios y virtudes de sus diseñadores. Hay delitos, como las grandes estafas financieras, que no están localizadas en un mapa; o crímenes, como casos de corrupción, que se trenzan en restaurantes e instituciones de distritos financieros y que cuando se descubren no dan lugar a un parte policial que añada un punto en el mapa.

 La herramienta no solo funciona de manera pésima, sino que se funda en una criminología pobre, anticuada y conservadora. Lo mismo con la herramienta que usa la policía de Chicago: ¡hostigaban a jóvenes inocentes en base a su red de amigos de Facebook! (p. 129). Esta manera de usar las ADM legitima el statu quo mediante la técnica: “los procesos de big datacodifican el pasado. No inventan el futuro” (p. 252).

Con ligeras variaciones, este es el funcionamiento general de las ADM que describe el libro. En general, su carácter pernicioso redunda en que cuando segmentan la base de datos nos agrupan con gente “similar” a nosotros y nos asignan sus comportamientos. 

Muchas veces las correlaciones que se extraen del big data son reales, como la relación entre colesterol e infartos, lo cual no quiere decir que su uso sea justo, por ejemplo, que alguien no pueda acceder a un puesto de trabajo por su nivel de colesterol —o que le penalicen en el sueldo con un sobrecoste del seguro médico porque un algoritmo dice que el que está gordo es más propenso a morir y trabajar peor (p. 217)—. 

Otro tipo de correlaciones, también verdaderas, son usadas para reducir la capacidad de negociación de los más débiles [4]: por ejemplo, que si uno tiene familia a su cargo y está en el paro, será más propenso a aceptar condiciones de préstamo leoninas [5].

2. Tres reflexiones filosófico-políticas en torno al libro

2.1. Agencia humana y eficiencia en el sistema penal

A mi parecer, lo que todos los ADM que Cathy O’Neil expone tienen en común es la negación de la capacidad de agencia de los seres humanos. Las herramientas que modelizan nuestro comportamiento gracias al big data tienen una visión del libre albedrío propia de Calvino.

El modelo matemático procesa información de gente “como nosotros”, y nos agrupa según de qué se trate: por nuestro código postal, por una deuda similar en nuestra tarjeta de crédito, por nuestra edad, gustos culturales parecidos, hábitos alimenticios, etc.

 De esa información y de las múltiples correlaciones deduce un comportamiento, nos asigna un grupo, “microsegmenta” la base de datos: nos asigna un perfil de acción. Esa asignación de perfiles no es algo diferente en el caso del márquetin [6], que lo que hace es detectar los perfiles en los que se intersectan mayor cantidad de vulnerabilidades.

Ahora bien, de cara al sistema judicial, la sola idea de que se anule nuestra capacidad de agencia es desastrosa. El tratar de “predecir”, aunque sea teóricamente, si alguien cometerá un crimen es un absurdo desde el punto de vista del derecho, pues contradice la idea de responsabilidad moral y penal: si fuera cierto que estoy determinado (por mi infancia, mi familia, mis amigos, mi código postal…) a cometer un delito, ¿cómo se me puede exigir responsabilidad por ello? 

El intento de predicción y prevención del crimen mediante el sistema penal, propio de una novela orwelliana, socava uno de los pilares del Estado de derecho: los programas expuestos en este libro son un tenebroso ejemplo que retroalimenta las desigualdades e injusticias existentes.

Pero es que los algoritmos del sistema penal cometen otro grave error. La “eficiencia” que buscan, el “ahorro” de tiempo y recursos, no son principios constitucionales. 

La justicia y la imparcialidad, sin embargo, sí; principios, de hecho, bastante ineficientes, caros. Un juicio con acusación y defensa, presentación de pruebas, testigos, con varias posibilidades de apelación a tribunales, crea un sistema ineficaz y largo. Consume una enorme cantidad de recursos y todo a cambio de garantizar un juicio justo o respetar la presunción de inocencia del acusado. 

Esta cuestión la comenta muy brevemente O’Neil ––una excepción de altura filosófica en un libro lleno de crudos estudios de caso––: “en la lógica implícita en la Constitución [estadounidense], dejar en libertad a alguien que pudiera haber cometido un delito, por falta de pruebas, es menos peligroso para nuestra sociedad que encarcelar o ejecutar a una persona inocente” (p. 119).

 El LSR-I es un caso de fetichismo tecnológico: el descubrimiento de una técnica, a priori útil, ha difuminado los principios normativos que constituyen el sistema judicial. Es como si por el mero hecho de tener la capacidad técnica para llevar a cabo una democracia directa (con smartphones para todos y votaciones diarias) sacrificáramos todos los otros principios que articulan nuestro sistema político (la deliberación o las decisiones informadas, por ejemplo) [7].

2.2. Publicidad y disputabilidad de las acciones del Estado

Otro de los casos que cuenta el libro es el de una política pública de evaluación del profesorado de secundaria a partir de un modelo que indexaba diversas variables basadas en datos provenientes de los exámenes de los alumnos. El sistema fue un desastre (pp. 169-173) por razones que no vienen al caso (básicamente otro abusivo uso de variables proxy).

 Lo que sí nos interesa es el detalle de que los patrones de funcionamiento del algoritmo estuvieran ocultos a los profesores que estaban siendo modelizados: no sabían qué variables eran las relevantes para su puntuación [8].

 Imaginemos unas oposiciones públicas que excluyen candidatos sin dar razones, o aún peor: remitiendo dogmáticamente al resultado de un cálculo incuestionable escupido por un ordenador, otra escena propia de Orwell. El uso de algoritmos de propiedad privada (siempre opacos) en políticas públicas viola el criterio básico de publicidad, que en su más común formulación decía que “Son injustas todas las acciones que se refieren al derecho de otros hombres cuyos principios no soportan ser publicados” [9].

 Los modelos basados en big data convierten en indisputable la decisión del burócrata, del juez, porque su nula transparencia solo permite apelar a los sesgos que contienen mediante deducciones a partir de sus consecuencias. 

Como los consejos de tecnócratas de las instituciones europeas, el uso de algoritmos opacos va contra la naturaleza delegada y fiduciaria del poder político. Lo mismo que hoy hacen estos “neutrales” conjuntos de reglas matemáticas lo hicieron en otro tiempo los oscuros gabinetes técnicos de los poderes ejecutivos desembridados [10].

2.3. Sesgos de confirmación y deliberación política

Una de las aplicaciones de técnicas de microsegmentación es en campañas políticas. Igual que los publicistas que trabajan con los datos que genera nuestra actividad en internet para crear perfiles de consumidores rentables que luego vender a las marcas, los servicios de asesoría política de análisis de datos modelizan votantes-tipo. 

El uso más siniestro es la capacidad de, literalmente, individualizar la imagen que proyectan los candidatos sobre su electorado [11]. Cada candidato es un prisma con múltiples caras y opiniones específicas en variados temas no necesariamente relacionados entre sí. 

De hecho, las demandas que personifica un candidato pueden ser contradictorias vistas desde el punto de vista de su electorado en general. Imaginemos un político que personifique tres demandas —controlar el fracking, mejorar los parques nacionales y continuar la política exterior beligerante— que pueden ser excluyentes entre sí para muchos de sus votantes: ¿y si pudiéramos saber qué perfil de votante es cada uno de los interesados por el candidato, de tal modo que solo le hagamos llegar información de la cara del prisma en la que el votante en cuestión está interesado? 

En lugar de mandar el mismo email a todos los contactos de la lista, aplicamos minería de datos a los interesados y descubrimos si el email que reciba y los anuncios que vea en la web de campaña tienen que ser del candidato en su versión ecologista o en la militarista [12].

Desde este punto de vista, las perspectivas para la deliberación política no resultan halagadoras. El votante recibirá de los candidatos solo información personalizada acorde con su visión del mundo. En la era del big data, el votante ya ni siquiera puede ser concebido como consumidor (como se empeña en defender Cass Sunstein [13]).

 ¡El votante es el producto! Detectar mediante minería de datos a los sectores de población indecisos en circunscripciones clave —en las que unos miles de votos deciden la presidencia— los convierten en un activos en los que centrar las inversiones en publicidad de campaña, mientras que otros votantes —quizá porque sus clics han desvelado ya su clara intención de voto, quizá porque no producen información suficiente como para ser modelizados— dejan de recibir información directa de las oficinas de candidatos [14].

A este contexto agorero para la deliberación política y reino de los sesgos de confirmación, se unen las “cámaras de eco” que suponen las redes sociales, que nos proporcionan información de puntos de vista que ya conocemos (los de nuestros amigos y aquellos a quienes seguimos). 

El último golpe que las herramientas algorítmicas asestan a la democracia tal y como la conocíamos es la gran mediatización de nuestro acceso a la información, con Facebook y Google operando entre medios de comunicación convencionales y ciudadanos. Su poder omnímodo se revela mediante las increíbles cifras de confianza que infunden como fuentes de información [15]. Pero, de nuevo, la invisibilidad y opacidad de los modelos matemáticos nos dice mucho acerca de su forma de trabajar.

 El error es pensar que tecnicidad y matematización son equivalentes a neutralidad axiológica. Facebook utiliza múltiples criterios para decidir el orden en el que aparecen contenidos en nuestro muro. De hecho, no solo vende esa capacidad a anunciantes, sino que lleva a cabo macroexperimentos psicosociales constantemente (pp. 228-229).

 El algoritmo de búsqueda de Google, igual. Lo hacen igual que los periódicos y los telediarios: eligen un orden de aparición, unas determinadas imágenes y testimonios sobre otros, etc. Lo que ocurre con ese tipo de medios es que son criticables: sabemos que tienen una línea editorial y podemos cuestionar sus decisiones.

  La complejidad y opacidad matemática de Google y Facebook, en cambio, hace que se presenten como prístinos criterios alejados de sesgos humanos o intereses espurios.

Acabaré por donde comencé, compartiendo una reflexión que cruza el texto de O’Neil y que le da pleno sentido político. Sea cual sea el contexto tecnológico en el que nos encontremos, nuestras inquietudes políticas y humanas son esencialmente las mismas.

 La justicia y la presunción de inocencia tienen un valor autónomo respecto a nuestra capacidad para predecir crímenes, igual que el derecho a una jornada laboral asumible no debe verse afectado por nuestra tecnología para sofisticar al máximo la producción just in time, con horarios ajustados al flujo de clientes. Aunque fuese posible determinar cuándo uno morirá de un infarto, nunca consideraremos legítimo que se nos excluya del mercado de trabajo por discapacidades físicas.

 El big data supone una ventana de oportunidades innegable para el desarrollo de políticas públicas eficaces, implica grandes cambios en la manera en la que nos movemos en el mundo y en la que compartimos nuestra información. Implicará cambios en la forma en la nos informamos y nos informan, pero no en las razones por las cuales seguimos queriendo hacerlo."                   (David Guerrero Martín, Mientras Tanto, 30/06/18)

Este distópico vídeo de Google dice adiós a la privacidad y muestra un futuro de recolección masiva de datos

"Google nos monitoriza constantemente. Como otras muchas, cierto, pero a lo bestia. Y como esas otras, lo hace para mejorar los servicios que proporciona y, claro, para ofrecer mejor publicidad contextual. Todos esos datos, no obstante, podrían acabar sirviendo para algo más. 

Es lo que revela un vídeo interno de Google que acaba de salir a la luz. El corto de apenas 9 minutos titulado 'The Selfish Ledger' nos muestra cómo la idea de construir un 'libro contable' sobre nuestra actividad es útil para cosas inquietantes, como las de influir en nosotros y nuestra capacidad de elección futura.

Somos lo que hacemos

El vídeo plantea una singular visión de futuro más propia de un episodio de 'Black Mirror' que de una realidad con la que convivamos día a día. Lo hace a partir de una serie de teorías y reflexiones que hacen llegar a sus responsables a conclusiones preocupantes. 

El creador del vídeo es Nick Foster, que fue responsable de diseño en esa división secreta de I+D llamada Google X. El vídeo, creado en 2016, comienza hablando de la teoría de la evolución y deriva su título del libro de Richard Dawkins de 1976 titulado 'The Selfish Gene'. 

En este caso la premisa básica consiste en que cada persona tendría un "libro contable" con un registro constantemente creciente de datos recolectados que Foster llama 'Selfish Ledger'. En el futuro, explica, ese libro no solo permitiría registrar nuestras acciones y comportamiento en el pasado, sino "ofrecer direcciones hacia un resultado deseado". 

Ese libro se heredaría a futuras generaciones, no solo a tu 'linaje', sino incluso a toda la sociedad, que se vería también 'enriquecida' e influida por todos esos datos. Evidentemente las implicaciones sobre privacidad vuelven a aparecer, pero a lo grande: ¿ahora resulta que nuestros datos podrían ser objeto de estudio para siempre?

Datos que sirven para influirnos

¿Qué significa eso? Pues en uno de los ejemplos se indica cómo se podrían usar impresoras 3D personalizadas que recolectaran más datos y transacciones multigeneracionales que ayudaran a solucionar problemas globales como la pobreza. 

Esos datos harían que este sistema se anticipara a nuestras necesidades y a las del propio libro de cuentas, que por ejemplo usaría esa impresora 3D para fabricar una báscula y así poder hacer un seguimiento de nuestro peso para completar ese seguimiento con más y más datos relevantes.

Ese libro contable personal sería además utilizado para dirigirnos a esa solución global a través de acciones locales. Por ejemplo, nos recomendaría y sugeriría comprar productos cultivados localmente en lugar de importados. 

El vídeo filtrado por The Verge ha causado cierta intranquilidad entre los que lo han visto, y desde luego parece una reflexión muy coherente con esa rama de investigación de una empresa que no para de recolectar datos. 

En Google, eso sí, aclaran que "entendemos que sea perturbador", y explican que en él se usa una técnica llamada 'diseño especulativo' en la que "se exploran ideas y conceptos incómodos para provocar el debate y la discusión". Eso sí: este vídeo "no está relacionado con ningún producto actual o futuro", concluyen.

¿Dónde queda la privacidad?

El vídeo ha vuelto a disparar el debate sobre privacidad y recolección de datos que también se reactivó durante la pasada Google I/O 2018.

Características como el autocompletado de correos de Gmail o el 'terrorífico' asistente de Google que casi llama solo por teléfono no ayudaron a tranquilizar a quienes se preocupan por el futuro de nuestros datos. 

No lo hacen porque todas esas características se nutren, cómo no, de nuestros datos. No solo eso: toman decisiones por sí solas: cómo completo esta frase, a qué hora reservo la peluquería. Lo hacen ciertamente con la intención de hacernos la vida más cómoda, pero ¿hasta qué punto deben hacerlo? ¿Dónde están los límites de esa ambición?

El vídeo parece apuntar no a una relajación de esa ambición, sino a llevarla a límites que hasta ahora no imaginábamos. Unos en los que todo lo que hacemos acaba en ese registro transgeneracional que afecta nuestras elecciones futuras, pero que además nos pide aún más datos que recolectar cuando 'siente' que le falta algo. 

De repente cuantificarlo todo en todo momento no es la excepción, sino la norma. Y eso, al menos a algunos, da pánico."                  (Xataka, 21/05/18)

¿Qué tiene Telegram que suscita tales pasiones? ¿Y de dónde viene? Su verdadera significación es que está siendo defendido por una comunidad internauta cada vez más celosa de su libertad...

"El pasado 30 de abril unas 12.000 personas, la mayoría menores de 30 años, se manifestaron en el Prospekt Sharakova de Moscu, respondiendo al llamamiento del Partido Libertario Ruso. Protestaban contra la prohibición del servicio de mensajería Telegram por el regulador de internet del Gobierno ruso, Roskomnazdor, una burocracia tan temida como ignorante.

 En el origen de la prohibición, la sentencia de un tribunal ruso a requerimiento del Gobierno, que obligaba a Telegram a entregar las claves de encriptación de los mensajes. Telegram se negó alegando su compromiso de privacidad con sus 13 millones de usuarios en Rusia. 

Es más, recordó a los burócratas que el sistema de encriptación de Telegram no se encuentra en el servidor de la empresa, ni siquiera en la nube (el archivo digital distribuido característico de la nueva fase de internet) sino en las máquinas (por ejemplo teléfonos o portátiles) de quienes envían y reciben los mensajes, lo que se llama encriptación de punto a punto.

 Aun así Roskomnazdor bloqueó 18 millones de direcciones de internet (IP), perturbando gravemente el tráfico de Twitter, Facebook, Yandex y Vkontatie, suscitando la indignación de los internautas. Sólo sirvió para amplificar las protestas, iniciando lo que algunos llaman “la guerra civil de internet”. Muchos manifestantes hacían volar avioncitos de papel, el símbolo de Telegram. Las pancartas decían cosas como “Quieren bloquear nuestro futuro”, “La situación es tan grave que hasta los introvertidos han salido a la calle” y “¡Abajo el zar!”. 

El líder de la oposición Alexéi Navalni, a quien le prohibieron ser candidato en la reciente elección presidencial, estaba en la manifestación, saludándola como una batalla por la libertad en Rusia.

De hecho, el bloqueo de Telegram no pudo ser completo porque la empresa desarrolló estrategias tecnológicas tales como crear constantemente múltiples direcciones de internet que iban cambiando conforme las cerraban. En estos días están convocadas nuevas manifestaciones en San Petersburgo.

Unos días más tarde acciones similares tuvieron lugar en Teherán para protestar contra otra sentencia judicial inspirada por los ayatolás conservadores ordenando el cierre de Telegram por su utilización en recientes protestas. La gente salió a la calle para defender la mensajería. Y es que en realidad, Telegram era/es utilizado por unos 20 millones de iraníes, incluidos profesionales, periodistas e incluso oficiales del Gobierno. 

Lo interesante es que en el caso de Irán el intento de censura de Telegram ha creado un conflicto dentro del propio régimen. El ministro de Tecnologías de Información, Muhammad Javal Azari, denunció la medida argumentando que internet es esencial para un Irán moderno. Y fue apoyado por el propio presidente de la República, el liberal Rohani, reelegido con el apoyo del movimiento democrático que bulle dentro de la revolución islámica.

Resulta que es la primera vez que se producen fuertes manifestaciones populares y un intenso debate público para defender un sistema concreto de mensajería. ¿Qué tiene Telegram que suscita tales pasiones? ¿Y de dónde viene? Sus creadores son dos hackers rusos, Pável y Nikolái Dúrov, ejecutivos de la red social mas popular, Vkontakte. 

Cuando el grupo Mail.ru, afín al Gobierno, tomó control de la empresa, fueron expulsados y se exilaron a Alemania para poder operar libremente. En el 2013 crearon en Berlín una sociedad sin ánimo de lucro, registrada en Londres, para establecer Telegram como alternativa no sólo a las redes rusas controladas sino a las empresas estadounidenses que son permeables a las presiones de los gobiernos para dar acceso a los datos de sus usuarios. Nikolai diseñó el protocolo de software y Pável aportó el ca­pital.

 Lo esencial de Telegram y su banderín de enganche es que diseñaron un sistema de comunicación con una encriptación potente y distribuida entre las máquinas de los usuarios. Que además pueden utilizar múltiples máquinas para acceder a su red. Telegram garantiza que no hay publicidad, que no hay pago de suscripción y que no hay venta o comunicación de datos.

 Por esa razón es la aplicación favorita de los movimientos sociales, protestas ciudadanas o culturas alternativas en el mundo, en España también. Es posible que incluso la utilicen ­terroristas. Pàvel Dúrov responde que entonces también habría que prohibir las palabras.

Algunos críticos aducen que su encriptación no es tan segura como sus fundadores aseguran. Francamente, no lo sé. He oído argumentos técnicos en ambos sentidos. Lo que es seguro es que es el sistema más protegido contra la intrusión de gobiernos o empresas entre los de mayor uso. 

Actualmente, tiene 200 millones de usuarios regulares en el mundo y crece al 50% anual, a pesar de la hostilidad de los poderes que no pueden tolerar que haya un sistema de comunicación que pueda ser accesible para la gente y mucho más difícil de acceso por parte de las agencias de espionaje. Al convertirse en un símbolo de la libertad tecnológica en internet merced a la encriptación y la comunicación distribuida acrecienta su atractivo al tiempo que exaspera la furia de los censores.

Lo que mucha gente se pregunta es cómo se financia una empresa de tal envergadura de forma no comercial y sin aceptar inversores o participaciones. En su origen Pável Dúrov utilizó su fondo de inversión propio Digital Fortress, como donación. La empresa sostiene que cuando este capital no sea suficiente solicitarán donaciones y podrían ofrecer comercialmente algunos servicios no esenciales que no afecten el servicio de mensajería de libre comunicación. 

No tengo información privilegiada sobre esta cuestión. Lo que sí es cierto es que no hace falta un capital considerable para establecer redes alimentadas por los propios usuarios y basadas en servidores situados en la nube.

Pero cualquiera que sea el secreto de Telegram, su verdadera significación es que está siendo defendido por una comunidad internauta cada vez más celosa de su libertad."                  (Manuel Castells, La Vanguardia, 12/05/18)

La oscuridad de los algoritmos: problema democrático elemental. ¿La democracia de Google, Facebook y YouTube? Apuntes sobre el sesgo ideológico de los motores de búsqueda

"Cuando Mark Zuckerberg decidió ofrecer a las naciones emergentes Internet.org, la rabia no tardó en estallar. Como explica acertadamente Daniel Leisegang en «Facebook salvará al mundo» (publicado en español por Nueva Sociedad), este proyecto surgido en 2013 tenía una mascarada humanitaria: permitir acceso a Internet a una enorme cantidad de ciudadanos del Tercer Mundo que aún están fuera de la aldea global. Por supuesto, la idea era romper las barreras que impiden, por ejemplo, que dos tercios de la población india se puedan unir a Facebook.

Además de la India, el proyecto aspiraba a un total de 100 naciones más. Acusada de violar la neutralidad de la red, Facebook tuvo que cambiarle el nombre: de Internet.org pasó a llamarse Free Basics y de la India debió irse en 2015 debido a la gran cantidad de críticas que recibió. 

¿Por qué? Porque Facebook no estaba ofreciendo Internet a secas, sino que se trataba de una aplicación para teléfonos móviles a través de la cual los sectores de menores recursos de ese país podían acceder a una versión recortada de Internet. 

La idea, originalmente impulsada con el espíritu de que «la conectividad es un derecho humano», terminó exhibiendo que lo que se proponía Zuckerberg es apropiarse de la gigantesca masa de datos de una significativa cantidad de los pobres del mundo (para monetizarlos). 

¿Quién decidía qué servicios están disponibles en la aplicación? Según Chris Daniels, el vicepresidente de la compañía, la decisión la toman Facebook, el gobierno de cada país y el operador de telecomunicaciones asociado. Con razón, podríamos afirmar que si «Internet es un derecho humano», con Free Basics Facebook sólo aspira a regular los «derechos humanos recortados» de la mitad de la población mundial (la que no tiene acceso a Internet). 

Estas políticas que agrandan la brecha digital poco tienen que envidiarle al modelo de Corea del Norte, donde la mayoría sólo tiene a acceso a una modesta Intranet local que apenas tiene 28 páginas webs disponibles con contenidos fiscalizados por el gobierno de Kim Jong Un (la excepción la constituye, como es obvio, la élite gobernante). 

Free Basics, que se encuentra en una fase muy embrionaria, sumaba en noviembre de 2016 unos 40 millones de usuarios. 

En América Latina, Free Basics ya ha sido implementado en 3 países (sobre veintitrés a nivel mundial que se han unido): Colombia, Guatemala y también Bolivia, cuya inclusión en este programa pone de relieve la insuficiente discusión de los problemas del monopolio de la información en la era digital por parte del populismo continental (o en este caso, su colaboración/subordinación con esos monopolios). 

Free Basics no permite ingresar a Google, el buscador más popular de todo el mundo, sino a Bing (el buscador de la competencia, Microsoft, que posee acciones en Facebook). Ahora bien, ¿qué ocurre con el 49,6% (3700 millones de personas) que sí tenemos acceso a Internet a secas, sin (aparentes) restricciones, y del cual más del 90% somos usuarios de Google? ¿Podemos realmente jactarnos de utilizar un Internet realmente libre y «neutral»?

Efecto de la Manipulación de los Motores de Búsqueda

La expresión «Efecto de la Manipulación de los Motores de Búsqueda» (Seme, por sus siglas en inglés), fue utilizada en agosto de 2015 por Robert Epstein y Ronald E. Robertson, dos académicos de estadounidenses que demostraron que se podía decantar el voto de un 20% o más de indecisos en función de los resultados que ofreciera Google. 

En varios artículos y entrevistas, Epstein se refiere a su estudio y afirma que «en algunos grupos demográficos, hasta un 80% de los votantes» pueden llegar a cambiar sus preferencias electorales según los resultados que ofrece Google. En febrero de 2016, los medios ingleses fueron el terreno de una polémica sobre la injerencia del buscador en las elecciones de los votantes.

Este no es solamente un problema de la democracia occidental. Según la intelectual francesa Barbara Cassin, autora de «Googléame: la segunda misión de los Estados Unidos», Google habría cedido al gobierno de China perfiles de sus usuarios en ese país, «lo cual permitió identificar e incluso arrestar a disidentes».

 Para ilustrar el sesgo ideológico de los motores de búsqueda de manera clara, Cassin afirma que «si, en un país que no sea China, uno escribe en el Google Tiananmen, obtendrá datos sobre la represión a manifestantes en esa plaza de Beijing, en 1989, que dejó centenares de muertos: pero, si lo escribe en China, no obtendrá más que pacíficas referencias urbanísticas a la plaza».

Por supuesto, Google no admite este sesgo ideológico implícito en su sistema, pero las recientes políticas de la empresa para ayudar a «combatir el terrorismo» en general y al Estado Islámico (ISIS) en particular, exhiben concretamente el modo en que funciona su poder sobre las decisiones de las personas en la actualidad.

 Es el caso de Jigsaw, un programa piloto de Google basado en su sistema de publicidad personalizada, pero con un objetivo cero comercial, sino político. El plan es localizar usuarios proclives al mensaje del ISIS y ofrecerles una serie de anuncios específicos para ellos, a través de los cuales se los redirige disimuladamente a contenidos que refutan las tesis del ISIS y que podrían ayudar a quitarles de la cabeza la idea de unirse al 'Califato'. 

Pocos podrían objetar que Google convenza a las personas de rechazar a ISIS, pero es evidente que esto revela que Google está lejos de ser «neutral» u «objetivo» y, por el contrario, llama la atención sobre las posibilidades de manipulación sobre el usuario.

¿Batalla contra las «fake news» o censura 2.0?

Los tiempos han cambiado, y con ellos también lo que hallamos en internet. En 2010, al buscar sobre política en Google, solo un 40% de los resultados los proveían medios de comunicación. Ya en 2016, ese porcentaje rozaba el 70%. El 25 de abril de 2017, Google anunció que había implementado cambios en su servicio de búsqueda para dificultar el acceso de los usuarios a lo que llamaron información de «baja calidad» como «teorías de conspiración» y «noticias falsas» (fake news). Facebook también aplicó una política similar.

Google aseguró que el propósito central del cambio en su algoritmo de búsqueda era proporcionar un mayor control en la identificación de contenido considerado objetable. Ben Gomes, a título de la compañía, declaró que había «mejorado nuestros métodos de evaluación e hizo actualizaciones algorítmicas» para «hacer emerger contenido más autorizado».

 Google continuó: «actualizamos nuestras directrices para evaluar la calidad de búsqueda para proporcionar ejemplos más detallados de páginas web de baja calidad para que los evaluadores marquen adecuadamente». Estos moderadores tienen instrucciones de marcar «experiencias molestas para el usuario», incluidas páginas que presentan «teorías de conspiración». Según Google, estos cambios rigen a menos que «la consulta indique claramente que el usuario está buscando un punto de vista alternativo».

Desde que Google implementó los cambios en su motor de búsqueda, menos personas han accedido a sitios de noticias de izquierdas, progresistas, u opositoras a la guerra. Con base en la información disponible en análisis de Alexa, algunos de los sitios que han experimentado bajas en el ranking incluyen WikiLeaks, Truthout, Alternet, Counterpunch, Global Research, Consortium News, WSWS, la American Civil Liberties Union y hasta Amnistía Internacional. 

También en el caso de Facebook, el editor de KRIK, un medio independiente serbio, publicó sus quejas en The New York Times, explicando como cambios para combatir (aparentemente) las fake news, los perjudicaron seriamente.

 

Llamativamente, poco antes de esa decisión de Google, The Washington Post había publicado un artículo, «Los esfuerzos de propaganda rusos ayudaron a difundir noticias falsas durante las elecciones». Allí se citaba a un grupo anónimo conocido como PropOrNot que compiló una lista de sitios de noticias falsas difundiendo «propaganda rusa». 

El 7 de abril de 2017, Bloomberg News informó que Google estaba trabajando directamente con The Washington Post para «verificar» los artículos y eliminar las «fake news». Esto fue seguido por la nueva metodología de búsqueda de Google: de los 17 sitios declarados como «noticias falsas» por la lista negra del Washington Post, 14 cayeron en su clasificación mundial. 

La disminución promedio del alcance global de todos estos sitios es del 25 por ciento, y algunos sitios vieron caerlo hasta un 60 por ciento. La sospecha de que Google se haya aliado con estos medios tradicionales potentes para discriminar a medios alternativos e independientes cobra fuerza al hilar estos hechos. 

Además de su propio buscador, Google posee el control de YouTube, empresa que compraron en 2006 (un año después de su fundación). YouTube paga a los productores de videos a partir de una cierta cantidad de visualizaciones por colocar anuncios (ads) sobre ellos, actuando de intermediario entre las grandes empresas y ellos.

 El cambio más serio de YouTube se produjo a raíz de informes como el de The Wall Street Journal de que los anuncios aparecían en los videos de YouTube que mostraban extremismo y odio. Cuando grandes anunciantes como AT&T y Johnson&Johnson retiraron sus anuncios, YouTube anunció que trataría de hacer que el sitio sea más aceptable para los anunciantes al «adoptar una postura más dura respecto del contenido ofensivo, ofensivo y despectivo».

 Con estos nuevos algoritmos, Google perjudicó a productores de videos progresistas e independientes, provocando lo que estos denominaron the adpocalypse (apocalipsis de los anuncios). 

Básicamente, el mecanismo implementado terminó por condenar aquellos contenidos alternativos y empuja a los productores de videos a evitar opiniones o puntos de vista objetables… según los estándares políticos de Google/YouTube.

Basado en su estudio, Epstein había cuestionado que Google y Facebook decidan que noticias son falsas y cuales. Considera que su posición monopólica los transforma en un super-editor periodístico mundial. Las prácticas de Google en relación a los algoritmos que regulan los motores de búsqueda no sólo tuvieron implicancias políticas sino también fines comerciales. 

 En el marco de su regulación anti-trust, la Comisión Europea multó a Google con $ 2.7 mil millones por manipularlos para dirigir a los usuarios a su propio servicio de compras, Google Shopping, haciendo uso de su posición dominante. 

La oscuridad de los algoritmos: problema democrático elemental

Cathy O'Neil, cientista de datos y autora del libro «Armas matemáticas de destrucción», alerta sobre la «confianza ciega» depositada en los algoritmos para obtener resultados objetivos. La arquitectura de internet tiene una influencia tremenda sobre lo que se hace y lo que se ve; los algoritmos influyen sobre qué contenido se extiende más en Facebook y cual aparece encima de las búsquedas de Google. 

Sin embargo, los usuarios no están prevenidos de esto ni capacitados para entender el modo en que se recolectan los datos y el modo en que estos se clasifican. Si Free Basics fue criticado por intentar que los desconectados del Tercer Mundo accedan a una conexión de segunda clase creyendo que Internet es igual a Facebook, no puede negarse que para la ciudadanía digital «de primera clase» Google es prácticamente lo mismo que Internet, pues es la que nos posibilita acceder organizadamente a los contenidos de ella.

 De este modo, la oscuridad de los algoritmos se constituye en un problema democrático elemental. Tras un decenio de gobiernos populistas o progresistas en América Latina, no se han tomado medidas que controlen el poder de estos monopolios de la información, en tanto que la discusión sobre este tópico se encuentra completamente atrasada. 

Incluso la izquierda de las naciones desarrollados no ha llegado a proponer un programa de conjunto. Quizás, una de las tareas más urgente consista en politizar esta cuestión."                    (Lucas Malaspina, Nueva Sociedad, febrero, 2018)

Todo el modelo de negocio de Facebook se basa en recopilar información de los usuarios y venderla a empresas o gobiernos. Po eso consagra una gran cantidad de recursos a encubrir con quién comparte su valiosísima información sobre los usuarios

"El 26 de marzo de 2016, un parque infantil de Lahore, Pakistán, sufrió un ataque terrorista que acabó con la vida de gran cantidad de niños y sus padres; juguetes y zapatitos quedaron desparramados junto a diversas partes del cuerpo y fragmentos quemados de ropa.

 A cientos de miles de kilómetros de allí, en Palo Alto, California, el fundador de Facebook, Mark Zuckerberg, entró en su perfil de Facebook, que aglutina a millones de seguidores en el imperio de su red social. Conmovido por las noticias de la masacre de Lahore, Zuckerberg observó que su equipo de Facebook había activado demasiadas veces en los últimos meses la “Comprobación del estado de seguridad” (Safety Check), que se diseñó para que los usuarios pudieran alertar a sus amigos y seguidores de que se encuentran fuera de peligro cuando se produce un ataque mortal o una catástrofe natural. 

Zuckerberg hizo referencia a los ataques terroristas que habían sacudido Turquía y Bélgica, además de mencionar el atentado de Lahore. Para finalizar, confirmó su determinación de hacer frente a esos males con una conclusión marcada por su característico sientehabla: 

Creo que la única manera sostenible de defenderse de aquellos que buscan dividirnos consiste en crear un mundo en el que la comprensión y la empatía se propaguen con mayor velocidad que el odio, y en el que todas las personas de todos los países se sientan conectados, apreciados y amados. Ese es el mundo que podemos y debemos construir entre todos.

En los meses posteriores, Zuckerberg pasó a otras cosas: una iniciativa para “curar todas las enfermedades” (sí, la gente todavía cae enferma de forma inoportuna, aunque Zuckerberg velará porque reciban el tratamiento más eficaz posible) y, en junio de 2017, una visita a Iowa para sondear una supuesta candidatura presidencial. No obstante, a finales de ese mes, regresó a la tarea de hacer frente al terrorismo. Se alió con Microsoft, Twitter y YouTube, y anunció una iniciativa que difería bastante del emotivo alegato en favor de la empatía lanzado un año antes. 

Los gigantes de las redes sociales se centrarían a partir de ahora en desarrollar una tecnología que sirviera para restringir el acceso de los grupos terroristas a sus redes, y el coloso de software Microsoft (que no emitió un comunicado por separado) probablemente expandiría sus protocolos de control lingüístico mediante una serie de colaboraciones que había formalizado en mayo con varias ONG. 

La nueva iniciativa multiplataforma y antiterrorista, fabulosamente titulada “Foro mundial de internet para combatir el terrorismo”, prometía desarrollar tecnología que pudiera detectar el material terrorista y establecer unas buenas prácticas que sirvieran para combatir el extremismo y el odio; además, tendría a las cuatro megaplataformas colaboradoras compartiendo información sobre posibles “herramientas para contrarrestar el discurso”. 

Al parecer, el amor y la empatía habían desaparecido del debate. Tampoco quedaba rastro del tecnorealismo que un año antes había llevado al grupo de reflexión de Twitter a declarar que no existía ningún “algoritmo mágico” que pudiera identificar el contenido terrorista en internet. 

El Blackwater virtual

De hecho, desde que emitieron su anuncio, sobrio en comparación con otros, las cuatro partes integrantes del Foro mundial de internet todavía no han logrado inventar nada remotamente parecido a un algoritmo mágico que desafíe al terrorismo. Aunque en realidad la verdadera innovación nunca pretendió adoptar forma de código: el nacimiento del Foro mundial de internet marca el inicio de la expansión de las redes sociales y las plataformas de contenido compartido hacia la administración de la guerra contra el terrorismo con el respaldo del Estado. 

Como sucedió con otras iniciativas que pretendieron privatizar las guerras terroristas en el pasado, esta futura simbiosis probablemente empeorará la situación en todos los frentes. Los gobiernos podrán seguir inmiscuyéndose libremente en la privacidad y la libre expresión en condiciones de mayor impunidad, y también las plataformas sociales se ajustarán con firmeza al protocolo estatista (y las fuentes de financiación) para garantizar sus actuales monopolios mundiales. 

Como ya sucedió con el famoso caso de Blackwater (la empresa privada cuyos mercenarios llevaban a cabo interrogatorios, extradiciones, torturas y masacres civiles durante la invasión estadounidense de Irak), la rama antiterroristas del Foro mundial de internet podrá operar a salvo sin que exista nada parecido a una rígida supervisión pública, libre del molesto mandato del sector público sobre transparencia e información. 

La información que acumule podrá compartirse en secreto con un gobierno, y con más de un gobierno, y esto le permitirá ser capaz de localizar, procesar y perseguir a cualquier ciudadano que localicen las búsquedas de datos según la agenda política del momento. 

El panorama es igual de desolador para los usuarios de las redes sociales situados en la parte comercial. Si una de sus publicaciones o tuits suscita el interés del politburó del Foro, los usuarios podrían perder el control real sobre sus clics, ubicaciones y consultas (y lógicamente sobre el flujo constante de información demográfica que se filtra de forma rutinaria de sus cuentas) en el caso de que un moderador de Facebook o un algoritmo de Twitter extremadamente recelosos les etiquete como terroristas, o como terroristas en potencia. 

En otras palabras, nuestros amos tecnológicos, que no rinden muchas cuentas de por sí, serían el factor más influyente en la vida privada de un individuo, sin necesidad de estar sometidos al peso de las garantías procesales que exigen todos los gobiernos hasta que esa persona ya esté clasificada y condenada por los datos recopilados. 

Zuckerberg, zar del terrorismo 

Más allá de la capacidad optimizada de vigilancia que inevitablemente acompaña a un acuerdo contractual para promover una iniciativa de este u otro tipo en la lucha contra el terrorismo, aquí también está en juego algo que podría llamarse una rama metafísica de la ampliación de metas. Cuando las plataformas sociales estén a la vanguardia de la guerra contra el terrorismo, también se arrogarán el poder de definir qué es terrorismo (y quién, a su vez, es un terrorista). 

En realidad, pocos días después del anuncio del Foro, la página de periodismo de investigación sin ánimo de lucro, ProPublica, publicó un sólido informe sobre el trato diferente que los moderadores daban a ciertas publicaciones, dependiendo de la identidad racial y las convicciones políticas de los que publican las entradas. En su mayor parte, se trataba de una trágica historia de dos publicaciones de Facebook.

 Una del congresista republicano de Luisiana, Clay Higgins, al día siguiente del ataque terrorista en el puente de Londres, que decía: “Cazadlos, identificadlos y matadlos, ¡matadlos a todos!”. “Por el bien de todo lo bueno y justo, ¡matadlos a todos!”. 

Facebook no eliminó la publicación, a pesar de que incitaba claramente a la violencia y contravenía los términos de servicio de la página, porque supuestamente iba dirigido hacia un subgrupo específico de musulmanes (los “radicalizados”) en lugar de estar dirigido a todos los creyentes del islam. Más o menos por las mismas fechas, Facebook eliminó una publicación del poeta y activista de Black Lives Matter, Didi Delgado, que decía: “Todos los blancos son racistas. 

Parte de esa base o ya estarás equivocado”. Para asegurarse de que se castigaba como era debido a la persona que lo publicó y que el contenido ofensivo no se republicaba, cancelaron la cuenta de Delgado durante siete días. 

Esta evidente doble moral parece reflejar perfectamente la política empresarial de Facebook. Uno de los ejercicios que figura entre el material de formación que entrega la empresa a los moderadores encargados de implementar el algoritmo de Facebook contra la incitación mundial al odio, les pide que seleccionen de entre una lista de tres al grupo que tiene derecho a ser protegido de las expresiones de odio en internet: las mujeres al volante, los menores negros y los hombres blancos. La respuesta correcta son los hombres blancos. 

El propio Zuckerberg ha actuado como árbitro final en los casos en que había que moderar polémicas relacionadas con hombres blancos, y se ha asegurado de que reciban un tratamiento favorable. Por ejemplo, cuando los empleados de Facebook señalaron que las publicaciones que realizó el por entonces candidato a la presidencia, Donald Trump, en favor de prohibir viajar a los musulmanes (un grupo concreto), violaban las normas de la compañía sobre las expresiones de odio, Zuckerberg intervino personalmente y afirmó que había que permitir esas publicaciones incluso aunque fuera consciente de que violaban las propias restricciones de la empresa sobre incitación al odio. 

s permitirían a partir de ahora el contenido que se considerara “periodístico, significativo o relevante para el interés público”. Las entidades que determinarían quién y qué cumple con estos criterios serían, cómo no, Facebook y Zuckerberg.

 Y como el Foro se ha apropiado de la guerra digital, la perspectiva es bastante preocupante: las empresas privadas de información serán los primeros árbitros en valorar situaciones de gran alcance y a menudo especulativas sobre el lenguaje terrorista, la intencionalidad y la expresión (y otros asuntos demasiado reales relacionados con el castigo y el contraataque militar).

De igual manera, Twitter concibió un vacío legal del tamaño de Trump en su política contra la incitación al odio. Como ya han documentado numerosos artículos, Trump ha retuiteado en repetidas ocasiones memes y expresiones de odio provenientes de grupos neonazis que superaron sin problemas los controles oficiales de Twitter, aunque su contenido incitaba abiertamente al odio contra los musulmanes, los afroamericanos y contra otras minorías (infringiendo de nuevo la política oficial de Twitter). 

Igual que Facebook, Twitter parece haber decidido dictar una excepción subjetiva a su propia política cuando se trata de una incitación al odio avalada por el presidente. Pero como Twitter es una empresa privada, no está obligada a justificarse públicamente por semejantes excepciones, ni tampoco está sujeta a un escrutinio público sobre cuál es su definición de lo que considera expresiones de odio que hacen apología del terrorismo en su plataforma. 

Tuitear siendo moreno 

Estas flagrantes omisiones en el diagnóstico y castigo de la incitación al odio son moneda corriente en el ámbito de las redes sociales. El Southern Poverty Law Center (una organización de defensa de los derechos civiles) constató que Twitter se estaba quedando atrás de forma manifiesta en su intento por imponer restricciones a la incitación al odio en las cuentas relacionadas con supremacistas blancos. 

La plataforma suspendió por fin algunas cuentas asociadas con grupos de odio de supremacistas blancos a finales del año pasado, aunque muchas páginas de este tipo siguen difundiendo propaganda racista. Mientras tanto, Twitter informó de que los moderadores de la empresa habían suspendido 125.000 cuentas por tener presuntos vínculos con ISIS.

 Como era de esperar, los incentivos del mercado para condonar el discurso de odio marca Trump, y para incluir a los nacionalistas blancos que usen redes sociales en la definición de incitación al terrorismo, han dado unos llamativos resultados. En 2016, un estudio llevado a cabo por el Curso sobre Extremismo de la Universidad George Washington, titulado “Nazis contra ISIS en Twitter: un análisis comparativo de las redes sociales de los nacionalistas blancos y de ISIS”, concluyó que los principales grupos de nacionalistas blancos habían aumentado su número de seguidores en un 600% desde 2012. 

El informe atestiguó que los grupos de nacionalistas blancos utilizaban sobre todo la etiqueta #whitegenocide y que nombraban al presidente Donald Trump más que a ninguna otra persona. El estudio también confirmó que la presencia en internet de los supremacistas blancos superaba a las cuentas relacionadas con ISIS en casi todos los parámetros. 

Esta tendencia ha demostrado que no le afectan los ataques terroristas cometidos en el mundo real: los delitos de odio perpetrados por supremacistas blancos, como por ejemplo el de Dylann Roof, que asesinó a nueve personas en una iglesia negra de Charleston, Carolina del Sur, no hicieron que se incrementaran los esfuerzos policiales por vigilar a estos grupos o controlar el uso que hacen de las redes sociales.

 Las cuentas de los nacionalistas blancos o nazis cuentan con un seguimiento medio ocho veces superior al de las cuentas relacionadas con ISIS, y aun así, como denunciaba el estudio de la universidad George Washington, casi todas siguen operando libremente en Twitter.

El consenso entre las plataformas propietarias de redes sociales es evidente: el terror, según la definición operativa que manejan, es algo extranjero que perpetúan las minorías religiosas y raciales. El vacío deliberado que crea esta ceguera voluntaria desplaza de forma errónea el foco de atención y lo aleja del odio que disemina la derecha. 

Las plataformas de redes sociales pueden hacer excepciones o alterar sus reglas internas en cualquier momento, y así asegurarse de que el trato diferente que reciben los diversos grupos sociales que promueven el terrorismo sirve de base para llevar a cabo un ejercicio de ingeniería social. Como resultado, aquellos que ya se sienten con el derecho de actuar con impunidad, como por ejemplo los hombres blancos identitarios, reciben un apoyo tácito para continuar como hasta ahora, mientras que aquellos etiquetados como “otros” hostiles y peligrosos, son rápidamente castigados y suspendidos por la red social que dominan los blancos. 

Teniendo en cuenta este entorno permisivo, no sorprende que “los extremistas de derechas conspiraran o llevaran a cabo casi el doble de ataques terroristas que los extremistas islámicos” en EE.UU. entre 2008 y 2016.

Todo medio y ningún mensaje

Todo este proceso autoselectivo obtiene su autoridad moral del mandato que todo lo justifica cuando se trata de luchar contra el terrorismo online, es decir, el que practica un cierto tipo de moreno, musulmán o extranjero.

 Al igual que otras iniciativas antiterroristas, esta medida se puso en marcha como consecuencia de una amenaza externa amorfa y camaleónica de origen y poder desconocido; y el miedo que produce una amenaza de ese tipo es tan paralizador que ninguna de las partes siente la obligación de cuantificar el éxito real que tienen las medidas antiterroristas que se adoptan para frenar la proliferación del terrorismo. 

La creación del Foro sigue este manual de corte alarmista a pies juntillas. Al igual que los servicios de inteligencia propensos al pánico del Reino Unido y los EE.UU., los amos de las redes sociales suponen que la disponibilidad de internet y la ubicuidad de las redes sociales son de alguna forma responsables de la producción y difusión del terrorismo de inspiración islamista. Por tanto, deducen que si bloquean las redes de distribución de terrorismo islámico, podrían desaparecer las causas subyacentes del terrorismo islamista.

Tras el ataque terrorista en el Puente de Londres, los ciudadanos británicos recibieron de la primera ministra Theresa May una dosis no filtrada de este razonamiento. May, que había elaborado la mayoría de las medidas antiterroristas durante su período como ministra del Interior, culpó directamente a internet. Con el gesto serio, anunció: “No podemos permitir que esta ideología disponga del espacio seguro que necesita para reproducirse”, y prometió nuevas normativas “para regular el ciberespacio y prevenir la proliferación del extremismo y de los planes terroristas”. 

La declaración de May refleja un consenso amplio y transversal entre todos los líderes de gobierno occidentales mientras calculan el poder del Estado Islámico para llevar a cabo ataques dentro de sus fronteras. No obstante, lo que resulta aún más revelador es que su declaración pone de manifiesto el decisivo error que impide a los gobiernos occidentales ganar terreno frente a sus enemigos islamistas militantes.

 En lugar de centrarse en el fondo de la ideología de ISIS o en los factores estructurales que disparan el encanto que genera entre los lobos solitarios o las células independientes, los líderes occidentales se dejan seducir una y otra vez por los medios superficiales de transmisión de los mensajes.

De ahí que solo se centren en la estrategia predominante del momento. Las antiguas estrategias eran videos de Bin Laden y sermones de imanes afines a las ideas de Al Qaeda o los Hermanos Musulmanes en YouTube; y ahora mismo, son las redes sociales. 

La insensatez de este enfoque está extendida de forma alarmante entre todos los medios occidentales y los organismos de inteligencia. Para poner solo un ejemplo destacado, más o menos al mismo tiempo que ISIS declaró el califato, J.M. Berger, periodista de The Atlantic, publicó un artículo que pretendía explicar “Cómo ISIS manipula Twitter”. 

Berger detallaba cómo ISIS empleaba una aplicación del Twitter árabe llamada “El amanecer de la buena nueva”, que estaba disponible en Google. Esta aplicación, que supuestamente contaba con el apoyo de las principales figuras de ISIS en Twitter, publicaba tuits aprobados por ISIS en cuentas personales de Twitter, y así conseguía magnificar y expandir la influencia que ejerce el grupo en la red social. 

Pensándose que el despliegue teatral de imágenes medievales ejemplificaba un primitivismo auténtico, Berger hizo una pausa para maravillarse frente a la utilización que hacía el grupo de “los conceptos de marca y mensajería en los grupos de discusión” con el objetivo de extender su mensaje. Sin embargo, no se le pasó por la cabeza que la apariencia medieval pudiera ser un método empleado por el recientemente lanzado califato para presentarse como el islam auténtico.

 De igual forma, otros medios de comunicación, ansiosos por exagerar la importancia de las redes sociales como causa principal del pensamiento terrorista, publicaban titulares tan llamativos como: “ISIS consigue dominar una técnica decisiva de reclutamiento que ningún otro grupo terrorista había dominado antes”.

En medio de toda esta carrera por hacer un periodismo basado en la tesis tecnocentrista, los analistas no cayeron en la verdad evidente de que cualquier tipo de grupo que quiera conseguir un seguimiento masivo utiliza estrategias de promoción en redes sociales, y que todas esas estrategias, como las plataformas que buscaban explotar, por definición, son de reciente creación. O lo que es lo mismo: ser original no implica ser un malvado genio de las redes. 

Algunos estudios exhaustivos sí cuestionaron esta premisa de que las redes sociales forman parte integral de las operaciones del ISIS. Un informe publicado en 2015 y titulado “ISIS en EE.UU.: de los retuits a Al Raqa”, concluyó que los setenta y siete afiliados de ISIS que habían sido arrestados hasta entonces componían un grupo “muy diverso” cuya radicalización no tenía su origen en unas únicas condiciones sociales, y menos aún en una única red social.

Pero ninguna de estas conclusiones afectó a la constante retórica alarmista sobre el ISIS en Twitter, ni tampoco a la tesis especulativa complementaria que afirma que una mayor vigilancia de las cuentas de Twitter y Facebook podría acabar con ISIS o asestarle un golpe casi definitivo. En febrero de 2016, el curso sobre Extremismo de la Universidad George Washington ya había comenzado a cantar victoria basándose en este argumento, con una publicación titulada Los réditos cada vez menores del Estado Islámico en Twitter: cómo la cancelación de cuentas pone coto a las redes sociales de los seguidores del ISIS de habla inglesa. 

Firmado por J. M. Berger (cómo no), el informe presenta el tipo de argumento circular que induce a poner la mirada en blanco y que solo puede considerarse una investigación si todas las partes interesadas buscan la confirmación selectiva de una hipótesis en lugar de demostrar su auténtica veracidad. 

El informe de Berger pretendía demostrar que al suspender las cuentas de Twitter relacionadas con ISIS, la empresa había conseguido reducir significativamente la actividad de ISIS en Twitter. En realidad, el informe afirmaba que los parámetros básicos demostraban que la red social del ISIS estaba “estancada o disminuía ligeramente”, aunque para la prensa estadounidense, siempre dispuesta a cantar cualquier tipo de victoria frente al ISIS, aunque sea online, esto fue motivo suficiente para dar saltos de alegría. Berger, quizá todavía emocionado por su reciente momento de gloria en The Atlantic, complació de buena gana y declaró que una presencia menor en Twitter significaba que “las actividades clave del grupo habían disminuido considerablemente”.

No obstante, si la actividad ya había disminuido seriamente en 2015, la cancelación de cuentas continuada y creciente de 2016 y 2017 hace pensar que esas acciones no son más que una campaña publicitaria para promocionar la lucha contra el avance del terrorismo islamista. El informe de Berger señalaba que en octubre de 2015, el número de cuentas de habla inglesa de ISIS “fácilmente localizables” era de aproximadamente unas mil. 

No obstante, algunas noticias de CNN situaron el número de cuentas relacionadas con ISIS que habían sido canceladas en 235.000 en 2016 y 377.000 en 2017. En este sentido, el aumento escalonado del número de cancelaciones no hace sino enturbiar el argumento en favor de lanzar una ofensiva integral contra el tráfico de internet que promueve el discurso de odio y fomenta el terrorismo. 

Solo muy bien entrado el informe de Berger, nos topamos con una explicación bastante más plausible de la tendencia descendente de los números del grupo en Twitter: que como buen promotor de conspiraciones terroristas mundiales, ISIS había adoptado una estrategia de comunicación mucho más reservada, y sus miembros se comunicaban solo con otros miembros en lugar de intentar captar nuevos reclutas.

 Además, al ver cómo su perfil disminuía en una red social, ISIS simplemente utilizó otras y optó por WhatsApp y Telegram, puesto que ambas facilitaban el secretismo que buscaba el grupo al brindar a sus usuarios un nivel de encriptación mucho mayor y menores opciones de ser descubiertos. Con el permiso de la famosa máxima de Marshall McLuhan, los esfuerzos de promoción del ISIS siempre fueron acerca del mensaje, aunque Berger solo pudo ver el medio. 

Este número récord de cambios de plataforma del entorno del ISIS, casi igual que su atracción inicial por la novedosa plataforma de Twitter, resulta poco sorprendente si tenemos en cuenta el amplio radio de acción de la agenda de ISIS desde el principio. Aunque el énfasis de los miopes medios de comunicación y agencias de inteligencia por centrarse en las redes sociales conocidas de EE.UU. indica, por el contrario, un error fundamental en la estrategia tecnocentrista de EE.UU. para contrarrestar el extremismo violento. 

En lugar de reconocer que ISIS y otros militantes islamistas eligen (o descartan) una plataforma concreta para lograr ciertos objetivos políticos, los políticos y analistas asumen de forma ingenua que bloquear o vigilar de cerca la presencia en las redes sociales del grupo corta el paso a ISIS y a sus aliados. Los analistas y periodistas occidentales, tras haberse imbuido de una erudición crédula y engañosa sobre el poder radicalmente democrático de las redes sociales para promover los levantamientos de la Primavera Árabe, no han hecho más que modificar el mismo determinismo tecnológico para concebir la amenaza terrorista islámica como un lío siniestro de algoritmos, y confundir una estrategia mediática de difusión con una agenda de ISIS fuera de internet bien organizada y financiada cuyo objetivo es reclutar terroristas y expandirse a nivel geopolítico.

Esta misma miopía tecnológica occidental impide que se adopten enfoques nuevos en la elaboración y difusión de campañas eficaces que puedan desacreditar la propaganda extremista de forma sustancial. Esto también se convierte rápidamente en un bucle de ingeniería social burocrática: al asegurar que el éxito aparente de la propaganda extremista es fortuita, los estrategas antiterroristas occidentales permiten que ese tipo de propaganda prospere fuera de internet, donde se la retrata como atractiva y letal. 

Refutación conceptual

Hay una paradoja que pasa desapercibida y que está en el núcleo de la presente batalla por acabar con el contenido yihadista en las redes sociales: si los esfuerzos reclutadores de ISIS en Twitter se frenaron hace casi dos años, entonces ¿por qué el poderoso consorcio de plataformas de internet se alía ahora al estilo de la liga de la justicia para combatir el terrorismo? 

La única forma de comprender esta lógica pasa por ignorar la gran premisa que dio pie a esta unión. En realidad, luchar contra el terrorismo fuera de internet no tiene nada que ver con borrar a los emprendedores terroristas de la esfera social online. He ahí la verdadera alteración: como quieren explotar la tremenda confusión del gobierno entre estrategia terrorista y habilidad en las redes sociales, Facebook, Twitter, YouTube y Microsoft han concebido un plan de ingeniería inversa para escapar de una obligación regulatoria que habría supuesto un golpe muy duro para sus modelos de negocio.

 Como seguramente se tendrían que enfrentar a una mayor regulación gubernamental, ofrecieron “combatir” el terrorismo de forma enérgica en sus propias plataformas y entregar información de forma voluntaria en lugar de hacer frente a los requerimientos legales para hacerlo.

Este cómodo acuerdo entre las autoridades y los ejecutivos de las redes sociales excluye de forma conspicua a los consumidores, cuyas identidades e información podrán ser recopiladas y canceladas mediante algoritmos desconocidos y luego puestas a disposición de los organismos policiales. En el contexto de EE.UU., las disposiciones fundamentales de la Cuarta y la Quinta enmienda, que protegen a los ciudadanos contra el registro e incautación ilegales, nunca se activan porque las empresas privadas no están obligadas a cumplir ante un tribunal con el principio de sospecha fundada antes de recopilar y entregar datos de los usuarios. 

Por último, en un contexto más amplio, la gigantesca variedad de métodos que emplean las compañías de macrodatos para monitorizar la información sensible en los ámbitos comercial y geopolítico deja muy claro que el compromiso de la industria con el mantenimiento de la privacidad de los usuarios nunca va más allá de la simple palabrería. 

Consideremos, una vez más, el ejemplo de Pakistán. En mayo de 2017, Dawn, el periódico en inglés más grande de Pakistán, publicó un informe en el que detallaba cómo cuarenta y uno de los sesenta y cuatro grupos terroristas que habían sido prohibidos en Pakistán seguían operando libremente en Facebook.

Los grupos eludieron los sencillos protocolos de usuario para crear cientos de páginas y hacer proliferar los perfiles individuales y de grupo. Los periodistas de Dawn localizaron a los grupos prohibidos variando una serie de siglas y acrónimos y luego documentaron una larga lista de “me gusta” y seguidores para cada organización. 

Descubrieron que el más popular de estos grupos era Ahle Sunnat Wal Jamaat (los seguidores de la Sunna), anteriormente conocido como Sipah-e-Sahaba (Soldados de los Compañeros del Profeta). Ahle-Sunnat tenía doscientas páginas bajo su actual alias, mientras que SSP tenía 148 páginas. 

Las autoridades pakistaníes prohibieron Sipah-e-Sahaba por primera vez en 2002, y luego prohibieron Ahle Sunnat Wal Jamaat en 2012; los tribunales pakistaníes condenaron a sus miembros por asesinar a cientos de musulmanes chiíes e incitar a que otros hicieran lo mismo. Los investigadores relacionaron a los líderes Ahle Sunnat con el poderosísimo Consejo de Defensa de Pakistán, y el grupo también escenificaba concentraciones de masas en las que exigía que el Estado de Pakistán rompiera toda relación con los países occidentales. Sipah-e-Sahaba, prohibida de forma oficial en 2002, tenía el mismo programa y utilizaba la misma estrategia fraudulenta en las redes sociales (operar bajo una gran variedad de nombres y asesinar a musulmanes chiíes y minorías). Asimismo, sus líderes también trabajaron en conjunto con el organismo de inteligencia militar de Pakistán. 

El escrito de Dawn documentaba con profusión de detalles cómo los esfuerzos oficiales por reducir la presencia yihadista en internet sirven a los gigantes como Facebook, en el ámbito de su política operativa, como una cortina de humo. En su afán por eludir la intromisión del gobierno en su país de origen, Facebook simula estar tomando duras medidas contra el contenido con tintes remotamente terroristas, pero en un mercado nacional como el de Pakistán, la macro red social no tiene ningún problema en ignorar ese tipo de contenido y aplicar un régimen de vigilancia mucho más permeable. Por ese motivo, más de una década después de haberlos prohibido, ambos grupos pueden seguir disfrutando y explotando libremente una significativa y visible presencia en Facebook, y un apoyo gubernamental poco disimulado. 

Muerte a los blasfemos

En realidad, en lugar de negociar con las autoridades de Pakistán para frenar las actividades de estos grupos extremistas tanto dentro como fuera de internet, Facebook hizo lo imposible por acomodar el programa de los líderes islamistas en un ámbito clave: la vigilancia del contenido ostensiblemente blasfemo. El pasado mes de marzo, el gobierno Pakistaní anunció que Facebook retiraría a partir de ahora de la plataforma social “todo el contenido blasfemo”.

 El ministro del Interior de Pakistán hizo referencia a la reciente correspondencia que mantuvo con altos cargos de Facebook en la que le aseguraban que la empresa estaba tomándose “muy en serio las preocupaciones planteadas por el gobierno de Pakistán”. Algunos otros miembros del gobierno pakistaní y de la Agencia Federal de Investigación de Pakistán declararon asimismo que Facebook había aceptado retirar el contenido blasfemo y entregar la información de los usuarios que estuvieran relacionados con investigaciones criminales a las autoridades pakistaníes.

 El 11 de junio de 2017, un tribunal pakistaní condenó a muerte a Taimoor Raza, tras acusarlo de blasfemia por un comentario que había publicado en Facebook.

Facebook todavía no ha confirmado de forma independiente el contenido íntegro de este proclamado cambio de política en Pakistán. Tras el anuncio de esta primavera, el vicepresidente de políticas públicas de Facebook, Joel Kaplan, viajó a Pakistán para encontrarse con el ministro de Interior de Pakistán, Nisar Ali Khan. Las noticias del encuentro citaron un email de la empresa que afirmaba que “Facebook se había reunido con las autoridades pakistaníes para expresar el fuerte compromiso de la empresa por proteger los derechos de la gente que usa su servicio y por permitir que la gente se exprese libremente y de forma segura”.

 Durante la reunión del 7 de julio, Khan supuestamente ofreció establecer una oficina en Pakistán para dar servicio a los 33 millones de usuarios de Facebook que se calcula que hay en el país. El cumplimiento de las peticiones gubernamentales relacionadas con la entrega de información de los usuarios que registró la propia empresa demuestra que Pakistán está entre los diez regímenes que más solicitan ese tipo de información sensible.

 Facebook informó de que había cumplido con dos tercios de ese tipo de peticiones, aunque a mediados de julio la empresa denegó la petición del gobierno de Pakistán para sincronizar las cuentas personales con los números de teléfono, lo que habría simplificado a las fuerzas del estado hacer un seguimiento de los usuarios.

Ese es el valor, según parece, de la emotiva promesa de Mark Zuckerberg de repartir amor y empatía a lo largo y ancho del tenebroso mundo que se conecta a su sitio web. En su lugar, la principal directriz de Facebook sigue siendo maximizar su acceso a los mercados y adaptar los protocolos de vigilancia terrorista según corresponda. El gobierno de Pakistán ya prohibió YouTube por negarse a retirar el contenido blasfemo (aunque no extremista); por lo que resulta evidente que la reciente iniciativa antiblasfemia de Facebook está pensada claramente para evitar un destino corporativo similar. 

Si tenemos en cuenta las particulares exigencias políticas de Pakistán, el cálculo comercial resulta sencillo: la supuesta amenaza blasfema siempre prevalecerá sobre las consecuencias más que reales de un discurso de odio extremista. En la misma línea, una investigación de ProPublica sobre las repercusiones para las redes sociales de la Primavera Árabe concluyó que era mucho más probable que Facebook colaborara con los gobiernos opresores que buscan limitar el acceso a las plataformas sociales que con los manifestantes y los organizadores que intentan organizar movimientos de resistencia. 

Ni gratis ni barato

En cierto modo, la postura de Facebook de colaborar con los regímenes autoritarios del mundo Árabe no difiere mucho de la postura adoptada por Motorola y Westinghouse, por poner un ejemplo, de beneficiarse del apartheid en Sudáfrica. En ambos casos, la mínima decencia política no es más que agua de borrajas: la obligación principal de una empresa privada es conservar su marca y el valor de sus acciones, y perseguir el objetivo conjunto de asegurar la confianza del consumidor y atraer al mayor número posible de usuarios. 

Por lo general, en estas situaciones las empresas de redes sociales buscan afianzar su credibilidad de mercado realizando un delicado ejercicio de equilibrismo: evadir la regulación del gobierno y al mismo tiempo asegurar que los usuarios confíen en la plataforma y la consideren como un benévolo repositorio donde pueden expresar sus opiniones y guardar su información. Tanto Facebook como Twitter saben que coordinar de forma conjunta la experiencia de libertad y seguridad en sus plataformas es vital para expandir su cuota de mercado y así monetizar las ingentes cantidades de información que recopilan de los perfiles online de sus clientes. 

Por el momento, están teniendo éxito. De acuerdo con las cifras que ha publicado SmartInsight, Facebook es la red social más popular del mundo. En EE.UU. ostenta un 89% de penetración de mercado, lo que significa que la gran mayoría de los adultos estadounidenses utilizan la plataforma. Además, la experiencia de Facebook está diseñada para que los usuarios crean que usarla sale gratis, aunque, por supuesto, todo el modelo de negocio de Facebook se basa en recopilar información de los usuarios y venderla a otras plataformas, o gobiernos, cuando surja la necesidad. 

Bajo la engañosa tapadera de suministrar a los usuarios un “servicio gratuito”, la red social más grande del mundo evita cualquier escrutinio público de sus algoritmos de clasificación de la información y por otra parte consagra una gran cantidad de recursos propios a encubrir con quién comparte su valiosísima información sobre los usuarios. 

Taimoor Raza, el hombre que fue sentenciado a muerte por haber supuestamente cometido un pecado de blasfemia en Facebook, permanece en el corredor de la muerte en Pakistán. Mark Zuckerberg no ha publicado ningún mensaje conmovedor en Facebook para llamar la atención sobre el drama de Raza, o sobre el régimen autoritario que diseñó el sistema que suprime la libertad de expresión de forma brutal.

 Ni tampoco los usuarios pakistaníes que se conectan a la página de Zuckerberg reciben ninguna advertencia sobre la capacidad del gobierno pakistaní o sus órganos policiales para acceder a su información sin su consentimiento, aparte, claro está, de una serie de complejas cláusulas legales que se ocultan en lo más profundo del contrato que regula los términos del servicio. 

Pero eso no es lo único que se echa en falta en esa alianza que se está concretando entre el gobierno y las empresas bajo la apariencia de una dudosa y prolongada guerra occidental contra el terrorismo. Al promover una estricta definición del terrorismo político como si fuera un monopolio exclusivo del islam, los líderes del cártel occidental de los macrodatos han distorsionado la noción de aquello que representa un discurso online “aceptable” y lo han convertido en cualquier cosa que pueda mejorar su cuota de mercado. Pero para detener esa amenaza nadie puede activar una convincente comprobación del estado de seguridad. "                (Rafia Zakaria, CTXT, 15/11/17. Este artículo se publicó en The Baffler)