Las herramientas tecnológicas que
pueblan nuestra vida cotidiana se
expresan cada día más. El auge de programas llamados “inteligentes” termina
con el concepto de neutralidad tecnológica y hace posible un condicionamiento
masivo de la utilización inducida por códigos informáticos.
En efecto, la sugerencia de esa
palabra clave o de un contenido está íntimamente ligada a las elecciones
deliberadas de algunos ingenieros que han creado nuestras aplicaciones
favoritas. La tecnología , en su forma dominante actual, controla así en gran
parte la forma en la que consumimos productos, servicios e información. En el
caso de YouTube, los usuarios pasan 700 millones de horas al día mirando los
vídeos recomendados por el algoritmo (es decir, el 70% del número de horas
consumidas cotidianamente en su web), olvidando la antigua barra de búsqueda en
favor de los contenidos propuestos “a descubrir”. De la misma forma, el motor
de recomendación de las noticias de Facebook general alrededor de 950 millones
de horas de consulta al día. Un fenómeno de tal amplitud hace preguntarse en
cuanto a la responsabilidad de las empresas que gestionan contenidos y el
posible control democrático sobre las mismas, cuyo poder de prescripción no
deja de crecer. ¿Podemos referirnos a un pasado más o menos lejano donde se
haya dado la posibilidad de una tal concentración de poder entre las manos de
un número tan reducido de individuos? Seguramente, no.
Privatización
del control social
Los europeos del siglo XX,
contemporáneos de experiencias totalitarias, han constatado hasta qué punto su
destino podía estar directamente influido por libros de filosofía que trataban
temas ininteligibles o directamente inaccesibles. La filosofía de las Luces,
que anunció la Revolución francesa, demostró cómo un pensamiento complejo podía
preparar los espíritus a la agitación política y social, lo que el comunismo
ruso sistematizó por mediación del Partido. Hoy en día, unas plataformas
privadas que proporcionan lo esencial de la difusión de las ideas han llegado
para sustituir a los espacios colectivos de deliberación que, hasta ahora,
aseguraban una necesaria mediación entre el terreno de los conceptos y el de la
ciudadanía.
Pero si esos gigantescos puntos de
encuentro de la audiencia están motivados por la única lógica del beneficio,
cuyo corolario es la extensión indefinida del tiempo de cerebro disponible, la
distribución generalizada de contenidos afines, a través del empleo de
algoritmos opacos, contribuye de facto
al modelado de las conciencias, y a una forma de estructuración no asumida de
los puntos de vista. La transformación de las redes sociales en verdaderas
cajas de resonancia ideológica, encerrando a millones de individuos en grupos
con las mismas opiniones mediante el fenómeno conocido de la “exposición
selectiva”, ilustra perfectamente este efecto colateral nefasto inducido por la
mecánica de recomendaciones y que facilita la extrema polarización del debate
público. De la misma forma, favoreciendo un contenido en lugar de otro sobre la
base de normas dictadas fuera de cualquier marco democrático, estos grupos
privados ejercen una forma indirecta de control social particularmente potente,
donde las reglas editoriales arbitrariamente establecidas son interiorizadas
por los productores/editores de las plataformas on-line, influyendo en la vida
de las ideas y de la ciudadanía.
Transparencia
de los algoritmos
En Francia, la ley sobre contenidos
digitales impone desde 2017 una transparencia total y sin concesiones de todos
los algoritmos decisionales de carácter individual, utilizados en la Función
Pública. Más recientemente, son los senadores los que se sorprendieron con los problemas
encontrados por los estudiantes por la utilización oculta de algoritmos en la
preselección universitaria de sus carreras, en el marco del programa digital Parcoursup.
Dado el poder de influencia
ejercido por los colosos de lo digital, y aunque se trate de empresas privadas,
parece legítimo formular algunas peticiones de transparencia, sobre todo en el
caso de algunas tecnologías propietarias cuyo impacto político ya nadie pone en
duda. Por otro lado, todavía hay que definir eso que entendemos por transparencia:
¿Se trata de publicar el código informático subyacente al sistema, con las
dificultades que eso comporta en términos de violación posible del secreto
industrial, o más bien publicar una especificación funcional del código, es
decir, divulgar lo que debe hacer el programa más que interesarse por la manera
en que lo hace?
Otras voces, sobre todo en Estados
Unidos, abogan por una comprensión alternativa más radical que daría a los
internautas la posibilidad de navegar en esas plataformas sin ninguna forma de
asistencia técnica mediante una opción obligatoria de dejar en suspenso los
algoritmos. Es una idea interesante pero que subestima bastante la parte de
servidumbre voluntaria y de pasividad que conllevan la utilización de esas
prótesis inteligentes ya aceptadas por millones de individuos transformados en
usuarios inertes al servicio de la máquina.
Burocracia
mundial
Los grandes regímenes totalitarios
han contemplado siempre la posibilidad de extender su imperio burocrático “por
lo alto”, es decir, por la conversión ideológica y la conquista militar, todo
ello adosado a un aparato de Estado fuerte, capaz de imponer su visión en las
cuatro esquinas del mundo. Ironía de la Historia, finalmente ha sido “por lo
bajo” que un puñado de empresas privadas ha conseguido construir semejante
imperio, beneficiándose de la ayuda de individuos abandonados a sí mismos y
cuyas interacciones aisladas vienen a reforzar un órgano de vigilancia y de
(posible) propaganda de un género nuevo. Ahí está la paradoja evidente: la
liberación total de los individuos conjugada a su relativo aislamiento ha
permitido la llegada de un sistema tecnológico a escala mundial que lleva en sí
mismo el germen de la amenaza totalitaria. Las herramientas están en marcha,
tiene la adhesión de una gran parte de la población, solo falta la voluntad de
los agentes privados, norteamericanos en su mayor parte, que prefieren por el
momento dedicarse “oficialmente” solo a los negocios. ¿Hasta cuándo?
Otra paradoja: Internet, hace
tiempo concebido como un espacio utópico de resonancias libertarias, que
mantenía la promesa de una era nueva, finalmente ha terminado siendo un
estupendo terreno de juego para el capitalismo más exacerbado, y absorbido por
los poderes públicos (americanos o chinos) según los intereses estratégicos del
momento. De hecho, el mito de una vuelta a la web de los orígenes, que era
abierta y descentralizada, es la base del entusiasmo actual por la blockchain y otros sistemas
hiperdistribuidos de los que se supone que retoman el espíritu de los pioneros,
pero cuyas primeras aplicaciones “a escala” han enfriado rápidamente las
esperanzas de los creyentes más entusiastas. ■
Traducción: Esther Herrera Alzu. Fuente: Causeur
