Algoritmos, códigos informáticos: ¿Cómo limitar la peligrosa dominación de la tecnología sobre los humanos?, por Jonathan Koskas


Las herramientas tecnológicas que pueblan nuestra vida cotidiana se expresan cada día más. El auge de programas llamados “inteligentes” termina con el concepto de neutralidad tecnológica y hace posible un condicionamiento masivo de la utilización inducida por códigos informáticos.

En efecto, la sugerencia de esa palabra clave o de un contenido está íntimamente ligada a las elecciones deliberadas de algunos ingenieros que han creado nuestras aplicaciones favoritas. La tecnología , en su forma dominante actual, controla así en gran parte la forma en la que consumimos productos, servicios e información. En el caso de YouTube, los usuarios pasan 700 millones de horas al día mirando los vídeos recomendados por el algoritmo (es decir, el 70% del número de horas consumidas cotidianamente en su web), olvidando la antigua barra de búsqueda en favor de los contenidos propuestos “a descubrir”. De la misma forma, el motor de recomendación de las noticias de Facebook general alrededor de 950 millones de horas de consulta al día. Un fenómeno de tal amplitud hace preguntarse en cuanto a la responsabilidad de las empresas que gestionan contenidos y el posible control democrático sobre las mismas, cuyo poder de prescripción no deja de crecer. ¿Podemos referirnos a un pasado más o menos lejano donde se haya dado la posibilidad de una tal concentración de poder entre las manos de un número tan reducido de individuos? Seguramente, no.

Privatización del control social

Los europeos del siglo XX, contemporáneos de experiencias totalitarias, han constatado hasta qué punto su destino podía estar directamente influido por libros de filosofía que trataban temas ininteligibles o directamente inaccesibles. La filosofía de las Luces, que anunció la Revolución francesa, demostró cómo un pensamiento complejo podía preparar los espíritus a la agitación política y social, lo que el comunismo ruso sistematizó por mediación del Partido. Hoy en día, unas plataformas privadas que proporcionan lo esencial de la difusión de las ideas han llegado para sustituir a los espacios colectivos de deliberación que, hasta ahora, aseguraban una necesaria mediación entre el terreno de los conceptos y el de la ciudadanía.

Pero si esos gigantescos puntos de encuentro de la audiencia están motivados por la única lógica del beneficio, cuyo corolario es la extensión indefinida del tiempo de cerebro disponible, la distribución generalizada de contenidos afines, a través del empleo de algoritmos opacos, contribuye de facto al modelado de las conciencias, y a una forma de estructuración no asumida de los puntos de vista. La transformación de las redes sociales en verdaderas cajas de resonancia ideológica, encerrando a millones de individuos en grupos con las mismas opiniones mediante el fenómeno conocido de la “exposición selectiva”, ilustra perfectamente este efecto colateral nefasto inducido por la mecánica de recomendaciones y que facilita la extrema polarización del debate público. De la misma forma, favoreciendo un contenido en lugar de otro sobre la base de normas dictadas fuera de cualquier marco democrático, estos grupos privados ejercen una forma indirecta de control social particularmente potente, donde las reglas editoriales arbitrariamente establecidas son interiorizadas por los productores/editores de las plataformas on-line, influyendo en la vida de las ideas y de la ciudadanía.

Transparencia de los algoritmos

En Francia, la ley sobre contenidos digitales impone desde 2017 una transparencia total y sin concesiones de todos los algoritmos decisionales de carácter individual, utilizados en la Función Pública. Más recientemente, son los senadores los que se sorprendieron con los problemas encontrados por los estudiantes por la utilización oculta de algoritmos en la preselección universitaria de sus carreras, en el marco del programa digital Parcoursup.

Dado el poder de influencia ejercido por los colosos de lo digital, y aunque se trate de empresas privadas, parece legítimo formular algunas peticiones de transparencia, sobre todo en el caso de algunas tecnologías propietarias cuyo impacto político ya nadie pone en duda. Por otro lado, todavía hay que definir eso que entendemos por transparencia: ¿Se trata de publicar el código informático subyacente al sistema, con las dificultades que eso comporta en términos de violación posible del secreto industrial, o más bien publicar una especificación funcional del código, es decir, divulgar lo que debe hacer el programa más que interesarse por la manera en que lo hace?

Otras voces, sobre todo en Estados Unidos, abogan por una comprensión alternativa más radical que daría a los internautas la posibilidad de navegar en esas plataformas sin ninguna forma de asistencia técnica mediante una opción obligatoria de dejar en suspenso los algoritmos. Es una idea interesante pero que subestima bastante la parte de servidumbre voluntaria y de pasividad que conllevan la utilización de esas prótesis inteligentes ya aceptadas por millones de individuos transformados en usuarios inertes al servicio de la máquina.

Burocracia mundial

Los grandes regímenes totalitarios han contemplado siempre la posibilidad de extender su imperio burocrático “por lo alto”, es decir, por la conversión ideológica y la conquista militar, todo ello adosado a un aparato de Estado fuerte, capaz de imponer su visión en las cuatro esquinas del mundo. Ironía de la Historia, finalmente ha sido “por lo bajo” que un puñado de empresas privadas ha conseguido construir semejante imperio, beneficiándose de la ayuda de individuos abandonados a sí mismos y cuyas interacciones aisladas vienen a reforzar un órgano de vigilancia y de (posible) propaganda de un género nuevo. Ahí está la paradoja evidente: la liberación total de los individuos conjugada a su relativo aislamiento ha permitido la llegada de un sistema tecnológico a escala mundial que lleva en sí mismo el germen de la amenaza totalitaria. Las herramientas están en marcha, tiene la adhesión de una gran parte de la población, solo falta la voluntad de los agentes privados, norteamericanos en su mayor parte, que prefieren por el momento dedicarse “oficialmente” solo a los negocios. ¿Hasta cuándo?

Otra paradoja: Internet, hace tiempo concebido como un espacio utópico de resonancias libertarias, que mantenía la promesa de una era nueva, finalmente ha terminado siendo un estupendo terreno de juego para el capitalismo más exacerbado, y absorbido por los poderes públicos (americanos o chinos) según los intereses estratégicos del momento. De hecho, el mito de una vuelta a la web de los orígenes, que era abierta y descentralizada, es la base del entusiasmo actual por la blockchain y otros sistemas hiperdistribuidos de los que se supone que retoman el espíritu de los pioneros, pero cuyas primeras aplicaciones “a escala” han enfriado rápidamente las esperanzas de los creyentes más entusiastas. Traducción: Esther Herrera Alzu. Fuente: Causeur