Maxime Lerolle
En Le capital algorithmique, los economistas Jonathan Durand Folco y Jonathan Martineau analizan el auge distópico del mercado de datos, con sus GAFAM triunfantes a costa de nuestra privacidad.
En su libro Minority Report, adaptado al cine por Steven Spielberg en 2002, el novelista estadounidense Philippe K. Dick imaginaba una sociedad distópica donde los asesinos potenciales eran detenidos y juzgados antes incluso de cometer un crimen. ¿El secreto de esta justicia predictiva? Mutantes dotados de precognición.
A falta de tales mutantes, cada vez más fuerzas policiales de todo el mundo recurren a algoritmos que analizan conjuntos masivos de datos para identificar «casillas rojas», zonas donde es probable que se produzcan delitos, que la policía puede evitar interviniendo con antelación. En la actualidad se detiene a jóvenes, en su mayoría racializados y de sectores populares, por delitos que podrían cometer. La distopía se ha hecho realidad.
Para los economistas canadienses Jonathan Durand Folco y Jonathan Martineau, este fenómeno es sintomático del advenimiento de una “sociedad algorítmica”, cuyo nacimiento y características analizan en su libro Le capital algorithmique (publicado por Écosociété).
El nuevo El Dorado del capitalismo
Esta sociedad surgió tras dos décadas de acumulación de «capital algorítmico». Mientras que muchos ensayos consideran las tecnologías algorítmicas (inteligencia artificial, redes sociales, reconocimiento facial, etc.) independientemente del contexto donde se produjeron, los dos autores nunca las disocian del sistema económico que les dio origen: el capitalismo, del que ahora son el núcleo.
Estas tecnologías se basan en un nuevo tipo de materia prima: los datos. El nuevo El Dorado del capitalismo, los datos, son a la vez un material que se puede extraer –mediante el análisis cuantitativo del comportamiento humano– y una mercancía que se puede vender. El capitalismo algorítmico se apoya en dos pilares: en primer lugar, la extracción masiva de lo que la socióloga estadounidense Shoshana Zuboff denominó, en su libro La era del capitalismo de la vigilancia (2018), el “excedente conductual”, es decir, la captación de una «plusvalía» del trabajo, transformada en datos digitales; y en segundo lugar, la predicción, gracias a estos datos, del comportamiento de los usuarios
Las primeras empresas del capitalismo algorítmico (Google, Amazon, Facebook, Apple y Microsoft, las famosas GAFAM) se convirtieron en adalides de esta nueva era del capitalismo tras la crisis económica de 2007-2008. Los autores del libro fechan en ese periodo la transición del neoliberalismo al capitalismo algorítmico. La década que siguió a la crisis financiera vio el ascenso al poder de las GAFAM, que hoy son algunas de las empresas más cotizadas en bolsa, gracias a un sinfín de inventos (smartphones, ordenadores portátiles, un número cada vez mayor de sensores, etc.). Al mismo tiempo, los agentes económicos tradicionales han integrado los algoritmos en sus propios procesos de trabajo. La pandemia de Covid-19 y los sucesivos confinamientos habrían actuado como aceleradores –como un “gran salto digital”– de una tendencia global fundamental.
Sin embargo, los capitalistas algorítmicos no han construido su imperio únicamente sobre la eficacia de sus tecnologías. Al mismo tiempo que han aumentado la productividad, el trabajo se ha degradado y devaluado en todos los sectores. Empleo asalariado encubierto (Uber, Deliveroo, etc.), microtrabajo (granjas de clics, Mechanical Turk de Amazon, etc.), subcontratación en países del Sur Global (adiestramiento del ChatGPT mediante trabajadores kenianos mal remunerados por OpenAI) o incluso explotación del trabajo gratuito de los usuarios (las valoraciones dadas a tal o cual establecimiento en Google, Yelp, Airbnb, etc.)… A las plataformas no les falta imaginación a la hora de fragmentar y sujetar a los trabajadores que dan forma a sus algoritmos… y aumentar sus beneficios en consecuencia.
Una distopía deseada
¿Cómo ha podido nacer semejante distopía, cuando se estaba construyendo a la vista de todos desde hacía veinte años? Esta es una de las tesis más sólidas de las veintidós de Jonathan Durand Folco y Jonathan Martineau: la sociedad algorítmica pudo surgir porque fue deseada. Y ante todo por los gobiernos. Lejos de controlar a las GAFAM estadounidenses o a las BATX chinas (Baidu, Alibaba, Tencent y Xiaomi), los gobiernos han preferido aliarse con ellas para desarrollar una nueva “gobernanza algorítmica” incompatible con el ejercicio de la democracia.
Utilizando el poder de los algoritmos para determinar y dirigir los impulsos dentro de sociedades complejas, los estados contemporáneos están convirtiendo “la información en un instrumento de política que anima a los distintos actores a actuar de determinadas maneras en lugar de otras”. Los algoritmos se han introducido en casi todos los ámbitos del poder público: la policía, pero también la justicia (en Estados Unidos, los algoritmos recomiendan veredictos y los jueces determinan las penas adecuadas), las prisiones (Taiwán está experimentando con «cárceles sin guardias») e incluso la asignación de programas sociales según criterios opacos, incluso a los ojos de los funcionarios públicos.
A pesar de lo aterrador de este capitalismo de vigilancia promovido tanto por gobiernos como por multinacionales, hay que decir que una gran parte de la población mundial parece aceptar este estado de cosas. Las últimas tesis de El capital algorítmico examinan las razones de esta ambigua aceptación social. Si tanta gente equipa su smart home [hogar inteligente] con una heladera conectada que pide leche directamente cuando se le acaba, una cama inteligente que analiza la calidad del sueño y otros artilugios tecnológicos, es porque lo ven como una forma de aliviarse de parte del trabajo doméstico… todo ello sabiendo perfectamente que están abriendo la ventana de su intimidad doméstica a estas empresas.
La explotación de la intimidad puede ir aún más lejos. Además de la plétora de sextoys y muñecas inflables inteligentes, la industria produce ahora «érobots» [robots eróticos], generalmente chatbots, como Replika, con los cuales usuarios necesitados de interacción humana pueden entablar amistad o incluso formar parejas virtuales. Se completa así el círculo: frente al vacío humano que genera, el capitalismo ofrece soluciones tecnológicas… que sólo sirven para aislar aún más a los desamparados. Emerge así una nueva forma de subjetividad. En la era de las redes “sociales”, emerge un «yo conectado», paroxismo del narcisismo social, que muestra su vida privada en público y obtiene placer de ello.
«Tecnosobrios»
A pesar de todo, parece haber un rayo de esperanza en el sombrío panorama del mundo pintado por los dos Jonathan. En su opinión, los algoritmos no son esencialmente malos, porque todo depende de cómo se utilicen. En un enfoque que pretenden «tecnosobrio» y no «tecnofóbico», estos canadienses imaginan algoritmos expropiados al capitalismo y puestos al servicio de la democracia, con vistas a su mejor ejercicio, en el que se automatizarían los procesos complejos más arduos, para reducir el tiempo de trabajo y aumentar el tiempo de ocio de sus integrantes.
Teniendo en cuenta el catastrófico coste medioambiental del sector digital, que los economistas están analizando en detalle, una propuesta semejante deberá probarse a largo plazo. Además, y sobre todo, plantea dudas sobre su pertinencia: ¿realmente necesitamos automatizar algo? ¿Debemos esperar a que los algoritmos aprendan a repartir equitativamente nuestro trabajo y sus frutos?
Fuente: Kalewche
