Comunidad ÉTNOR

Foro de debate sobre ética y responsabilidad social en empresas y organizaciones

Probablemente muchos coincidirán en que un aspecto fundamental para el progreso social radica en conseguir que las personas adopten los comportamientos más adecuados para el interés general. Algunos han argumentado que la mejor forma de lograrlo es dejar libertad para que cada cual persiga su interés individual, actuando el libre mercado como una “mano invisible” que conducirá inevitablemente los comportamientos individuales al óptimo bien común. Otros han defendido que, por el contrario, la única vía para avanzar hacia ese objetivo es la dirección centralizada y autoritaria. Y otros, que –a la la luz de la experiencia- lo mejor es una vía intermedia que equilibre libertad y mercado con intervención pública, acentuando el papel nuclear de la educación. Pues bien, frente a todos estos planteamientos, entre algunos tecnólogos de mucho prestigio está consolidándose en los últimos años una opción radicalmente diferente: ni libertad ni coacción ni persuasión ni educación ni políticas públicas: la clave estriba en incentivar la modificación inconsciente de las conductas.

¿Una nueva paparrucha de mala ciencia ficción propia de iluminados? Pues parece que no. Así lo asegura una muy reconocida profesora emérita de Sociología de la Universidad de Harvard en un libro reciente y de éxito, seguramente discutible, pero importante: La era del capitalismo de la vigilancia. Una extensa obra dedicada al inmenso poder económico e inmensa capacidad de condicionamiento que están adquiriendo las grandes empresas tecnológicas y a cómo, por eso, se están convirtiendo en una amenaza de primer orden para la autonomía de los individuos y para la propia democracia.

Aunque es un tema colateral en el libro, tiene mucho interés la referencia que, al hilo de su foco central, hace Zuboff a los discursos teóricos sobre el carácter y el futuro de la economía digital que están desarrollando académicos, científicos y tecnólogos formalmente independientes de las grandes corporaciones tecnológicas, pero en la práctica -directa o indirectamente- estrechamente vinculados a ellas. Discursos, en este sentido, que pueden estar abriendo campos de desarrollo para estas corporaciones y marcando el camino por el que quizás avancen. Y es en este punto en el que me topé con la alternativa mencionada al comienzo, planteada con toda crudeza por un investigador que -confieso mi ignorancia- no conocía, pero que tiene un relevancia de primer orden en el mundo de las nuevas tecnologías, tanto en el ámbito académico como en el empresarial: Alex Pentland. Director del Human Dynamics Lab del MIT, asesor del Foro Económico Mundial, del programa de Objetivos de Desarrollo Sostenible de Naciones Unidas y de numerosas empresas de primera fila mundial, receptor de financiación de muchas de ellas, colaborador en líneas de producción con algunas y difundido en España por el portal de divulgación científica Open Mind de BBVA1 y por la Fundación Telefónica, Pentland parece haberse constituido -en opinión de Zuboff- en el tecnólogo que probablemente esté contribuyendo de forma más relevante -y con mayor influencia entre las grandes empresas tecnológicas- a construir una teoría con pretensiones científicas sobre la naturaleza y las potencialidades de la sociedad digital. Hasta el punto de pretender nada menos que la formulación de las bases de una nueva ciencia de la sociedad: una “ciencia social computacional”, basada en las matemáticas, en el big data y en la inteligencia artificial, que ha llamado -rememorando a Auguste Comte- Física Social -título también de su libro más destacado-. Una ciencia que, presuntamente, superaría las carencias de las ciencias sociales tradicionales, derivadas, básicamente, de su débil base cuantitativa y de su imposibilidad de experimentación. Una ciencia cuantitativa cuasi matemática que, gracias a la información que suministran las múltiples fuentes de captación de datos personales ya existentes -teléfonos móviles, redes sociales, correo electrónico, tarjetas de crédito, Internet de las cosas...-, permitiría no sólo un conocimiento mucho más completo y fidedigno de la sociedad que el que aportan las ciencias sociales tradicionales -y particularmente, la Sociología, la Psicología Social y la Economía-, sino también una capacidad predictiva incomparablemente superior de los comportamientos humanos y sociales. Se trata de una capacidad que aumentará considerablemente con toda seguridad a medida que se extiendan los sistemas de interacción donde se generan los datos personales, pero que está disponible ya en buena parte gracias a la información que posibilitan dichos sistemas, y muy especialmente las redes sociales. La inmensa cantidad de datos personales que extraen y aportan es la base de una “minería de la realidad” que posibilita detectar estadísticamente pautas de comportamiento de sorprendente exactitud, que ya han testado Pentland y sus colaboradores en entornos laborales y que tiene un evidente interés comercial, pero que son -en su opinión-perfectamente aplicables a nivel general. “En definitiva, ahora disponemos -escribía ya en 2011- de la capacidad de recopilar y analizar datos sobre las personas con una amplitud y una profundidad antes inconcebibles”2.

Las redes sociales, en este sentido, constituyen su campo de prueba preferente, en la medida en que permiten comprobar la potencialidad en nuestro tiempo de una ley esencial de la nueva Física Social, que está en la base de su radical replanteamiento de la concepción del progreso: el “principio de la influencia social”3. Es decir, el pretendidamente revolucionario descubrimiento de que los individuos toman decisiones no tanto por el interés racional, la persuasión o la coacción, sino fundamentalmente por la influencia y la imitación de las personas con las que se relacionan, que son para Pentland, más que la educación, la reflexión o el diálogo, la base fundamental del aprendizaje social. Una influencia y una imitación cuya intensidad crecen con el aumento de la dimensión del marco relacional y de la intensidad de las relaciones que en él se desarrollan. De forma que la incentivación necesaria se centraría en movilizar presiones de cambio que estimularan ”... el flujo de ideas requerido para que los individuos tomen decisiones correctas y desarrollen normas de conducta útiles”4. Ideas que activaran los deseables patrones de influencia y vectores de imitación, en vez de esforzarse en el vano intento de pretender que las personas cambien conscientemente de valores y de prioridades. Y las redes sociales constituyen en la actualidad para Pentland el entorno en el que esa presión orientadora puede ser más fácilmente implementada, dirigida y controlada, como la realidad de las principales redes existentes permite constatar.

Pero las redes permitirían también orientar los comportamientos hacia objetivos “adecuados” a través de la introducción de incentivos apropiados -lo que Pentland llama “afinar la red”-, de forma que -incidiendo en los aspectos cruciales y en los individuos con mayor capacidad de influencia- se vayan extendiendo paulatinamente las conductas deseadas, en un proceso que se retroalimenta, en el que se diluyen los liderazgos y en el que todos aprenden de todos y todos influyen en todos, gracias a la mano oculta y sabia que mece la red. Algo que convertiría a la sociedad en un sistema altamente predecible, controlable y transformable.

Desde luego, Pentland y sus seguidores anticipan siempre que su único interés es el interés general de la sociedad, el mayor bien común posible, para lo que hacen falta caminos nuevos ante la gravedad creciente de los problemas y los desafíos ante los que se enfrenta la humanidad. Problemas y desafíos que requieren no sólo políticas correctas, sino, sobre todo, actuaciones de todos los individuos coincidentes con ese interés general. Nada mejor para ello que extender e intensificar el flujo de interacciones en las redes sociales -y en otros sistemas de interacción que permitan la apropiación de datos personales-, ayudando inconscientemente a que predominen las influencias apropiadas y se generalicen las decisiones y las conductas correctas; es decir, ayudando filantrópicamente a que las personas colaboren eficaz y voluntariamente en el bien común.

Es un panorama cuyo control Pentland parece creer que podría estar en manos de tecnólogos y científicos preocupados sólo por ese bien común, control que dejarían en última instancia en manos de la sociedad y que podría suponer así el fin de la política, reemplazada por el afán altruista de ayudar a la humanidad a actuar correctamente de los abnegados apóstoles de la nueva Física Social. Ciertamente, todo ello implicaría -como él mismo reconoce- una “instrumentación sin precedentes”5, pero que respondería únicamente al objetivo científicamente determinado de acelerar al máximo el camino a la mejor situación posible para la humanidad.

No haría falta extenderse demasiado, por evidentes, en los peligros de este tipo de utopías tecnocráticas, pero la importancia que están adquiriendo las propuestas de Pentland merece que se recalquen. Ante todo, una sociedad de este tipo puede presentar inconvenientes en términos de privacidad que no se le escapan a Pentland, pero que considera que serían insignificantes frente a las ventajas posibles: paz, estabilidad, orden, seguridad, progreso en todos los aspectos, bienestar general...: en definitiva -en una expresión al gusto de Pentland y reveladora de sus prioridades-, en la optimización de la eficiencia social. Al margen de que piensa que esos inconvenientes podrían compensarse con un pacto social que -como muchos sugieren ya- protegiera la propiedad individual de los datos en paralelo a la obligatoriedad de una cesión con contrapartida económica; es decir, la mercantilización de la individualidad.

Pero, como es obvio, hay un peligro aún mayor, porque la utopía distópica de Pentland se convierte en un despotismo ilustrado absoluto que supondría -como Zuboff advierte reiteradamente- la muerte de la autonomía, de la individualidad y de la libertad, en el marco de una sociedad de máximo control en la que todos actúan con arreglo a las pautas que algunos -que no concreta nunca- fueran capaces de inducir, pastoreando así una especie que Pentland considera eminentemente social y que actúa con una racionalidad determinada absolutamente por el entorno.

Porque, ciertamente, no es creíble la hipótesis de que puedan ser tecnólogos benevolentes e independientes que responden ante la sociedad quienes puedan dirigir ese macroproceso permanente de detección, predicción y orientación de los comportamientos. Como parece patente -y resulta insultante que Pentland no reflexione con mínima seriedad sobre ello-, el problema estriba en quién definiría qué es el interés general y el objetivo hacia el que deben confluir los comportamientos individuales y en quién dispondría de los recursos necesarios para generar los incentivos apropiados que conduzcan a esa deseable confluencia. Capacidad de definición y de recursos que sólo puede radicar en una instancia con autoridad suficiente. En sociedades autoritarias avanzadas, esa instancia podría ser el Estado -China es el caso paradigmático-, pero no es insensato pensar que en las sociedades capitalistas esa capacidad puede -como teme Zuboff- decantarse del lado de las grandes corporaciones dominantes, que son las propietarias de los medios productivos en que se basan los sistemas digitales de interacción. No es fácil, en definitiva, apasionarse por semejante panorama: en cualquiera de las dos alternativas, se trataría de una sociedad en la que los comportamientos individuales estarían absorbentemente encauzados.

Sea como fuere, no es algo que preocupe en exceso a Pentland, que parece confiar idílicamente -y sin explicar por qué- en que las virtualidades compensadoras y limitadoras de la democracia y de la competencia evitarán una concentración del poder -político o económico- semejante. Y probablemente tenga razón en un aspecto: la situación oligopólica de la economía digital -y de los restantes sectores básicos en la economía mundial- quizás impida una sociedad capitalista de dominación digital centralizada, pero sí puede permitir un escenario en el que unos cuantos grandes actores competidores lleguen a acuerdos de reparto del mercado de control de las conductas -al estilo de los múltiples pactos de reparto del mercado característicos de la economía de nuestro tiempo-.

Pero aún si fuera así, es un escenario que, desde luego, no resulta menos preocupante, porque ese control competido y acordado no dejaría de ser asfixiante, al tiempo que impediría la utopía de estabilidad, orden y paz de Pentland: la competencia oligopólica siempre es fuente de inestabilidad y de violencia. Pero preocupante sobre todo por las propias características del sistema de conducción de las conductas que Pentland considera la base del progreso y de la superación de los problemas de la humanidad. Porque, por excéntricas que puedan parecer sus ideas , son muchos los expertos y los sectores empresariales que -como el propio libro de Zuboff atestigua- consideran que sus previsiones sobre la capacidad de apropiación de información y de previsión y condicionamiento de los comportamientos son fundamentadas, verídicas y posibles ya en nuestro tiempo.

Con todo, sea esto cierto o no, lo que genera un motivo de preocupación aún más inquietante es la calurosa acogida que muchas grandes empresas tecnológicas están concediendo a sus planteamientos. Una recepción que revela una sintonía de fondo que no puede dejar de producir desasosiego. Porque puede estar esbozando una vía por la que quizás no disgustaría transitar a las de mayor ambición y recursos, al tiempo que un diseño de sociedad que pueden considerar conveniente, y aún deseable, para sus objetivos de largo plazo.

* Artículo publicado en Ágora (12/3/21): 

https://www.agorarsc.org/una-distopia-digital-alex-pentland/

1En el portal de Open Mind pueden encontrarse dos artículos relevantes de Pentland: “Datos para una nueva Ilustración”, https://www.bbvaopenmind.com/articulos/datos-para-una-nueva-ilustra... , y “Las raíces de la innovación”, https://www.bbvaopenmind.com/wp-content/uploads/2011/01/BBVA-OpenMi...

3Desarrollado en el texto citado en la nota anterior.

5Social Physics, op. cit.

Visitas: 76

Comentar

¡Necesitas ser un miembro de Comunidad ÉTNOR para añadir comentarios!

Participar en Comunidad ÉTNOR

Miembros

© 2024   Creado por Quique.   Tecnología de

Emblemas  |  Reportar un problema  |  Términos de servicio