22/7/2019
Ideas

Big Data, Google y el fin del libre albedrío

Olvida lo de escucharse a uno mismo. En la era de los datos, los algoritmos tienen la respuesta

Yuval Noah Harari - 16/09/2016 - Número 51
  • A
  • a
Big Data, Google y el fin del libre albedrío
Janne Iivonen

Durante miles de años, los humanos creyeron que la autoridad procedía de los dioses. Después, durante la era moderna, el humanismo fue transfiriendo gradualmente la autoridad de las deidades a la gente. Jean-Jacques Rousseau resumió su revolución en Emilio, su tratado de 1762 sobre la educación. Buscando las reglas para conducirse en la vida, Rousseau las encontró “en las profundidades de mi corazón, delineadas por la naturaleza en caracteres que nada puede borrar. Solo tengo que consultar conmigo mismo acerca de lo que deseo hacer; lo que siento que está bien está bien, lo que siento que está mal está mal”. Los pensadores humanistas como Rousseau nos convencieron de que nuestros sentimientos y deseos eran la máxima fuente de significado y que nuestro libre albedrío era, por lo tanto, la más alta autoridad de todas.

Los profetas de Silicon Valley

Ahora se está produciendo un nuevo cambio. Así como la autoridad divina estaba legitimada por mitologías religiosas y la autoridad humana estaba legitimada por ideologías humanistas, los gurús de la tecnología y los profetas de Silicon Valley están creando una nueva narración universal que legitima la autoridad de los algoritmos y el Big Data. Este nuevo credo podría ser llamado datismo. En su forma extrema, los partidarios de la visión del mundo del datismo perciben el universo entero como un flujo de datos, ven los organismos como poco más que algoritmos bioquímicos y creen que la vocación cósmica de la humanidad es crear un sistema de procesamiento de datos omniabarcador y después fusionarse con él.

Los humanistas nos convencieron de que nuestros sentimientos y deseos eran la mayor fuente de significado

Ya nos estamos convirtiendo en pequeños chips en el interior de un sistema gigante que nadie comprende de verdad. Cada día absorbo incontables bits de datos por medio de correos electrónicos, llamadas telefónicas y artículos; proceso los datos y transmito nuevos bits por medio de más correos, llamadas y artículos. No sé dónde encajo en el gran esquema de las cosas ni cómo mis bits de datos conectan con los bits producidos por miles de millones de otros humanos y ordenadores. No tengo tiempo para descubrirlo porque estoy demasiado ocupado respondiendo correos. Este incesante flujo de datos alumbra nuevas invenciones y disrupciones que nadie planea, controla ni comprende.

Pero nadie necesita entenderlo. Lo único que tienes que hacer es responder más rápido a los correos. Así como el capitalismo de libre mercado cree en la mano invisible del mercado, los datistas cren en la mano invisible del flujo de datos. Mientras el sistema de procesamiento de datos global se convierte en omnisciente y todopoderoso, conectarse al sistema se convierte en la fuente de todo significado. La nueva consigna es: “Si experimentas algo, regístralo. Si registras algo, súbelo. Si subes algo, compártelo.”

Los datistas creen además que con suficientes datos biométricos y capacidad de procesamiento, este sistema omniabarcador podría comprender a los humanos mucho mejor de lo que nos entendemos nosotros mismos. Una vez que eso suceda, los humanos perderán su autoridad y prácticas humanistas como las elecciones democráticas se volverán tan obsoletas como las danzas de la lluvia y las armas de sílex.

Humanismo: escucha tu corazón

Cuando Michael Gove anunció su breve candidatura para ser primer ministro británico tras el voto del Brexit de junio explicó que: “En todos los pasos de mi vida política me he hecho una pregunta: ‘¿Qué hay que hacer? ¿Qué te dice el corazón?’”. Por eso, según Gove, peleó tanto por el Brexit, y por eso se sintió obligado a apuñalar por la espalda a su antiguo aliado Boris Johnson y apostar por sí mismo para la posición de macho alfa: porque se lo dijo su corazón.

Los partidarios de la visión del mundo del datismo perciben el universo entero como un flujo de datos

Gove no está solo en eso de escuchar su corazón en los momentos críticos. Durante los últimos siglos el humanismo ha visto al corazón humano como la suprema fuente de autoridad, no solo en política sino en cualquier otra actividad. Desde la infancia nos bombardean con eslóganes que nos aconsejan: “Escúchate, sé sincero contigo mismo, confía en ti, sigue a tu corazón, haz lo que te sienta bien”.

En política, creemos que son las libres elecciones de votantes ordinarios las que deciden quién es la autoridad. En las economías de mercado, sostenemos que el cliente siempre tiene la razón. El arte humanista piensa que la belleza está en el ojo del espectador, la educación humanista nos enseña a pensar por nosotros mismos y la ética humanista nos recomienda que si algo nos sienta bien, deberíamos seguir adelante y hacerlo.

Por supuesto, a menudo la ética humanista se ve en problemas cuando algo que a mí me hace sentir bien, a ti te hace sentir mal. Por ejemplo, durante la última década, cada año la comunidad LGTB de Israel ha organizado un desfile gay en las calles de Jerusalén. Es un día de harmonía en esa ciudad dividida por los conflictos porque es la única ocasión en la que los religiosos judíos, musulmanes y cristianos encuentran, de repente, una causa común: todos se ponen de acuerdo para enfurecerse por el desfile gay. Lo realmente interesante, sin embargo, es el argumento que enarbolan los fanáticos. No dicen “no deberíais organizar un desfile gay porque dios prohíbe la homosexualidad”, sino que explican, a cualquier micrófono o cámara de televisión disponible, que “ver un desfile gay atravesando la ciudad sagrada de Jerusalén hiere nuestros sentimientos. Así como las gays quieren que respetemos sus sentimientos, ellos deberían respetar los nuestros”. No importa lo que tú pienses sobre este dilema. Es mucho más importante entender que en una sociedad humanista, los debates éticos y políticos se articulan en función de sentimientos humanos en conflicto y no en nombre de mandamientos divinos.

El humanismo se enfrenta ahora a un reto existencial y el concepto de libre albedrío está amenazado

Además, el humanismo se enfrenta ahora a un reto existencial y el concepto de libre albedrío está amenazado. Los estudios científicos sobre el funcionamiento de nuestro cerebro y nuestro cuerpo sugieren que nuestros sentimientos no son una cualidad espiritual exclusivamente humana. Por el contrario, son mecanismos bioquímicos que todos los mamíferos y aves emplean para tomar decisiones mediante un rápido cálculo de las probabilidades de supervivencia y reproducción.

En contra de la opinión popular, los sentimientos no son lo contrario de la racionalidad; son la racionalidad evolutiva hecha carne. Cuando un babuino, una jirafa o un humano ven un león, el miedo surge porque un algoritmo bioquímico calcula los datos relevantes y llega a la conclusión de que la probabilidad de muerte es alta. De una manera similar, los sentimientos de atracción sexual surgen cuando otro algoritmo bioquímico calcula que un individuo cercano ofrece una alta probabilidad de coito exitoso. Estos algoritmos bioquímicos han evolucionado y mejorado a lo largo de millones de años de evolución. Si los sentimientos de algún viejo ancestro cometían un error, los genes que daban forma a esos sentimientos no pasaban a la siguiente generación.

A pesar de que los humanistas estaban equivocados al pensar que nuestros sentimientos reflejaban algún misterioso “libre albedrío”, hasta ahora el humanismo aún representaba un muy buen sentido práctico. Porque aunque no había nada mágico en nuestros sentimientos, eran a pesar de ello el mejor método en el universo para tomar decisiones, y ningún sistema exterior podía esperar comprender mis sentimientos mejor que yo. Aunque la iglesia católica o el KGB soviético me espiaran cada minuto de cada día, carecían del conocimiento biológico y la capacidad de procesamiento necesarios para calcular los procesos bioquímicos que daban forma a mis deseos y elecciones. Por lo tanto, el humanismo estaba en lo correcto al decirle a la gente que siguiera lo que su corazón le dijera. Si tenías que escoger entre escuchar la Biblia o escuchar tus sentimientos, era mucho mejor escuchar tus sentimientos. La Biblia representaba las opiniones y preferencias de unos cuantos sacerdotes del antiguo Jerusalén. Tus sentimientos, por el contrario, representaban la sabiduría acumulada por millones de años de evolución que ha pasado las pruebas de control más rigurosas de la selección natural.

La autoridad de los algoritmos

Con todo, mientras la iglesia y el KGB van dando paso a Google y Facebook, el humanismo pierde sus ventajas prácticas. Porque ahora estamos en la confluencia de dos mareas. Por un lado, los biólogos están descifrando los misterios del cuerpo humano y, en particular, del cerebro y los sentimientos humanos. Al mismo tiempo, los científicos de la computación nos están dando una capacidad de procesamiento de datos sin precedentes. Cuando se juntan las dos cosas se obtienen sistemas externos que pueden monitorizar y comprender mis sentimientos mucho mejor que yo. Una vez que los sistemas de Big Data me conocen mejor que yo mismo, la autoridad pasará de los humanos a los algoritmos. El Big Data podría entonces dar poder al Gran Hermano.

Para académicos e intelectuales, el datismo promete el Santo Grial científico perseguido durante siglos

Esto ya ha sucedido en el campo de la medicina. Las decisiones médicas más importantes de tu vida cada vez se basan más no en tus sensaciones de enfermedad o bienestar, ni siquiera en las predicciones informadas de tu médico, sino en los cálculos de ordenadores que te conocen mejor de lo que te conoces tú mismo. Un ejemplo reciente de este proceso es el caso de la actriz Angelina Jolie. En 2013, Jolie se hizo una prueba genética que demostró que portaba una peligros mutación del gen BRCA1. Según bases de datos estadísticas, las mujeres que portan esa mutación tienen un 87% de posibilidades de desarrollar cáncer de pecho. Aunque en ese momento Jolie no tenía cáncer, decidió prevenir la enfermedad y se hizo una doble masectomía. No se sentía enferma, pero sabiamente decidió escuchar los algoritmos informáticos. “Quizá no tengas la sensación de que nada va mal —dijeron los algoritmos—. Pero tienes una bomba de relojería en el ADN. Haz algo, ¡ahora!”

Lo que ya está sucediendo en la medicina, probablemente sucederá en cada vez más campos. Empieza con cosas sencillas, como qué libro comprar y leer. ¿Cómo escogen los libros los humanistas? Van a una librería, pasean entre las estanterías, echan un vistazo a un libro y leen las primeras frases de otro, hasta que una sensación del estómago los conecta con uno en particular. Los datistas utilizan Amazon. Cuando entro en la tienda virtual de Amazon, salta un mensaje que me dice: “Sé qué libros te han gustado en el pasado. A gente con gustos similares les suele encantar este libro nuevo o aquel otro”.

Esto es solo el principio. Aparatos como el Kindle de Amazon pueden recolectar constantemente datos de sus usuarios mientras leen libros. Tu Kindle puede monitorizar qué partes de un libro lees rápidamente y cuáles lentamente; en qué página paras y en qué frase abandonas el libro para no volver a cogerlo nunca más. Si Kindle se actualizara con software de reconocimiento facial y sensores biométricos, sabría cómo influye cada frase en tu ritmo cardiaco y la presión de la sangre. Sabría qué te hace reír, qué te pone triste, qué te irrita. Pronto, los libros te leerán a ti mientras tú los lees a ellos. Y aunque tú olvides rápidamente lo que lees, los programas de ordenador no tienen necesidad de olvidar. Esos datos permitirían a Amazon escoger libros para ti con una precisión asombrosa. También permitirán a Amazon saber exactamente quién eres y cómo apretar los botones de tus emociones.

Google no tendrá por qué ser perfecto. No tendrá por qué acertar siempre. Solo tendrá que ser mejor que yo

Llevemos esto a su conclusión lógica y con el tiempo la gente podría dar a los algoritmos la autoridad de tomar las decisiones más importantes de sus vidas, como con quién casarse. En la Europa medieval, sacerdotes y padres tenían la autoridad de escoger a tu compañero o compañera. En sociedades humanistas damos esta autoridad a nuestros sentimientos. En una sociedad datista, yo le pediré a Google que escoja. “Mira, Google —diré—, tanto John como Paul me están cortejando. Me gustan los dos, pero de maneras distintas, así que no me acabo de decidir. Con todo lo que sabes, ¿qué me recomiendas?”

Y Google responderá: “Bueno, te conozco desde el día en que naciste. He leído todos tus correos, registrado todas tus llamadas y sé cuáles son tus películas preferidas, tu ADN y todo el historial biométrico de tu corazón. Tengo datos exactos de cada cita que tuviste y puedo mostrarte gráficos segundo a segundo de tu frecuencia cardiaca, presión sanguínea y niveles de azúcar de cuando saliste con John o con Paul. Y, por supuesto, a ellos los conozco igual de bien que a ti. Basándome en toda esta información, en mi soberbio algoritmo y décadas de estadísticas sobre millones de relaciones, te aconsejo que te vayas con John, con un 87% de probabilidades de que estés más satisfecho con él a largo plazo.

»De hecho, te conozco tan bien que hasta sé que esta respuesta no te gusta. Paul es mucho más guapo que John y, como le das demasiada importancia al aspecto exterior, en secreto quieres que diga ‘Paul’. La belleza importa, por supuesto, pero no tanto como crees. Tus algoritmos bioquímicos —que evolucionaron hace decenas de miles de años en la sabana africana— dan a la belleza exterior una relevancia del 35% en su valoración general de compañeros potenciales. Mis algoritmos —que se basan en los estudios y estadísticas más actualizados— dicen que la belleza solo tiene un 14% de impacto en el éxito a largo plazo de las relaciones románticas. Así que, aunque tengo en cuenta la belleza de Paul, sigo diciéndote que te irá mejor con John”.

Google no tendrá por qué ser perfecto. No tendrá por qué acertar siempre. Solo tendrá que ser de media mejor que yo. Y eso no es tan difícil, porque la mayoría de gente no se conoce a sí misma muy bien y la mayoría de gente con frecuencia comete terribles errores en las decisiones más importantes de su vida.

El atractivo del datismo

La visión del mundo datista es muy atractiva para los políticos, la gente de negocios y los consumidores normales, porque ofrece tecnologías revolucionarias e inmensos nuevos poderes. A pesar del miedo a perder nuestra privacidad y libre elección, cuando los consumidores tienen que escoger entre su privacidad y tener acceso a una sanidad mucho mejor, la mayoría escogerá la sanidad. Para académicos e intelectuales, el datismo promete ofrecer el Santo Grial científico que se nos ha escapado durante siglos: una sola teoría omniabarcadora que unifique todas las disciplinas científicas, desde la musicología hasta la biología pasando por la economía. Según el datismo, la Quinta sinfonía de Beethoven, una burbuja bursátil y un virus de la gripe son solo tres patrones de flujo de datos que pueden analizarse utilizando los mismos conceptos y herramientas básicos. La idea es extraordinariamente atractiva. Da a todos los científicos un lenguaje común, construye puentes sobre grietas académicas y exporta percepciones fácilmente de un lado a otro de las fronteras entre disciplinas.

Como todos los dogmas omniabarcadores, el datismo puede estar fundado en una mala comprensión de la vida

Por supuesto, como todos los dogmas omniabarcadores previos, el datismo también puede estar fundado en una mala comprensión de la vida. En particular, el datismo no tiene respuesta al tristemente célebre “problema difícil de la conciencia”. En el presente estamos muy lejos de explicar la conciencia en términos de procesamiento de datos. ¿Por qué cuando miles de millones de neuronas en el cerebro se disparan determinadas señales entre ellas aparece un sentimiento subjetivo de amor o miedo o ira? No tenemos ni idea.

Pero aunque el datismo esté equivocado sobre la vida, puede conquistar el mundo. Muchos credos anteriores consiguieron una enorme popularidad y poder a pesar de sus errores fácticos. Si la cristiandad y el comunismo pudieron hacerlo, ¿por qué no el datismo? El datismo tiene unas perspectivas especialmente buenas porque actualmente se está generalizando en todas las disciplinas científicas. Un paradigma científico unificado podría fácilmente convertirse en un dogma inatacable.

Si quieres quedarte al margen del alcance de los algoritmos, solo puedo darte un consejo: conócete a ti mismo

Si no te gusta esto y quieres quedarte al margen del alcance de los algoritmos, probablemente solo puedo darte un consejo, el más viejo que hay: conócete a ti mismo. Al final, es una simple cuestión empírica. Mientras tengas más percepción y autoconocimiento que los algoritmos, tus elecciones seguirán siendo superiores y mantendrás al menos cierta autoridad en tus manos. Si los algoritmos, con todo, parecen destinados a tomar el control, es sobre todo porque la mayoría de seres humanos apenas se conocen a sí mismos.

Este texto se publicó originalmente en el Financial Times.
Traducción del inglés de Luisa Bonilla.