Diversidad y Big Data

En el post de hoy quiero hacer una pequeña reflexión crítica sobre cómo creo que el Big Data puede perjudicar a nuestra diversidad.

Cuando hablamos de Big Data nos estamos refiriendo al conjunto de técnicas encaminadas a procesar y extraer información (y en la medida de lo posible conocimiento) de grandes volúmenes de datos. Estos datos pueden ser recogidos específicamente de una sola fuente o pueden ser más heterogéneos y provenir de múltiples. Igual que la entrada es variable, el procesado de estos datos tampoco es único sino que puede hacerse a través de múltiples técnicas pero, habitualmente, de una forma u otra, se involucra a la estadística.

Como prácticamente cualquier tecnología, en sí misma no es buena ni mala sino que depende de los usos que le demos. Uno de sus usos habituales es emplearla para entender mejor a los usuarios para adaptar contenido y productos a sus gustos. En otras palabras, como responsables de un producto (digital o no) usamos Big Data para conocer cómo se comporta nuestro usuarios y poder así optimizar la experiencia que le brindamos.

No es que la intención sea maliciosa pero sí que considero que tiene un desagradable efecto secundario ya que optimiza y guía la experiencia de toda la población que hace uso de ese producto hacía los gustos de la mayoría. Esto, inevitablemente hace más pequeña a la minoría, bien porque la "conviertan" o bien porque se vean expulsados de dicho producto. En otras palabra, la optimización de la experiencia en base a Big Data tiende a eliminar la diversidad de usuarios de un producto.

¿Es eso malo? Pues creo que es difícil dar una respuesta categórica al respecto. Como responsable de un producto, puede que tenga sentido optimizarlo para la mayoría aunque ello suponga perder una importante base de usuarios que representen diferentes minorías. Eso sí, esta situación dependiendo de nuestro producto, podría traspasar la linea de la optimización y alcanzar la de la discriminación: tener una aplicación para puntuar restaurantes de comida vegetariana puede ser "especializada" pero que tu algoritmo sólo conceda créditos a personas blancas es discriminatorio.

A este respecto, no soy el primero en señalar que los algoritmos y el análisis por Big Data no es perfectamente inocuo e imparcial sino que puede tener sesgos, tanto en la toma de datos (si tomamos datos históricos donde exista un sesgo de género, raza o cualquier otro, el algoritmo va a perpetuar dicho sesgo), como en la propia programación del algoritmo ya que puede incluir los sesgos del programador, de forma consciente o inconsciente.

Por otro lado, si nuestro producto de algún modo nutre de contenido a nuestros usuarios, puede que esta optimización sea perjudicial y estemos expulsando a usuarios que sin embargo representan a consumidores de contenido que va a ser tendencia aunque actualmente dicho contenido no sea mayoritario (Early Adopters), sacrificando nuestra estrategia al medio plazo por sobre-optimizar el presente.

Como sociedad, sí creo que los efectos de optimizar de forma automática, rápida y masiva hacia una mayoría son perjudiciales puesto que nos desincentivan a consumir contenido (entretenimiento o cultural), información y opinión que se alejen de los gustos de la mayoría. El uso masivo de la optimización en base a técnicas de Big Data, nos lleva a consumir y pensar cada vez de una forma más homogénea, situación que además se retroalimente de la inmensa cámara de eco que se genera y, sin opiniones y gustos discordantes, no creo que podamos crecer como sociedad.

¿Es este post una crítica al Big Data? No, rotundamente no. Como decía anteriormente, estamos ante una tecnología que no es buena ni mala por definición sino en base a sus usos. Creo que nos permite extraer información de forma masiva y procesarla para hacer más sencilla, dirigida y útil la vida de las personas, pero conlleva sesgos y repercusiones asociadas a su uso masivo de los que debemos ser conscientes y debemos controlar.

¿Y tú que opinas? Me encantaría debatir de este tema en Twitter.

Un saludo,

Ricardo