EL HOMBRE MATEMATIZADO

(Clopening and Clifdating)

Juan Rojo Moreno

         Armas de Destrucción Matemática (ADM) es el título del libro escrito por Cathy O´Neil doctorada en Matemáticas por Harvard que nos va a  servir como cifra de referencia.

Las matemáticas no solo valen para resolver y explicar el mundo, las cosas o el cosmos; desde que internet, luego las redes sociales y ahora los Smartphone no hacen más que aportar datos y más datos de las personas, de nosotros mismos, las matemáticas y el big-data ahora están sirviendo para analizar a los seres humanos y los matemáticos con sus aplicaciones aspiran a ser los nuevos filósofos de la humanidad capaces de decir lo que nos gusta, lo que nos conviene y también si estamos preparados para aquello que deseamos en la vida. Los nuevos dioses son los modelos matemáticos y señala O´Neil: los veredictos de sus sumos sacerdotes -los matemáticos y los informáticos- han sido indiscutibles e inapelables. Mediante el término Armas de destrucción Matemática dice esta autora: “bienvenidos al lado oscuro del big-data”.

El problema es que el modelo crece exponencialmente y además es opaco. Cuando vamos a pedir un crédito a un banco no nos dicen que datos han tenido en cuenta para aplicarnos un interés u otro diferente (aunque sabemos que el rango es amplio) y a medida que accedan a un mayor número de datos nuestros a partir de las redes sociales y códigos postales (geolocalización) sabrán automáticamente donde vivimos, en qué clase de barrio, qué amistades tenemos y cuáles son nuestras  preferencias. Es decir los matemáticos podrán hacer con sus algoritmos nuestro perfil humano no solo situacional sino incluso emocional.

No está esto tan lejano como pudiera parecernos. Refiere O’Neil cómo en relación con el examen SAT y las entrevistas para entrar en una Universidad estadounidense existe “un campamento para mejorar la solicitud  de plaza” de cuatro días de duración que cuesta 16.000 dólares (alojamiento y comida aparte) en el que los jóvenes alumnos de secundaria mejoran su estilo de redacción, aprenden a “bordar” una entrevista y crean una “ficha de actividades” en la que resumen todos los premios, actividades deportivas… que los responsables de admisión en las universidades andan buscando”.

Esto anterior parece muy “americano” pero fijémonos en cualquier otro país avanzado en donde o bien te admiten para hacer una especialidad médica tras una entrevista (deberías prepararte) o bien has de formarte en medicina no solo para “saber” sino quizá más fundamentalmente para aprobar el MIR (en España, examen para especializarte como Médico Interno Residente) que supone un año de estar adscrito a una academia a propósito para “aprender” a responder este examen o incluso irte a algún sitio en donde al parecer te forman más específicamente. Cierto, nuestro sistema MIR no es una Arma de Destrucción Matemática (ADM) pues no es opaco, pero no olvidemos que estamos dedicando recursos desde los 18 años a aprender lo que el modelo matemático considera mejor opción (con escasa retroalimentación pues no existe alternativa).

La verificación de la bondad del modelo es muy importante; el inconveniente es cuando se crea el modelo y los datos solo sirven para  verificar las bondades del mismo pues no hay opción. El problema, señala O´Neil, está en que muchos de los sistemas que nos clasifican utilizando datos utilizan valores sustitutivos. Las calificaciones electrónicas no tienen en cuenta, por ejemplo, tu historia de pocos accidentes en la conducción para un seguro, sino que a través de un aluvión de datos según tu edad, el coche que te has comprado y donde vives y cuanto conduces, derivan de “casos similares” el resultado para aplicar al individuo. Y si el resultado de los “datos similares sustitutivos” dice que has de ser un delincuente, un holgazán o un mal conductor pues así se te aplicará el método. Puede que esto en general funcione bien pero el problema es cuando se aplica mal a una persona pues ésta se encontrará completamente indefensa ante ese resultado que es objetivo por los datos que se conocen.

Señala O´Neil que las calificaciones electrónicas cuentan con escasos recursos para presentar una queja y aún menos para corregir un error en el sistema: “en el reino de las ADM, ellos son los daños colaterales…lo más probable es que la mayoría de las víctimas no descubran el error sino que lleguen a la sencilla conclusión de que la vida es simplemente así de injusta”.

Los trabajadores de las grandes corporaciones en Estados Unidos han inventado un nuevo verbo: clopening (close, “cerrar” y open, “abrir”) es lo que hace un empleado que trabaja hasta el cierre por la noche en una tienda o un bar y vuelve unas horas más tarde antes del amanecer para abrir. Genera horarios absurdos para el empleado  que además sufre alteraciones del sueño.

En el clopening el trabajador se ve arrastrado por el horario y no se tiene en cuenta ni su vida, ni su ritmo circadiano o su organización familiar: ha de cerrar y abrir  porque las necesidades mandan.

En el Clifdating («Closure of Life by Data») ahora nuestra vida queda estipulada, cercada, por los datos. Las perspectivas nos las dan las estadísticas que nos dicen qué es lo mejor y en las profesiones qué debemos hacer. Aparecen los árboles de decisiones y otros algoritmos aplicados a distintas profesiones que han de seguirse si no se quiere ver punido. No atender a los datos es como una especie de sociopatía o individualismo de alto riesgo. Todas las ciencias buscan datos y las que no son ciencias buscan datos para ser científicas.

Pero el método matemático, el algoritmo, no es capaz de detectar muchas variables. O´Neil pone el ejemplo del software de la empresa Cataphora que buscaba entre los trabajadores aquellos que tenían más capacidad de generar ideas. También detectó a los “conectores” que son los que mejor distribuyen y transmiten la información. Al llegar la crisis económica y tenerse que despedir a muchos trabajadores Cataphora mantuvo a estos dos grupos, pero no se pudo comprobar si se habían despedido a los que relajaban el ambiente o a los que tenían ideas “fantásticas” pero no las compartían en internet o en las redes o a los que eran cohesionadores del grupo… Es un ejemplo de cómo los datos nos cierran la vida (Clifdating) y al no retroalimentarse (no se hizo un seguimiento de las personas despedidas) se crea su propia realidad y con los datos posteriores se mantiene.

Las diferentes compañías están valorando utilizar las redes sociales como un elemento más para dar o no crédito: “Lenddo, Neo Finance, Affirm, ZestFinance y AvantCredit son algunas entre un creciente número de compañías otorgadoras de crédito que utilizan datos personales encontrados en redes sociales tales como Facebook, LinkedIn y Twitter para calificar el riesgo crediticio de los consumidores. Si usted es de las personas que tiene muchos amigos en Facebook, significa, en cierta medida, que usted es popular en algunos círculos. Ahora, para algunas entidades otorgadoras de crédito usted también puede ser merecedor de un crédito”.

En el mundo de las ADM, señala O´Neil, la privacidad se irá convirtiendo progresivamente en un lujo que solo los ricos se podrán permitir. Y “estos programas automáticos determinarán cada vez más cómo nos tratarán el resto de las máquinas: las que escogen los anuncios que vemos, deciden los precios que debemos pagar o confeccionan nuestras rutas”. Aún la gente cree que lo que escribe en Facebook o en las otras redes sociales no es intervenido por la compañía que da preferencia, según sus algoritmos, a unas noticias y a ciertas palabras frente a otras “la empresa decide conforme a sus propios intereses qué vemos y qué descubrimos en su red social”. O´Neil refiere el trabajo de la investigadora Karrie Karahalios (Universidad de Illinois) (2013) sobre el algoritmo de Facebook, en el que descubrió que el 62% de los encuestados no era consciente de que la compañía interviene en lo que aparece en el muro. “Pensaban que el sistema compartía inmediatamente todo lo que publicaban con todos sus amigos”. (Aún hoy el porcentaje debe ser similar o quizá mayor entre quienes siguen pensando eso).

El Clifdating, “cercado, vallado por los datos” avanza sin parar incluso a niveles de seguros médicos. Varios ejemplos señala O´Neil en este sentido, como el del Profesor de matemáticas de la Universidad de Washington que ha de conseguir en “salud y bienestar” 3.250 puntos o si no pagará 50 dólares mensuales más por su prima de seguro. Así mismo refiere como las empresas Michelin o la cadena de farmacias CVS ponen objetivos médicos (colesterol, triglicéridos, perímetro de la cintura, glucemia, presión sanguínea…) y si no los cumplen puede costarle el seguro desde 600 a 1000 dólares más al año al trabajador.

Estos programas de “salud y bienestar” no son ADM según O´Neil pues no son opacos pero si son opresivos, definitivamente son Clifdating.

——————–

         El Big data no es ni bueno ni malo. O’Neil nos quiere mostrar el “lado oscuro” pues se ha hecho mucho énfasis en su lado bueno que posiblemente nos permitirá acceder a muchos datos sintéticos tras recopilar millones y millones semejantes y puede que en muchas ramas, como en medicina, nos permitan diagnósticos más rápidos, nos ayuden a tratamientos más eficaces y en otros muchos campos como en la misma conducción de vehículos nos ayuden a evitar errores humanos. Pero  también señala  esta matemática que las máquinas necesitan la comprensión del contexto, el sentido común y el sentido de la justicia que solo los seres humanos pueden aportar: “tenemos que imponer valores humanos en estos sistemas aunque sea a costa de la eficiencia… los datos no van a desaparecer ni tampoco los ordenadores…y aún menos las matemáticas”.

Pero lo importante no es solo que haya muchos datos y que se puedan relacionar y unir entre ellos en este Big-data, lo importante subraya O’Neil en la última página de su Capítulo Conclusión “son las decisiones que tomamos sobre cuáles son los datos a los que debemos prestar atención. Y estas decisiones no se refieren únicamente a cuestiones logísticas, de beneficio o eficiencia, sino que son fundamentalmente decisiones morales”.

En este video Cathy O´Neil expone en pocos minutos los aspectos fundamentales de la obra que nos ha servido de referencia.