*

X

Por qué ejecutivos de Google, Twitter y Facebook están apagando sus aparatos y desconectándose de la red

Medios y Tecnología

Por: pijamasurf - 11/11/2017

Una ola de programadores y diseñadores desencantados están limitando su uso de la tecnología digital. ¿Qué es lo que saben que los motiva a hacer esto?

Estamos en las albricias de una revolución -o quizás sólo de una pequeña revuelta en el seno de los grandes gigantes de Internet, pero sin duda algo está pasando. Un punto de toma de conciencia. Puede ser que no acabe siendo muy significativo, pero actualmente resulta evidente, para cualquiera que se informe un poco y mantenga una conciencia crítica, que el uso masivo de la tecnología digital está teniendo efectos considerables en la atención y en la más básica capacidad de relacionarse de los seres humanos. Las voces más calificadas son las que conocen los detalles desde dentro, el cómo se está programando y diseñando la tecnología digital.

La forma en la que esto se empieza a difundir ha hecho que hace un par de semanas el creador del iPhone admitiera que el uso constante del iPhone puede ser algo malo. Algo que es evidente, pero lo notable es que aceptar esto desde dentro de la compañía habla de que estamos llegando a una posible masa crítica.

Pese a que la tecnología digital -especialmente el Internet- originalmente parecía haberse creado para avanzar el conocimiento de la humanidad, existen cada vez más estudios que sugieren que el uso excesivo de aparatos como los smartphones contribuye negativamente a la inteligencia de las personas. Uno podría decir que simplemente no hay que usarlos "excesivamente", pero el problema es que están precisamente siendo diseñados para que los utilicemos todo el tiempo. Y esto es algo de lo que son conscientes los ejecutivos y programadores de empresas como Google, Facebook y Twitter.

Un reciente artículo de The Guardian, sumamente completo, habla de esta tendencia y entrevista a diversos exempleados de los grandes gigantes de Internet, quienes hablan de cómo han empezado a modificar sus hábitos para volver a tomar control de su atención y han restringido el uso de aparatos en sus familias.

Tristan Harris, exempleado de Google (encargado de filosofía de productos), se ha convertido en uno de los críticos más vocales, él mismo habiendo experimentado los mecanismos que mueven lo que ha sido llamada "la economía de la atención", la economía que se basa en captar la atención de las personas para monetizarla. Harris incluso trabajó en un laboratorio en Stanford que estudia la conducta humana y se dedica a hacer la tecnología adictiva. "Nuestros cerebros pueden ser secuestrados", dice, y compara los smartphones con máquinas tragamonedas, como aquellas llenas de lucecitas y sonidos en Las Vegas. Como estas máquinas, la tecnología se hace adictiva con la promesa de una recompensa, lo cual genera dosis intermitentes de dopamina. Harris mantiene que actualmente las personas son insertadas en entornos donde la tecnología digital es ubicua y no existe, por otro lado, ninguna advertencia de sus efectos. Él sugiere que debemos generar un código hipocrático entre diseñadores y buscar primero no dañar, antes de ganar más dinero, aunque esto es algo que difícilmente tendrá éxito en las empresas. Y, dice, quizás también, en un futuro, tener aparatos con advertencias en sus paquetes, como hoy las tienen los cigarros.

Justin Rosenstein es un exejecutivo de Facebook que, entre otras cosas, desarrolló el botón de like (llama a los likes o "Me gusta": "brillantes golpes de seudoplacer"). El botón de like fue un éxito descomunal que hizo que "las personas disfrutaran del breve boost de recibir afirmación social" mientras que Facebook cosechaba datos valiosos de sus preferencias. El botón fue copiado por prácticamente todas las redes sociales. "Las personas se la pasan todo el tiempo distraídas", dice Rosenstein, acaso con un dejo de conciencia moral. Pero él ha tomado medidas: ha limitado su uso de Facebook y se ha prohibido estar en Snapchat, al que llama "heroína digital" .

Roger McNamee, un inversionista tanto de Facebook como de Google y quien le presentó a Mark Zuckerberg a la actual jefa operativa de Facebook, Sheryl Sandberg, dice que estas compañías "acreditan que están dando a los usuarios lo que quieren. [Pero] lo mismo puede decirse de las compañías de tabaco y los vendedores de drogas". Las personas que dirigen Facebook y Google son buenos tipos, cuyas estrategias bien intencionadas llevan a consecuencias horribles no intencionadas. El problema, señala, es que no hay nada que puedan hacer las compañías de tecnología para detener el daño, a menos de que abandonen sus actuales modelos de publicidad. Todo acaba siendo un problema del modelo económico insaciable, basado en generar más ingresos a como dé lugar, y no prosperidad real.  

James Williams, un estratega que ayudó a construir el sistema de métricas para el negocio de anuncios de Google, señala que estamos presenciando "la más grande, centralizada y estandarizada forma de control de atención en la historia de la humanidad... Las dinámicas de la economía de la atención están estructuradas de tal forma que mitigan la voluntad humana".

Nir Eyal, un reputado consultor de la industria, señala : "De la misma manera que no debemos culpar al panadero por crear deliciosos postres, no debemos culpar a los diseñadores o programadores por hacer productos tan buenos que todos queremos usarlos". Sin embargo, Eyal ha instalado un cronómetro que corta a su familia el acceso a Internet después de cierta cantidad de tiempo.

El diseñador Loren Brichter, quien creó el mecanismo "pull-to-refresh" de Twitter, acepta que los smartphones son como las máquinas tragamonedas. "Tengo hijos ahora y me arrepiento de cada minuto que no les estoy poniendo atención porque mi smartphone me chupó". Su postura es emblemática de la nueva generación que, al crecer, se da cuenta de que hay cosas más importantes que ganar dinero. "Twitter es adictivo. Esto no es algo bueno. Cuando estaba trabajando [en los diseños] no era  lo suficientemente maduro como para darme cuenta de esto", dice Brichter. 

 

Lee también: Por qué necesitamos un nuevo Martín Lutero que desafíe la religión de la tecnología

El matrimonio de Big Data con Big Brother: China crea sistema para evaluar conducta de sus ciudadanos

Medios y Tecnología

Por: pijamasurf - 11/11/2017

La preocupante fusión del monitoreo con la evaluación de la conducta ha comenzado; los ciudadanos accederán a privilegios o serán castigados según su comportamiento. Esto es el riesgo que se corre cuando se renuncia a la privacidad a cambio de participar en las redes sociales y tener nuevos gadgets

Como salido de una visión distópica como la de Orwell, o quizás más precisamente de la serie Black Mirror, el gobierno chino ha lanzado un proyecto con el cual evaluará el comportamiento de sus ciudadanos, creando un ranking algorítmico de cada uno de ellos. Con esto se avecina una nueva era en la que la vigilancia digital será parte de un mecanismo ya no sólo de prevención sino de prohibición, en la que existirán diferentes clases de ciudadanos.

Vivimos ya en un mundo en el que todos nuestros comportamientos son monitoreados y la información que generan alimentan a diferentes algoritmos, esto es básicamente lo que se conoce como el Big Data. Lo que compramos en línea, las llamadas que hacemos y desde dónde las hacemos; quiénes son nuestros amigos y cómo interactuamos con ellos, qué sitios visitamos y cuánto tiempo pasamos en ellos, etc. Todos estos comportamientos generan perfiles que compañías como Google, Facebook, Apple o Amazon utilizan para crear mejores anuncios, optimizar sus plataformas y desarrollar nuevos productos. Sin embargo, por el momento todo esto, al menos según queremos creer, no genera una evaluación o un ranking que determina nuestra elegibilidad a cosas como un trabajo o un pasaporte. Pero eso podría cambiar pronto, y ya lo está haciendo en China. El monitoreo se une, como inevitablemente iba a suceder algún día, a la evaluación de la conducta como una forma de control del poder.

La revista Wired tiene un artículo muy amplio sobre el programa que ha lanzado China para la construcción de un Sistema de Crédito Social, con el que se busca evaluar la confiabilidad de sus 1.3 mil millones de ciudadanos. La idea que el gobierno promueve es que el sistema puede aumentar la confianza a nivel nacional y construir una cultura de la honestidad, exaltando valores positivos y evitando fraudes. Por el momento el programa es voluntario, pero para el 2020 sería obligatorio. Actualmente, cada ciudadano participante es evaluado por el gobierno conforme a diferentes factores considerados por un algoritmo creado por una compañía afiliada al gigante de Internet Alibaba (el Amazon chino) y otras empresas.

El llamado Sesame Credit mide a las personas en un puntaje entre 350 y 950 puntos, y toma cinco factores a consideración. El primero es la historia crediticia -esto es, por ejemplo, si un ciudadano paga a tiempo la luz o el teléfono. Un segundo factor mide el cumplimiento de las obligaciones contractuales en el trabajo. El tercer factor verifica la información personal de una persona, como su número de teléfono y dirección. La cuarta categoría (aquí se empieza a poner tenebrosa la cosa) mide las compras que hace una persona en línea. Así, el ranking considerará la diferencia entre alguien que compra videojuegos y alguien que compra pañales, por ejemplo. Esto sugiere algo sumamente preocupante: al evaluar el comportamiento como positivo o negativo, el sistema empieza a sugerir o moldearlo, ya que, evidentemente, todo ciudadano será consciente de que ciertos comportamientos pueden generar evaluaciones negativas. La quinta categoría son las relaciones interpersonales; por ejemplo, compartir cosas positivas en línea ayuda a subir el puntaje. Según Alibaba, sólo lo positivo sube el puntaje. Pero cuando el gobierno lance el programa oficialmente en el 2020, será difícil pensar que los comportamientos críticos no afecten dicho puntaje o al menos sean tomados en cuenta por el gobierno, como sugiere la investigación de Wired. Asimismo, puesto que el ranking se ve influido por las relaciones de cada persona, fácilmente se podrán ver casos en los que exista presión social para que se eviten ciertos comentarios.

Hay un episodio de la serie Black Mirror que es aterradoramente parecido. En el programa chino, los amigos y los contactos sociales pueden influir en la evaluación de un ciudadano y, a la vez, los ciudadanos que tengan comportamientos altamente confiables acceden a beneficios. Actualmente esto ya les permite acceder a préstamos para comprar en línea, rentar un auto sin dejar un depósito o hacer check-in VIP en diferentes lugares. El sistema recompensa la lealtad, y los altos puntajes son vistos como una nueva forma de estatus. De manera  escabrosa, el sistema mismo aconseja a los ciudadanos cómo mejorar su puntaje, por ejemplo, no haciéndose amigos de personas con bajo puntaje, lo cual es ya el prototipo de un elitismo de ultracorrección política. Como dice Rachel Botsman en Wired, el Sesame Credit es la versión videojuego Big Data del Partido Comunista, la gamificación de la vigilancia. Ya antes en China existía el dang'an, un registro de todas las transgresiones políticas y personales de un ciudadano, pero ahora esto se vuelve exponencial, pues involucra a toda la sociedad. Ello hará que las personas que tengan bajos puntajes tengan una menor velocidad de conexión y pierdan sus derechos a viajar, señala Botsman.

El nivel al que esto puede llegar ha generado alarma. Luciano Flordi, profesor de filosofía de Oxford, lo compara con un cambio de paradigma al nivel de la revolución copernicana o las ideas de Freud de que nuestras acciones son controladas por el inconsciente. El nuevo paradigma tiene que ver con la fusión de lo que hacemos online con la vida offline, creándose lo que él llama "onlife", esto es, una nueva personalidad que integra nuestra personalidad virtual con nuestra personalidad física offline. Viviremos en un mundo que será algo así como Yelp para humanos.

Hay que mencionar que algunas personas en China consideran que este sistema tiene cierta ventaja y es más transparente que lo que se hacía antes en ese país. Ya que los ciudadanos de todas maneras saben que van a ser monitoreados, al menos ahora conocerán cuáles son las reglas y tendrán acceso a su perfil. Además, el sistema los protege de realizar negocios e intercambios con personas con poca credibilidad, de la misma manera que Uber, Airbnb o Mercado Libre.

Mientras que los occidentales reaccionan a esto pensando que es algo típico del comunismo, quizás no se dan cuenta de que lo mismo podría suceder en el futuro en sociedades como las nuestras. Rachel Botsman escribe que nuestra sociedad:

ciertamente tiende hacia eso. Salvo que se produzca una masiva revuelta ciudadana exigiendo tomar control de la privacidad, estamos entrando una era en la cual las acciones de los ciudadanos estarán siendo juzgadas por estándares que no pueden controlar y los juicios no pueden borrarse. Las consecuencias no son sólo perturbadoras, son permanentes. Olvidémonos del derecho a borrar y a ser olvidados, a ser jóvenes e impulsivos. 

Aunque algunos analistas son más optimistas -como Kevin Kelley, quien habla de la covigilancia (donde los vigilados vigilan a los vigilantes también)- el poder que están tomando las grandes compañías de Internet, como Google o Facebook, es ciertamente alarmante. Aunque estas compañías no usen sus datos necesariamente para controlar a los ciudadanos, ciertamente los usan para incrementar sus ganancias, y actualmente pueden ya provocar ciertas conductas (nudging) y predecir comportamientos, en ocasiones con mayor efectividad que la misma persona. Sabemos que la economía digital basada en la idea de crecimiento infinito no genera prosperidad real, sino que aumenta la desigualdad -ciudadanos de diferentes clases. Sabemos también que la economía digital esta basada en la captación de la atención y que para captar la atención se crea todo tipo de tecnologías de la distracción. Así que podemos tener una versión similar a la del comunismo, sólo que capitalista; mientras que la tecnodistopía de China se parece a la de Orwell, la de Occidente se parece más a la de Huxley.

 

Lee también: Por qué lo que estamos viviendo se parece más a 'Un mundo feliz' de Huxley que a '1984' de Orwell

 

Imagen: Kevin Hong