“Siempre habrá consecuencias no deseadas”

El Me gusta de Facebook es un muro de carga en nuestras vidas digitales. Desde 2009, ha allanado el camino para una cultura de reconocimiento instantáneo, sin palabras, sin imágenes, sin todo menos un clic. Ha salido de los límites de Facebook, en los corazones y notificaciones de todas las aplicaciones de redes sociales. Pero todo comenzó con un simple pulgar hacia arriba.

En Londres, en el bar de un hotel, el creador del botón Me gusta me dice que fue un empujón; un embudo; un camino de menor resistencia. “Queremos crear un mundo donde las personas se animen mutuamente y promuevan la positividad”, dice Justin Rosenstein, ex ingeniero de Google y Facebook. “Entonces, ¿cómo podemos hacer que la positividad sea el camino de menor resistencia?

“Los comentarios significan que puedes decir lo que quieras, pero tener el botón Me gusta como la principal llamada a la acción significa que inclinas a las personas más hacia la estructuración de su comunicación en torno a la positividad”.

Al igual que dirigir una corriente cuesta abajo, Rosenstein y sus colegas ingenieros intentaron forjar un sistema que guíe a las personas hacia ciertos comportamientos. Más allá de la gramática de interacción de Facebook, Rosenstein ha participado en el desarrollo de innumerables aplicaciones, desde Google Docs hasta su última empresa, el conjunto de herramientas de flujo de trabajo Asana. En cada caso, había que tomar decisiones sobre qué botones y menús llevarían al usuario a través de qué acciones.

“Los humanos son muy maleables”, dice. “Es como la arquitectura. Los arquitectos entenderán que [one] La estructura hará que la gente fluya, mientras que ciertas arquitecturas harán que la gente se sienta aislada. Otros harán que la gente se una. Cuando estás diseñando software, estás creando dinámicas similares en las que puedes hacer que las personas exhiban diferentes tipos de comportamientos en sus vidas de manera inconsciente”.

Pero, ¿qué sucede si esos sistemas provocan comportamientos que no planeó? Le pregunto a Rosenstein de qué se arrepiente del botón Me gusta de Facebook. “Cuando camino y veo personas mirando sus teléfonos, a menudo es porque sacaron sus teléfonos para mirar las notificaciones de Facebook”, dice. “Eso es algo que siento que no va en la dirección correcta para la sociedad.

“Cada vez que creas cosas, siempre habrá consecuencias no deseadas. No creo que esa sea una razón para no crear cosas; quedar paralizado. Pero sí creo que debes ser muy cuidadoso y sensible sobre cuáles son esas consecuencias, y seguir observando y haciendo los cambios apropiados para seguir guiando las cosas en la dirección correcta”.

(Arriba: Justin Rosenstein)

¿Estas consecuencias se extienden a lo político? El lanzamiento de 2009 del ‘Me gusta’ es muy anterior a los debates de 2016 sobre las cámaras de eco y la desinformación intencionada. Se ha unido a una paleta más amplia de emojis de reacción, pero ¿el ‘camino de menor resistencia’ hacia la positividad es adecuado para el propósito en un momento en que Facebook es, posiblemente, más un editor que una red social?

“Es bueno saber lo que le gusta a la gente, pero es un error mostrarles siempre lo que les gusta”

“A medida que Facebook se convierte más en una plataforma política, ¿necesita más herramientas para ser apropiado para eso? Sí, definitivamente. Es una cuestión de cómo evitar las burbujas de filtro. Una cosa que ha pasado con el botón Me gusta es que es bueno saber lo que le gusta a la gente, pero es un error mostrarles siempre lo que les gusta.

“A veces, deberíamos entregar contenido que creemos que aún no te gusta, porque queremos exponerte a nueva información”, agrega Rosenstein. “La clasificación de un suministro de noticias es un problema muy importante que requiere mucha reflexión”.

Rosenstein continúa diciendo que las empresas de software tienen una “gran responsabilidad” de pensar en el tipo de comportamientos que están generando en el mundo. Él presenta esto como algo de lo que su empresa actual, Asana, es consciente. El conjunto de herramientas de productividad de Asana puede estar muy lejos de una red social pública, pero aquí también hay arquitecturas que se traducen en comportamientos. Según Rosenstein, Asana se creó con un sesgo fundamental hacia la responsabilidad.

“Te predispone a pensar en términos que lleven a tu organización hacia la rendición de cuentas, la transparencia y la claridad. Hacer que las personas cambien ligeramente la gramática de cómo interactúan entre sí tendrá todos estos efectos emergentes que son realmente poderosos”.

Es difícil decir qué tan exitoso es este supuesto ‘camino de menor resistencia’ hacia la rendición de cuentas, pero es un concepto interesante si se considera que el software podría, al menos en parte, influir en el trabajo de los gobiernos. Me dijeron que la ciudad estadounidense de Providence, Rhode Island, “funciona con Asana”. Si se expandiera a los gobiernos y los servicios de seguridad, ¿podría la arquitectura de una humilde herramienta de gestión del trabajo influir en el comportamiento de las principales instituciones, incluso de las naciones?

(Arriba: Ayuntamiento de Providence, Rhode Island)

Suena exagerado, pero este nivel de impacto está muy presente en la agenda del creador de Me gusta de Facebook: “Todos los grandes desafíos de la humanidad se pueden resolver con suficiente colaboración”, dice Rosenstein. “Tenemos suficiente comida para alimentar a todos, simplemente no la estamos distribuyendo bien. Tenemos la capacidad de desarrollar tecnologías para la energía sostenible, pero hay muchos problemas en el camino. No digo que Asana pueda hacer que el mundo colabore por sí solo, pero espero que en diez años el mundo sea mucho más colaborativo y Asana sea una pieza central de la infraestructura tecnológica”.

Él va más allá. Rosenstein me dice que visualiza una “IA omnisciente”, integrada en algo como Asana, que administra de manera inteligente las cargas de trabajo de las personas; dándoles cosas que hacer, asegurando que los recursos se utilicen de la manera más eficiente. A partir de ahí, es solo un salto, un salto y un salto hacia una utopía pan-global.

“Me encantaría ver eso a nivel planetario”

“Me encantaría ver eso a nivel planetario, donde vemos, como especie, tenemos esta misión única de crear un mundo que funcione para todos”, dice. “Donde puedes acercarte y ver todos los diferentes problemas que deben resolverse para crear ese mundo. Todas las diferentes organizaciones trabajando para resolver ese problema”.

Si el Me gusta de Facebook se creó como una forma de sesgar a las personas hacia la positividad, los planes de Rosenstein para el futuro abarcan sistemas de inteligencia artificial vastos y generalizados que sesgan a la población mundial hacia la colaboración. Nuestra tendencia a la guerra se interpone en el camino, admite, pero la supervivencia de nuestra especie depende en última instancia de “una transición psicológica de mí a nosotros”.

Gran pensamiento de hecho. Ya sea que nuestras vidas futuras estén dirigidas o no por una IA benigna y omnisciente, son en última instancia los sistemas, los sistemas creados por humanos, los que dirigen nuestro pensamiento. ¿Prevalecerá la perspectiva utópica de Rosenstein? ¿Estas estructuras nos guiarán a un mundo resplandeciente de positividad y responsabilidad? ¿O esas problemáticas “consecuencias no deseadas” siempre se interpondrán en el camino?

Rosenstein dice que, si todavía estuviera trabajando para Facebook, exploraría botones que no solo indicaran las cosas que les gustan a los usuarios, sino que consideraran la mejor manera de pasar el tiempo. Le encantaría ver las cosas orientarse más hacia el valor.

“Gustar puede ser una emoción demasiado simple”.