Incluso Facebook no comprende los algoritmos de Facebook

Después de todos los lamentos que surgieron del espectáculo de las "noticias falsas", cortesía del servicio de noticias de Facebook, el contenido que ves cuando inicias sesión en Facebook desde tu teléfono o computadora portátil, una cosa se ha vuelto muy clara. Incluso Facebook no lo entiende.

Y ese es el problema de confiar en una inteligencia artificial algorítmica (IA) que ha sido construida (o más exactamente, reconstruida) a lo largo de los años por cientos de desarrolladores y programadores diferentes.

Todo esto me quedó claro en los últimos días mientras reflexionaba sobre las cosas que aprendí en la última conferencia HealtheVoices 2017, y después de leer un excelente artículo sobre Facebook de Farhad Manjoo en el Revista del New York Times.

En la conferencia, un representante de Facebook se enfrentó a una multitud algo frustrada (y, a veces, casi hostil) que preguntaba por qué las cosas que escribieron como activistas y defensores de la salud rara vez aparecían en las noticias de Facebook de otras personas. La única forma en que parecía generar compromiso, dijeron las personas de la audiencia ese día, era comprándolo a través de Facebook (a través de un mecanismo de pago conocido como "impulsar" una publicación).

El representante de Facebook no tuvo una respuesta que dar a estas preguntas sobre por qué no se muestra contenido aparentemente de alta calidad en sus noticias. Sin embargo, todos los participantes con los que hablé, defensores de la salud apasionados y comprometidos, lo vieron como un problema con Facebook. Pero incluso Facebook no pudo explicar cómo solucionarlo.

No es de extrañar. El artículo de la revista Times arrojó luz sobre el "por qué". Sin embargo, el algoritmo de alimentación de noticias de Facebook clasifica, en promedio, 2000 piezas de contenido posible cada vez que una persona carga Facebook por primera vez y en cada actualización.

Hay tantas variables que entran en ese algoritmo de clasificación complejo, oscuro y patentado que ni siquiera Facebook puede responder por qué algo se mostrará o no en las noticias de alguien. Es el mismo tipo de dolor que los webmasters han sentido durante mucho tiempo al tratar con Google y su algoritmo de indexación de búsqueda.

El hecho de que el algoritmo pueda ser fácilmente ignorado simplemente comprando acceso a las noticias de las personas no es ninguna sorpresa. Es una gran parte de la razón por la que Facebook está ganando tanto dinero año tras año. Incluso el contenido de menor calidad puede ingresar a su fuente de noticias supuestamente personalizada.

News Feed: todavía un trabajo en progreso

Pensaría que después de tantos años de arduo trabajo, atención, horas de desarrollo e investigación sobre este algoritmo, algunas cosas básicas saldrían bien. Pero dos anécdotas recientes me muestran cuánto más aún tiene que llegar la alabada IA ​​de Facebook.

El primero es el meme del concierto que se apoderó del servicio de noticias de Facebook a finales de abril de 2017. En este meme en particular, los participantes enumeran 10 conciertos a los que han asistido en su vida, pero uno de ellos es falso. Depende de los amigos de la persona detectar el concierto falso al que no han asistido y comentarlo.

Mi pensamiento inicial cuando vi por primera vez esta ventana emergente fue: "¿A quién le importa?" porque, francamente, no me importa a qué conciertos hayan asistido mis amigos. Si tuviera una conversación real con mis amigos sobre el tema de los "conciertos que hemos visto", podría ser genial. Pero como iniciador de conversación, lo encontré sin sentido porque es inesperado - socialmente conectado a nada. Así que presioné "Ocultar esta publicación" desde la primera que vi en mi servicio de noticias.

¿Eso ayudó a detener la afluencia de este contenido en mi servicio de noticias durante los próximos días? Ni un ápice. Vi no menos de una docena de preguntas de este tipo en los próximos dos días en mi feed (incluso después de hacer clic en "Ocultar esta publicación" en al menos dos más). Todo lo cual no me interesaba. Demasiado para el funcionamiento de la IA de Facebook.

El segundo es el condado de Bloom. Soy un gran admirador y me alegré cuando Berkeley Breathed comenzó a dibujar de nuevo. Espero con ansias el día en que aparezca un nuevo cómic suyo en mi feed. Sin embargo, misteriosamente, Facebook no tiene ni idea de esto. Dejó de mostrarme sus cómics hace unas semanas, a pesar de que hice clic cuidadosamente en la mayoría de ellos para leerlos más fácilmente en su forma ampliada.

¿Cómo es posible que tantos clics resulten en una etiqueta de "no estoy interesado, deje de mostrarle esto a este usuario"? Facebook no podría responder a esta pregunta si quisiera, porque no tiene idea de cómo funciona realmente su algoritmo de suministro de noticias, o no funciona, para usuarios individuales. Sería divertido si no fuera tan importante. Según el Pew Research Center, más de la mitad de los estadounidenses obtienen sus noticias de Facebook.

Formularios de comentarios que brindan pocos comentarios a los usuarios

Facebook afirma que puede evaluar (y trabajar para solucionar) muchos problemas si los usuarios simplemente usan sus formularios de comentarios con más frecuencia. Pero hay una razón por la que los usuarios odian dar comentarios en Facebook: su sistema de comentarios simplemente apesta.

Los formularios de comentarios de Facebook brindan a los usuarios muy pocos comentarios propios y, en cambio, valoran que los usuarios se guíen por una serie de preguntas del tipo "Aquí le mostramos cómo solucionarlo usted mismo, idiota" que claramente parecen sugerir que la mayoría de los problemas con los que se encuentra son suyos para arreglar - no de Facebook. No hay ningún humano al final de esas formas, y ninguna respuesta humana que puedas recibir. Ésta es la definición misma de inhumano. Irónico para una empresa que se ve a sí misma “construyendo una comunidad global” conectando a todos de manera más social. ¿Cómo puede una empresa hacer esto evitando cualquier contacto humano con sus usuarios? 1

La IA es tan compleja que los humanos necesitan ayudar

Muchos desarrolladores se dicen a sí mismos que la IA puede resolver prácticamente cualquier problema humano, si se les dan suficientes variables, conjuntos de datos y ajustes. Pero lo que Facebook ha demostrado claramente es que, independientemente de lo que esté haciendo para ayudar a resolver su problema de suministro de noticias, su IA no está funcionando bien para muchas, muchas personas.

Nadie siente que Facebook siquiera esté escuchando. Como señalé anteriormente, los defensores de la salud y los activistas con los que hablé en la conferencia dijeron que no se les escucha. A las empresas de redes sociales como Facebook no parece importarles. Y en un grupo cerrado de Facebook para editores de noticias, escucho a diario la frustración sobre cuántas organizaciones de noticias respetadas están haciendo que sus artículos de periodismo de investigación en profundidad languidezcan en Facebook sin un impulso pagado. Mientras tanto, un artículo descartable de "5 maneras asombrosas, rápidas y fáciles de broncearse en verano" recibe más visitas que las búsquedas de Trump en Google de "¿Cómo soluciono ...?".

Disparos de despedida sobre la IA actual

El elogiado Siri de Apple a menudo se presenta como un ejemplo útil de IA que funciona en el mundo moderno de hoy. Pero mientras escribía este artículo, dije: "Oye, Siri, dile a Nancy que la amo".

Siri, en su infinita sabiduría, acertó al destinatario del mensaje (afortunadamente, ya que solo conozco a una Nancy). Pero el mensaje de texto que envió fue: "La amo". Siri, obviamente, no entendía el significado real de mi oración, y en su lugar usó filtros rudimentarios para descubrir que quería enviar un mensaje de texto a una persona en mis contactos con el mensaje literal, "La amo".

Este es el nivel de IA con el que estamos trabajando hoy en las grandes empresas de tecnología como Facebook, Google y Apple; algo útil, pero frustrantemente desigual en su calidad e implementación.

Realmente espero que Facebook se dé cuenta de esto, porque cada día lo uso cada vez menos a medida que se vuelve cada vez menos relevante para mi intereses reales y la vida diaria. Puede que hoy sea una minoría, pero sospecho que eso cambiará si Facebook no resuelve pronto estos problemas de relevancia e interés.

Notas al pie:

1. Esta es una de las razones por las que los presentadores de Facebook en las conferencias a menudo reciben tantas preguntas: es el único contacto humano que la mayoría de nosotros ha tenido con este gigante tecnológico. [↩]