Mark Zuckerberg anunció hoy que Faceboook estaba desplegando IA mejorada para escanear publicaciones en busca de signos de pensamientos suicidas. El nuevo sistema, que no depende de que los usuarios marquen ni denuncien contenido, se lanzará en todo el mundo a excepción de los países de la UE, debido a restricciones.
Los nuevos algoritmos de la red social utilizan el reconocimiento de patrones para buscar publicaciones y comentarios de palabras clave. Si la IA reconoce causa de preocupación, como que los comentaristas pregunten al póster original si están bien o si necesitan ayuda, enviará la información a Facebook, empleado para su revisión.
Si la persona que revisa el informe determina que la intervención es necesaria, tiene la opción de alertar a los primeros en responder, quienes luego pueden ponerse en contacto con la persona o comunicarse con la familia y amigos de una persona en riesgo. Estos empleados, presumiblemente, son parte de la iniciativa de Zuckerberg de agregar 3.000 trabajadores dedicados con el fin de revisar el contenido.
El CEO en una publicación a principios de este año dijo: «Si vamos a construir una comunidad segura, debemos responder rápidamente». También señaló que la compañía estaba trabajando para desarrollar un método más rápido para encontrar y reportar comportamientos suicidas en la plataforma. .
Si bien los detalles sobre los cambios en los algoritmos actualmente son escasos, se han obtenido más de 100 intervenciones entre los que respondieron primero y los individuos potencialmente suicidas, según la publicación de Zuckerberg. Y si se salvara una sola vida, los ingenieros que construyeron la IA deberían ser felicitados.
De acuerdo con Zuckerberg:
En el futuro, AI podrá comprender más los matices sutiles del lenguaje y podrá identificar diferentes cuestiones además del suicidio, lo que incluye detectar más tipos de acoso y odio.
Hay, por supuesto, algunas preocupaciones de privacidad. Muchas personas pueden no ser conscientes de que AI usa el reconocimiento de patrones para determinar qué tipo de comportamiento han exhibido en las redes sociales. Además, no se nos está dando ninguna garantía sobre la medida en que Facebook tiene la intención de aplicar el reconocimiento de patrones a nuestras comunicaciones en la plataforma.
Sin embargo, si la red social aprovecha exitosamente la inteligencia artificial para salvar la vida de las personas, ya sea que intenten transmitir su muerte o dar actualizaciones de estado problemáticas, valdrá la pena tener nuestras comunicaciones ya públicas escrutadas por computadoras indiscretas.
La compañía continúa trabajando hacia un futuro donde los gritos de ayuda, al menos en las redes sociales, nunca pasan desapercibidos. Hay más de dos mil millones de personas en Facebook y simplemente no es factible esperar que un número de empleados los controle a todos, ni deberían hacerlo.
Las computadoras, por otro lado, son perfectas para la tarea. Una IA nunca se cansará ni se sentirá abrumada por la crudeza de su trabajo. Simplemente seguirá haciendo lo que los algoritmos de su cabeza le digan.
Y en este caso, si podemos disipar el terror orwelliano por unos momentos, es reconfortante saber que las máquinas están siendo programadas para buscar personas necesitadas.
El suicidio es la segunda causa de muerte para los estadounidenses menores de 44 años, y es responsable de casi 50,000 vidas perdidas cada año en los Estados Unidos. La IA de Facebook puede no solucionar el problema, pero es otra herramienta en la lucha.
Nos comunicamos con Facebook para obtener más aclaraciones y actualizaremos según sea necesario.
