La inteligencia artificial de Facebook se está volviendo cada vez más experta en mantener el contenido terrorista fuera de la red social, según la compañía.
Hoy, el 99 por ciento del contenido de Estado Islámico (EI) y Al Qaeda que Facebook elimina es detectado por la inteligencia artificial (IA) de la compañía antes de que cualquier usuario lo denuncie, dijeron el miércoles Monika Bickert, gerente de política global de Facebook, y Brian Fishman, titular de política antiterrorista de la compañía. Los ejecutivos sostuvieron que, en algunos casos, el software fue capaz de bloquear el contenido antes de que fuera publicado en primer lugar.
No obstante, los ejecutivos advirtieron que las soluciones automáticas de Facebook aún son imperfectas. "Un sistema diseñado para encontrar contenido de un grupo terrorista puede no funcionar para otro debido al lenguaje y las diferencias de estilo en su propaganda", dijeron.
Como resultado, Facebook dijo que había concentrado sus esfuerzos en EI y Al Qaeda, "los grupos terroristas que representan la mayor amenaza a nivel mundial". Facebook espera expandir sus herramientas automáticas para apuntar al contenido de otras organizaciones terroristas que están más centradas en ciertas regiones también, según los ejecutivos.
Facebook ha enfrentado cada vez más críticas en todo el mundo por parte de gobiernos preocupados de que la red social proporcione una plataforma para la propaganda y el reclutamiento terrorista. La primera ministra británica, Theresa May, ha sido particularmente directa en sus ataques contra las compañías de redes sociales y ha intentado reunir a los líderes de otras democracias para imponer una mayor regulación a estas empresas tecnológicas.
En parte como respuesta a ello, Facebook ha unido fuerzas con Microsoft , Twitter y YouTube de Google, una división de Alphabet, para formar el Foro Global de Internet para la Lucha contra el Terrorismo. La agrupación ayuda a las empresas a coordinar sus esfuerzos para combatir el contenido terrorista y compartir ideas con compañías de tecnología más pequeñas. Los grupos terroristas recurren cada vez más a redes sociales más pequeñas y nuevas, ya que han sido sacados de sitios como Facebook, Twitter y YouTube.
El foro también ofrece un espacio para que las empresas de tecnología logren que gobiernos que a menudo son hostiles oigan sus opiniones.
Bickert y Fishman dijeron que todavía se necesitan humanos para organizar las bases de datos de mensajes, videos y fotografías terroristas utilizadas para entrenar el software de IA de Facebook. También se necesitaron expertos humanos para revisar las decisiones tomadas por las herramientas automatizadas, dijeron.
Facebook está contratando más lingüistas, académicos, exmiembros de la policía y exanalistas de inteligencia para realizar estos roles.
Peter Neumann, quien dirige el Centro Internacional para el Estudio del Extremismo Violento y la Radicalización Política en Kings College, Londres, dijo que en los últimos años ha habido una drástica disminución del contenido terrorista en las principales plataformas de redes sociales. Dijo que la inteligencia artificial tenía mucho potencial, pero advirtió que "la IA solo es tan buena como la información que se entrega a las máquinas, y los revisores humanos siguen siendo importantes para reconocer los matices y el contexto".
Neumann dijo que los grupos terroristas se estaban cambiando cada vez más a plataformas más pequeñas, como el servicio de mensajería Telegram, que usa encriptación de extremo a extremo y es más difícil de vigilar.
Por otra parte, Facebook dijo que se había asociado con la organización benéfica de Reino Unido Faith Associates para crear una guía destinada a ayudar a la comunidad musulmana británica a enfrentar el extremismo, el odio y el fanatismo en línea. La guía sugiere técnicas para que los usuarios de Facebook promuevan imágenes positivas de los musulmanes en la red social. Al mismo tiempo, alienta a la gente a denunciar a los usuarios que compartan contenido inspirado en el terrorismo o que alienten a otros a unirse a grupos extremistas.
La guía es parte de la Iniciativa de Coraje Civil Online de Facebook, programa destinado a contrarrestar la propaganda extremista, que la compañía lanzó en junio junto con el centro de estudios británico Instituto para el Diálogo Estratégico.
Tech