Facebook utiliza inteligencia artificial para detectar imágenes ofensivas

La red social Facebook continúa con su lucha en contra de la difusión de contenido inapropiado, utilizando para ello una tecnología basada en la inteligencia artificial que, además, funciona en las imágenes, fotografías y memes.

La herramienta se llama Rosetta, y es un algoritmo de aprendizaje automático que combate este tipo de contenido inapropiado y según explica Facebook en su blog, lo hace siguiendo una metodología determinada. El sistema se encarga de conseguir el texto de las miles de fotografías, imágenes y fotogramas de vídeo que se comparten en la red social para incorporarlo a un sistema de reconocimiento de texto que se encarga de entender el contexto del texto y la imagen todos a la vez.

Y se hace por medio de dos pasos diferenciados, la detección y el reconocimiento. En el primer paso, se detectan las regiones donde se concentra, generalmente, el texto, mientras que el segundo paso es reconocer el texto en cuestión usando una red neuronal convolucional para reconocer y transcribir la palabra.

Al mismo tiempo, el sistema también se encarga de reconocer las imágenes, identificando a los sujetos que aparecen con un sistema neuronal que ha adquirido experiencia gracias a miles de fotografías anotadas previamente que proceden de la red social.

Si se comprueba que el texto o la imagen son ofensivas, se bloquean de la red social, siendo así un método considerado por la red social para luchar contra la difusión de este tipo de mensajes, no sólo a través del texto sino también por medio de la imagen.

Ana Lacasa
Periodista y Filóloga. Dos áreas que se dan de la mano para informar de la actualidad emprendedora y tecnológica.