Nuevo sistema de machine learning detecta cuentas falsas
Facebook anunció que le dio de baja a cerca de 2 mil millones de cuentas falsas. Te presentamos los detalles del sistema de machine learning que se utilizó para enfrentar este reto.
Con el aumento del uso de redes sociales durante los últimos años, también se ha incrementado la práctica de utilizar cuentas falsas para propagar fake news, vínculos de phishing o malware.
Otro artículo que puedes leer: ¿Las máquinas pueden aprender? De eso trata el Machine Learning
Hace unos días, uno de los gigantes de la tecnología, Facebook, anunció que le dio de baja a casi 2 mil millones de cuentas falsas con ayuda de Inteligencia Artificial y machine learning.
Según Facebook, se identificaron dos tipos de cuentas falsas en las redes sociales:
- Cuentas de usuario sin clasificación. Estas son manejadas por perfiles personales de empresas que son trabajadas como si fueran páginas.
- Cuentas de violación. Estas son de carácter más serio, ya que se trata de perfiles personales que se vinculan con fraudes y envío de spam, y rompen las reglas de los términos de servicio de la plataforma.
También puede interesarte: Aumentará la demanda laboral por especialistas en Inteligencia Artificial y Machine Learning
El uso de machine learning
El equipo técnico de seguridad que trabajó en el proyecto de eliminar este tipo de cuentas utilizó algoritmos de machine learning para bloquear una cuenta falsa antes de ser creada o de activarse.
“La etapa final es cuando la cuenta falsa se logra activar”, publica el medio digital Technology Review, del Massachusetts Institute of Technology.
“En esta etapa, la detección se dificulta y se debe utilizar un sistema nuevo de machine learning, conocido como Deep Entity Classification (DEC)”, agrega.
El DEC aprende a diferenciar a los usuarios reales y los falsos por medio de sus patrones de conección a través de la red.
Los llama deep features e incluyen detalles como el promedio de edad y la distribución de contactos y amigos del usuario.
Según Facebook’s Community Integrity, esta plataforma utiliza más de 20,000 deep features para caracterizar cada cuenta, y proveer una imagen de cómo se comporta cada perfil para dificultar los ataques informáticos.
Uso de datos
“El sistema comienza a funcionar al utilizar una extensa cantidad de etiquetas generadas por computadora”, explica “Identifying Fake Account in Facebook Using Machine Learning”, de National Defence University of Malaysia.
“Estas se crean por medio de una mezcla de reglas y otros modelos de machine learning que identifican si un usuario es real o falso”, añade el estudio.
Cuando estos datos son utilizados para entrenar una red neural, el modelo se enriquece con pequeños montos de datos generados por personas en el mundo que tienen un entendimiento de las normas culturales locales.
De ahora en adelante, será más difícil que se active una cuenta falsa que utilice imágenes de perfil tipo deepfake, ya que el sistema avanzado de machine learning incluye una categorización de cada perfil.
Si te interesa estudiar en Universidad Galileo una carrera que se relacione con AI y Machine Learning, ingresa aquí: Facultad de Ingeniería de Sistemas, Informática y Ciencias de la Computación.
