Los investigadores proponen usar IA para detectar crowdfundings fraudulentos. El crowdfunding se ha convertido en la forma de apoyar empresas individuales y esfuerzos filantrópicos. Pero a medida que las plataformas de financiación colectiva cobran importancia, también atraen a actores maliciosos. En agosto del año pasado, un informe de The Verge investigaba Dragonfly Futurefön. Esta operación de fraude duró una década y costó unos 6 millones de dólares. Hace dos años, la Comisión Federal de Comercio de EE.UU. anunció que estaba estudiando una camapaña para una mochila con batería y Wi-Fi que desapareció con más de 700.000$.
GoFundMe dijo anteriormente que las campañas fraudulentas representaban menos del 0.1% de todas. Sin embargo, con el lanzamiento de millones de nuevos proyectos cada año, muchos actores maliciosos pueden evitar ser detectados. Para ayudar a atraparlos, los investigadores del Univeristy College London, Telefonica Research y la London School of Economics diseñaron un sistema de inteligencia artificial que tienen en cuenta las características textuales. También las basadas en imágenes para clasificar el comportamiento fraudulento de crowdfunding en el momento de la publicación. Afirman que tiene una precisión de hasta un 90,14% para distinguir entre comportamientos de financiación fraudulentos y legítimos. Incluso sin ningún usuario o actividad de donación.
Si bien dos de las plataformas de crowdfunding más grandes (GoFundMe y Kickstarter) usan formas automatizadas para detectar esto, ninguna de las dos afirma adoptar un enfoque impulsado por IA. Un portavoz de GoFundMe dijo que la compañía confía en los «expertos dedicados» de su equipo de confianza y seguridad, que usan la tecnología a la par con la industria financiera. También se basan en los informes de la comunidad para detectar campañas fraudulentas.
Los investigadores proponen usar IA para detectar crowdfundings fraudulentos
Kickstartes por su parte dice que no usa IA o herramientas de machine learning para prevenir el fraude. Esto, dicen, salvo las herramientas automatizadas patentadas. La mayor parte de su investigación se realiza manualmente al observar qué señales aparecen y analizarlas para guiar cualquier acción. Uno de los portavoces dijo que en 2018 el equipo de Kickstarter suspendió 354 proyectos y 50987 cuentas. También prohibió a 5397 usuarios por violar las reglas y pautas de la compañía.
Los investigadores argumentarían que esos esfuerzos no van lo suficientemente lejos. «Descubrimos que el fraude es un pequeño porcentaje del ecosistema del crowdfunding, pero es un problema insidioso. Corroe el ecosistema de confianza en el que operan estas plataformas, poniendo en peligro el apoyo que reciben miles de personas año tras año».
Así funciona
Para construir el sistema que pudiese usarse para «enseñar» al sistema mencionado, los investigadores obtuvieron entradas de GoFraudMe. Se trata de un recurso que tiene como objeto catalogar los casos fraudulentos en la plataforma. Después crearon dos conjuntos de datos anotados manualmente que se centran en el dominio de la salud. Aquí los riesgos monetarios y emocionales tienden a ser altos. Un conjunto contenía 191 campañas de la categoría médica de GoFundMe, mientras que el otro contenía 350 campañas de otras plataformas.
Después redujeron muchos miles de características posibles a 71 variables textuales y 501 visuales. Posteriormente, los investigadores las utilizaron para entrenar un modelo de aprendizaje automático para detectarlas automáticamente. llegar a este modelo requirió crear submodelos para clasificar imágenes y texto como fraudulentos o legítimos y combinar los resultados en una sola puntuación.
Los investigadores afirman que su enfoque revelaba tendencias peculiares. Un ejemplo es el hecho de que las campañas legítimas tienen más probabilidades de tener imágenes con al menos una cara en comparación con las fraudulentas. Éstas últimas, además, son generalmente más desesperadas en sus apelaciones, en contraste con la descripción y apertura de las legítimas.
Es posible que este sistema se esté aferrando a ciertas características al hacer sus predicciones. Esto hace que muestren un sesgo que no es obvio a primera vista. Es por ello que los autores planean mejorarlo teniendo en cuenta las fuentes de sesgo de etiquetado y probar su solidez frente a campañas médicas no etiquetadas.