INCIBE y atlanTTic colaboran en el proyecto Truffles sobre privacidad y seguridad

Dos grupos del Centro de Investigación en Tecnologías de Telecomunicación de la UVigo, atlanTTic, centro que forma parte de la Red CIGUS, una iniciativa promovida por la Xunta de Galicia que aglutina los centros del sistema que han acreditado su excelencia científica, participan en el proyecto TRUFFLES (Trusted Framework for Federated Learning Systems). Además, el Instituto Nacional de Ciberseguridad (INCIBE), a través de la Secretaría de Estado de Digitalización e Inteligencia artificial, y la Universidad de Vigo participan en el proyecto TRUFFLES (Trusted Framework for Federated Learning Systems).

Los grupos de AtlanTTic que participan son el Grupo de Procesado de Señal en Comunicaciones (GPSC), dirigido por el profesor Fernando Pérez González y el grupo Information & Computing Lab (I&CLAB), dirigido por la profesora Rebeca Díaz Redondo. Ambos grupos cuentan con una dilatada experiencia en los ámbitos de la seguridad, la privacidad y la inteligencia artificial. El personal investigador del proyecto desarrollará herramientas complementarias para medir y mitigar los riesgos existentes en aprendizaje federado.

Los algoritmos basados en Inteligencia artificial (IA) necesitan enormes cantidades de datos para su entrenamiento, y en muchas situaciones prácticas los propietarios de los datos no disponen de una cantidad suficiente cómo para que el aprendizaje del algoritmo sea efectiva. Una solución sería compartir los datos con otros propietarios, de modo que todos se beneficien de la colaboración, pero esto implica a menudo infringir las normativas de protección de datos, cada vez más garantistas con los derechos de los individuos, tal y como indican los responsables de TRUFFLES.

En este contexto, TRUFFLES tiene como objetivo el diseño e incorporación de nuevos mecanismos y tecnologías que refuercen e incrementen la seguridad y privacidad en entornos de aprendizaje federado (en inglés Federated Learning o FL). El aprendizaje federado nació como una solución a este problema, ya que los propietarios de los datos entrenan su algoritmo localmente y lo ponen en común con los demás para producir un algoritmo que se beneficie del aprendizaje con los datos respectivos.

TRUFFLES tiene varias líneas de actuación entre las cuales destacan la identificación de amenazas realistas en un ámbito de aprendizaje federado y la concepción de métodos para medir la privacidad que cuantifiquen la información privada que pueden obtener los atacantes, “como instrumento para conocer las limitaciones de las soluciones existentes”. Por otro lado, se intentará proporcionar soluciones que permitan mitigar o eliminar las fugas de privacidad. El proyecto pretende además implementar un prototipo para demostrar la utilidad de las técnicas desenvolvidas en un escenario real. Se pondrá el foco en un caso de uso en el sector bancario, donde la privacidad es un requisito esencial, más en concreto en la detección de transacciones fraudulentas.