O INCIBE e o atlanTTic colaboran no proxecto Truffles sobre privacidade e seguridade

Dous grupos do Centro de Investigación en Tecnoloxías de Telecomunicación da UVigo, atlanTTic, centro que forma parte da Rede CIGUS, unha iniciativa promovida pola Xunta de Galicia que aglutina os centros do sistema que acreditaron a súa excelencia científica, participan no proxecto TRUFFLES (Trusted Framework for Federated Learning Systems). Ademais, o Instituto Nacional de Ciberseguridade (INCIBE), a través da Secretaría de Estado de Dixitalización e Intelixencia artificial, e a Universidade de Vigo participan no proxecto TRUFFLES (Trusted Framework for Federated Learning Systems).

Os grupos de atlanTTic que participan son o Grupo de Procesado de Sinal en Comunicacións (GPSC), dirixido polo profesor Fernando Pérez González, e o grupo Information & Computing Lab (I&CLAB), dirixido pola profesora Rebeca Díaz Redondo. Ambos os grupos contan cunha dilatada experiencia nos ámbitos da seguridade, da privacidade e da intelixencia artificial. O persoal investigador do proxecto desenvolverá ferramentas complementarias para medir e mitigar os riscos existentes en aprendizaxe federada.

Os algoritmos baseados en intelixencia artificial (IA) necesitan enormes cantidades de datos para o seu adestramento e en moitas situacións prácticas os propietarios dos datos non dispoñen dunha cantidade suficiente como para que a aprendizaxe do algoritmo sexa efectiva. Unha solución sería compartir os datos con outros propietarios, de modo que todos se beneficien da colaboración, pero isto implica a miúdo infrinxir as normativas de protección de datos, cada vez máis garantistas cos dereitos dos individuos, tal e como indican os responsables de TRUFFLES.

Neste contexto, TRUFFLES ten como obxectivo o deseño e incorporación de novos mecanismos e tecnoloxías que reforcen e incrementen a seguridade e privacidade en contornos de aprendizaxe federada (en inglés, Federated Learning ou FL). A aprendizaxe federada naceu como unha solución a este problema, xa que os propietarios dos datos adestran o seu algoritmo localmente e póñeno en común cos demais para producir un algoritmo que se beneficie da aprendizaxe cos datos respectivos.

TRUFFLES ten varias liñas de actuación entre as cales destacan a identificación de ameazas realistas nun ámbito de aprendizaxe federada e a concepción de métodos para medir a privacidade que cuantifiquen a información privada que poden obter os atacantes, «como instrumento para coñecer as limitacións das solucións existentes». Doutra banda, intentarase proporcionar solucións que permitan mitigar ou eliminar as fugas de privacidade. O proxecto pretende, ademais, implementar un prototipo para demostrar a utilidade das técnicas desenvolvidas nun escenario real. Poñerase o foco nun caso de uso no sector bancario, onde a privacidade é un requisito esencial, máis en concreto na detección de transaccións fraudulentas.