O CiTIUS lidera o debate nacional sobre a intelixencia artificial ética

O CiTIUS (Centro Singular de Investigación en Tecnoloxías Intelixentes da USC), que pertence á Rede CIGUS, unha iniciativa promovida pola Xunta de Galicia que aglutina os centros do sistema que acreditaron a súa excelencia científica, propuxo un encontro co propósito de abrir un debate sobre os valores humanistas e principios éticos que deben guiar o desenvolvemento da intelixencia artificial. A Fundación Ramón Areces foi escenario os pasados xoves e venres das xornadas Social Impact of AI.

Expertos nacionais e internacionais reuníronse para discutir sobre o impacto social da intelixencia artificial ao longo dun foro organizado polo investigador do centro José María Alonso, coordinador da Rede nacional en intelixencia artificial fiable, unha alianza de 12 grupos de investigación de recoñecido prestixio na área, coñecida polo acrónimo anglosaxón Technological, Ethical, Legal, Social, Economical, and Cultural issues for Trustworthy AI (TELSEC4TAI).

TELSEC4TAI tivo un especial protagonismo nas xornadas, introducindo desde distintas perspectivas os detalles da súa estratexia común para crear conciencia social sobre a importancia de avanzar cara a unha nova xeración de dispositivos intelixentes e «responsables».

Z-Inspection®, a primeira ferramenta independente para avaliar a fiabilidade e a ética das tecnoloxías baseadas na IA

Así mesmo, o encontro serviu tamén para presentar exemplos de uso do protocolo definido por Z-Inspection®, a primeira ferramenta independente deseñada para avaliar a fiabilidade e a ética das tecnoloxías baseadas na IA. A proposta, unha iniciativa sen ánimo de lucro creada no ano 2020 en Finlandia polo investigador Roberto Zicari, conta xa cun total de 37 entes asociados en todo o mundo (26 laboratorios, 9 institucións, e 2 proxectos de investigación); entre eles o CiTIUS, que en 2023 se converteu na primeira institución española en adherirse a este novo protocolo.

Z-Inspection® preséntase como «un sistema holístico para avaliar a confiabilidade dos sistemas intelixentes» e foi desenvolto conforme os estándares da Unión Europea, a modo de «lista de verificación» (ou checklist). A ferramenta baséase nas contribucións dun grupo multidisciplinario de expertos en distintos campos, cuxo labor é identificar e debater cuestións e tensións éticas en escenarios sociotécnicos complexos.

O investigador do CiTIUS José M. Alonso, coorganizador das xornadas Social Impact of AI xunto co Profesor Ramón López de Mántaras, quixo destacar a importancia do encontro «para integrar o traballo da rede TELSEC4TAI con Z-Inspection® e abordar o impacto da IA en diversos ámbitos, incluídos os da educación, a economía e a sanidade». Alonso, que no outono de 2023 impulsaba a adhesión do CiTIUS a esta nova posta en común no ámbito  global, insistiu en presentar estas xornadas como «un fito na promoción dunha IA ética e responsable, que acabará beneficiando a toda a sociedade».