El Director de la Fundació TIC Salut Social és nomenat representant del Departament de Salut a la Comissió d’Intel·ligència Artificial

El Director de la Fundació TIC Salut Social, Joan Guanyabens, ha estat designat representant del Departament de Salut a la Comissió d’Intel·ligència Artificial aprovada a l’acord de govern 45/2024, del 27 de febrer del 2024. Guanyabens ha estat molt implicat en el desenvolupament del Programa per a la promoció i desenvolupament de la intel·ligència artificial al sistema de salut de Catalunya (Programa Salut/IA), coordinat des de la Fundació TIC Salut Social, i per tant, podrà aportar a la Comissió el seu coneixement estratègic en l’aplicació d’aquesta tecnologia disruptiva en salut.

A la Comissió s’incorporaran com a vocals una persona en representació de cada departament de l’Administració de la Generalitat que tingui encomanades competències o funcions en l’aplicació d’IA, a banda de representants de direccions generals i organismes públics com l’Agència de Ciberseguretat de Catalunya, el Centre Telecomunicacions i Tecnologies de la Informació, l’Institut d’Estadística de Catalunya o el Consorci d’Administració Oberta de Catalunya, entre d’altres.

Tal com es va detallar a l’acord de govern, la nova iniciativa pretén dotar l’Administració de la Generalitat d’un marc organitzatiu transversal que coordini els diferents àmbits d’actuació que requereix l’aplicació de les tecnologies basades en IA en la prestació dels serveis públics i, així mateix, fomenti l’ús d’una IA ètica, confiable i respectuosa amb els drets fonamentals, que garanteixi els drets de la ciutadania, com ara a la informació, transparència i protecció de les dades de caràcter personal.

Funcions de la Comissió d’Intel·ligència Artificial

La Comissió d’Intel·ligència Artificial ha d’encarregar-se de vetllar pel compliment normatiu, sens perjudici de les competències d’altres unitats, i per l’estudi, impuls, promoció i desenvolupament de sistemes d’IA en els serveis públics de l’Administració de la Generalitat, i també pel seu control i supervisió.

Com detalla el Diari Oficial de la Generalitat de Catalunya, les funcions de la Comissió són:

• Impulsar i proposar al Govern, mitjançant el departament en el qual s’integra, si escau, els instruments o actuacions normatius i organitzatius necessaris per impulsar i supervisar la IA en els serveis públics de l’Administració de la Generalitat de Catalunya.
• Avaluar l’impacte de la IA en els serveis públics de l’Administració de la Generalitat de Catalunya i, en especial, proposar i fer el seguiment de les metodologies per a l’avaluació dels drets i les llibertats dels ciutadans en la prestació de serveis públics.
• Identificar els principals organismes implicats i les seves competències pel que fa a la IA.
• Proposar els mecanismes de cooperació i coordinació entre els organismes i agents implicats.
• Impulsar, supervisar i controlar les actuacions que han d’executar els diferents grups de treball que es creïn per aplicar, controlar i fer complir les normes en matèria d’IA.
• Supervisar el compliment i l’adequació de l’aplicació dels sistemes d’IA al Model de govern de les dades de l’Administració de la Generalitat, especialment pel que fa a les metodologies i polítiques del Model.
• Elevar al Comitè d’Ètica de les Dades les qüestions ètiques pròpies de l’ús de la IA en l’àmbit de l’actuació de l’Administració de la Generalitat.
• Impulsar mecanismes de bones pràctiques per aplicar la IA que tinguin en compte els principis i valors ètics.
• Proposar mesures de vigilància o supervisió humana per prevenir o reduir al mínim els riscos derivats de l’aplicació de la IA, especialment en relació amb els riscos derivats de la protecció de dades personals.

A banda de la Comissió, el mateix acord de govern contemplava la creació del Registre de sistemes d’IA, com a instrument per documentar, de manera estandarditzada i indexable, les decisions i els supòsits que ha pres l’Administració sobre un sistema d’IA durant tot el seu cicle de vida, és a dir, en el desenvolupament, l’aplicació, la gestió i, en última instància, el desmantellament. Així mateix, garanteix el compliment de les obligacions de transparència en l’ús dels sistemes, la qual cosa permetrà a la ciutadania conèixer quins algoritmes fa servir l’Administració i altra informació rellevant relativa a l’actuació administrativa mitjançant l’ús d’aquestes tecnologies.