El Director de la Fundación TIC Salut Social es nombrado representante del Departamento de Salud en la Comisión de Inteligencia Artificial

El Director de la Fundación TIC Salut Social, Joan Guanyabens, ha sido designado representante del Departamento de Salud en la Comisión de Inteligencia Artificial aprobada en el acuerdo de gobierno 45/2024, de 27 de febrero de 2024. Guanyabens ha estado muy implicado en el desarrollo del Programa para la promoción y desarrollo de la inteligencia artificial en el sistema de salud de Cataluña (Programa Salut/IA), coordinado desde la Fundación TIC Salut Social, y, por tanto, podrá aportar a la Comisión su conocimiento estratégico en la aplicación de esta tecnología disruptiva en salud.

En la Comisión se incorporarán como vocales una persona en representación de cada departamento de la Administración de la Generalitat de Catalunya que tenga encomendadas competencias o funciones en la aplicación de IA, aparte de representantes de direcciones generales y organismos públicos como la Agencia de Ciberseguridad de Cataluña, el Centro Telecomunicaciones y Tecnologías de la Información, el Instituto de Estadística de Cataluña o el Consorcio de Administración Abierta de Cataluña, entre otros.

Tal y como se detalló en el acuerdo de gobierno, la nueva iniciativa pretende dotar a la Administración de la Generalitat de un marco organizativo transversal que coordine los diferentes ámbitos de actuación que requiere la aplicación de las tecnologías basadas en IA en la prestación de los servicios públicos y, asimismo, fomente el uso de una IA ética, confiable y respetuosa con los derechos fundamentales, que garantice los derechos de la ciudadanía, tales como la información, transparencia y protección de los datos de carácter personal.

Funciones de la Comisión de Inteligencia Artificial

La Comisión de Inteligencia Artificial debe encargarse de velar por el cumplimiento normativo, sin perjuicio de las competencias de otras unidades, y por el estudio, impulso, promoción y desarrollo de sistemas de IA en los servicios públicos de la Administración de la Generalitat, así como por su control y supervisión.

Como detalla el Diario Oficial de la Generalitat de Catalunya, las funciones de la Comisión son:

  • Impulsar y proponer al Gobierno catalán, mediante el departamento en el que se integra, en su caso, los instrumentos o actuaciones normativos y organizativos necesarios para impulsar y supervisar la IA en los servicios públicos de la Administración de la Generalitat de Catalunya.
  • Evaluar el impacto de la IA en los servicios públicos de la Administración de la Generalitat de Catalunya y, en especial, proponer y realizar el seguimiento de las metodologías para la evaluación de los derechos y libertades de los ciudadanos en la prestación de servicios públicos.
  • Identificar los principales organismos implicados y sus competencias en lo que se refiere a la IA.
  • Proponer los mecanismos de cooperación y coordinación entre los organismos y los agentes implicados.
  • Impulsar, supervisar y controlar las actuaciones que deben ejecutar los diferentes grupos de trabajo que se creen para aplicar, controlar y hacer cumplir las normas en materia de IA.
  • Supervisar el cumplimiento y adecuación de la aplicación de los sistemas de IA al Modelo de gobierno de los datos de la Administración de la Generalitat, especialmente en lo que se refiere a las metodologías y políticas del Modelo.
  • Elevar al Comité de Ética de los Datos las cuestiones éticas propias del uso de la IA en el ámbito de la actuación de la Administración de la Generalitat.
  • Impulsar mecanismos de buenas prácticas para aplicar la IA que tengan en cuenta los principios y valores éticos.
  • Proponer medidas de vigilancia o supervisión humana para prevenir o reducir al mínimo los riesgos derivados de la aplicación de la IA, especialmente en relación a los riesgos derivados de la protección de datos personales.

Aparte de la Comisión, el propio acuerdo de gobierno contemplaba la creación del Registro de sistemas de IA como instrumento para documentar, de forma estandarizada e indexable, las decisiones y los supuestos que ha tomado la Administración sobre un sistema de IA durante todo su ciclo de vida; es decir, en el desarrollo, aplicación, gestión y, en última instancia, el desmantelamiento. Asimismo, garantiza el cumplimiento de las obligaciones de transparencia en el uso de los sistemas, lo que permitirá a la ciudadanía conocer qué algoritmos utiliza la Administración y otra información relevante relativa a la actuación administrativa mediante el uso de estas tecnologías.

  • Joan Guanyabens será uno de los vocales de la Comisión creada recientemente por el gobierno catalán con el objetivo de velar por el cumplimiento normativo, la protección de datos personales y el uso ético de los sistemas de IA.