Algorisme d'IA per la planificació de quiròfans
Eina que optimitza la planificació dels quiròfans proposant distribucions eficients del temps i dels equips quirúrgics segons la disponibilitat, les llistes d’espera per serveis i diagnòstics.
Serveis de Sistemes d'Informació de l'Institut Català de la Salut
Intel·ligència Artificial, Planificació quirúrgica, Optimització, Quiròfans, Cirurgia
Eina per a la planificació eficient dels quiròfans. A partir de la disponibilitat de quiròfans, la llista d'espera per serveis i diagnòstics es proposen distribucions eficients del temps i dels equips quirúrgics.
Model entrenat amb les dades històriques de planificació de VH.
Professionals de gestió de recursos o de serveis.
Aquest sistema consisteix en una aplicació transversal per poder annexar documentació a tràmits oferts pel Departament d'Educació i Formació Professional.
Direcció de serveis - Departament d'Eduació i Formació Professional
Departament d'Educació i Formació Professional
Tràmit | Validació | Documentació | Annexar | Classificació | Educació
Basada en models d'aprenentatge. A través d'un entrenament d'unes tipologies de documents, el sistema indica si el document annexat és vàlid o no. Es defineixen models d'aprenentatge amb tipus de documents entrenats que es pot configurar als tràmits per a permetre la validació automàtica de la documentació adjunta.
Es basa en un component DI (Document Intelligence) de Azure.
S'ha entrenat el sistema amb el conjunt de documents que havia de reconèixer. Actualment consten com a documents entrenats: DNI, Passaport, carnet de familia nombrosa i titols universitaris
Documents annexos als tràmits que proveeix el Deptartament d'Educació i Formació Professional.
Es permet configurar el llindar de validació per a cada tipologia de document entrenat.
Aquest component està destinat a els gestors dels tràmits que proveeix el Deptartament d'Educació i Formació Professional.
Millora en el temps de validació de la documentació (actualment s'annexen 1.100.000 documents a l'any) que cal revisar manualment. En conseqüència, millora en els costos derivats d'aquestes validacions manuals.
El manteniment dels models d'entrenament per tal que garanteixin un correcte procés de validació.
Una persona en determina el resultat amb el suport del sistema.
Generador de resums de normes en llenguatge planer
El sistema resumeix de forma automàtica la normativa publicada al Portal Jurídic de la Generalitat de Catalunya, fent servir un llenguatge clar i accessible per a tota la ciutadania.
Entitat Autònoma del Diari Oficial i Publicacions
Comunicació clara: https://atenciociutadana.gencat.cat/ca/comunicacio-clara/index.html
Administració pública, govern i relacions institucionals
Resums | Normativa | Model de llenguatge extens
El sistema rep com a entrada el text d’una norma jurídica i el processa utilitzant un model de llenguatge extens (LLM). | Mitjançant una seqüència estructurada d’indicacions (prompts), el sistema guia el model per transformar el contingut legal en un resum redactat en un llenguatge clar, directe i accessible per a tota la ciutadania. Aquest procés es fa en diverses fases per assegurar que el resultat sigui fidel al contingut original i alhora fàcil d'entendre. | Un cop generat el resum, el sistema utilitza una eina de traducció automàtica basada en IA per obtenir-lo tant en català com en castellà, a la vegada que es manté el mateix nivell de claredat i coherència. | Aquest tipus de sistema és considerat una "caixa negra", ja que els processos interns del model (com pren decisions o genera textos) no són completament explicables. Tot i això, s'han testat i revisat gairebé 200 resums per garantir que els resultats siguin fiables, entenedors i respectin el contingut legal original.
S'utilitza un model de llenguatge extens (LLM), concretament el GPT d'OpenAI, per a realitzar els resums i les correccions addients. Les indicacions (prompts) del model en llenguatge natural es redacten utilitzant les millors pràctiques en enginyeria d'indicacions (prompt engineering). La solució també fa ús d'un traductor basat en eines d'IA, Azure Translator.
El sistema no s'entrena pròpiament. S'utilitza un model preentrenat (GPT) i s'ajusta a la solució desitjada mitjançant indicacions (prompts) en llenguatge natural.
Les normes jurídiques publicades al Portal Jurídic de Catalunya, a partir de les quals es genera el resum en llenguatge planer.
Com que es tracta d’un sistema de generació de resums i no d’un model predictiu, no és possible aplicar mètriques com l’accuracy o l’AUC. El rendiment s’ha avaluat mitjançant una validació qualitativa de més de 100 normes jurídiques, revisades pels equips tècnics i jurídics implicats. Els resultats indiquen que els resums són fidels al contingut original i adequats per al públic general, assolint l’objectiu de claredat i accessibilitat.
L’ús del sistema comporta diversos beneficis tant per a la ciutadania com per a l’Administració. | Per a la ciutadania, facilita l’accés a la informació jurídica, traduint textos tècnics en un llenguatge clar i entenedor, cosa que promou una major comprensió dels drets i deures. Això contribueix a millorar la transparència i l’empoderament dels usuaris dels serveis públics. | Per a l’Administració, el sistema automatitza una tasca complexa i repetitiva, estalviant temps i recursos, i assegura una difusió més eficient i homogènia de la informació normativa. A més, facilita el compliment dels principis de govern obert i accessibilitat informativa.
L’ús d’intel·ligència artificial generativa per resumir textos jurídics comporta certs riscos, com ara la possible pèrdua de matisos legals, interpretacions incorrectes o un excés de simplificació del contingut. També existeix el risc que la ciutadania doni per vàlid el resum sense consultar la norma original. | Per complir amb les obligacions de transparència associades als sistemes d’IA amb risc limitat, cada resum generat incorpora un avís visible (disclaimer) que informa clarament que el text ha estat generat per intel·ligència artificial i que no substitueix la informació oficial publicada: | "Els resums de documents legals generats per la intel·ligència artificial (IA) es proporcionen únicament amb finalitats informatives i no s'han de considerar com a assessorament legal. Aquests resums no són oficials i no substitueixen la informació publicada als diaris i butlletins oficials. Poden contenir expressions susceptibles de millora lingüística."
S’ha realitzat una revisió manual de més de 100 resums per detectar possibles biaixos de llenguatge o interpretació. Com a mesura correctora, s’han ajustat les indicacions (prompts) per garantir un llenguatge inclusiu, neutral i fidel al text original.
Gènere: Dones: 40%; Homes: 60% | Edat: 20–29 anys: 33,33%; 30–39 anys: 44,44%; +40 anys: 22,22% | Perfil professional: Enginyer/a d’IA: 22.22%; Administració: 22.22%; Dret: 11.11%; Enginyer/a informàtic/a: 22.22%; Altres: 22.22%; | Llengua materna: Castellà: 33.33%; Català : 55.56%; Portuguès: 11.11%.
L’impacte energètic del sistema és moderat, ja que es basa en la utilització de models de llenguatge generatiu allotjats en serveis al núvol, optimitzats per al rendiment.
Un proveïdor extern ha desenvolupat el sistema i l'ha integrat.
Punt d’informació de tràmits del registre civil
LaIA és una plataforma física de consulta de tràmits i d’informació del registre civil per atendre la ciutadania en llenguatge planer i de forma automatitzada.
Secretaria General de Justícia i Qualitat Democràtica
Departament de Justícia i Qualitat Democràtica
Pla de Govern de la XV legislatura: https://govern.cat/gov/pla-govern
Atenció ciutadana | Bot de conversa |Registre civil
Punt d’informació per respondre, tant en català com en castellà, les preguntes de tràmits del registre civil i la seu judicial electrònica, en llenguatge natural, fent ús de tecnologia d’intel·ligència artificial. | En el supòsit de disposar de prou espai, s’instal·larà una cabina insonoritzada de forma que la interacció amb el punt d’informació sigui per veu. En cas contrari, la interacció seria a través d'un teclat i d'un xatbot. | Per al pilot a Tarragona s'habilita un espai insonoritzat i privat on hi haurà la IA i s'interactuarà per veu i per teclat si es vol.
Intel·ligència artificial generativa i processament de llenguatge natural.
S'entrena el sistema d'IA amb la documentació oficial de la seu on s'explica quins tràmits es poden fer a un registre civil i com fer-los (documentació necessària, passos a seguir, etcètera).
Dades de tràmits del registre civil i la seu judicial electrònica.
És un sistema d'IA que informa el ciutadà, però no permet fer tràmits. Per tant, no demana cap dada personal.
Aquest punt d’informació ha de descarregar de feina al registre civil, informant l'usuari de com poder fer els tràmits i quina documentació necessita. Així, no cal que s'adrecin als auxilis dels Registres Civils per aconseguir aquesta mateixa informació, cosa que els ha de descarregar feina.
El principal risc és que l'eina falli i no doni el suport apropiat. El seguiment de l'evolució de l'eina i les queixes de la ciutadania alertaran d'un mal funcionament.
La informació que genera el sistema d'IA s'ha alimentat de la documentació oficial de la seu electrònica que explica com realitzar els tràmits al Registre Civil. No s'alimenta d'internet ni de cap altre sistema, només d'aquesta documentació oficial. Per tant, si les preguntes no són respecte a aquests tràmits, el sistema respon que la pregunta no és del seu coneixement.
El ciutadà podrà continuar preguntant a l'auxili del registre civil si ho considera més oportú, perquè el sistema no és d'ús obligatori.
Omnios | Rda. de Sant Antoni, 36, 3º 3ª | 08001 Barcelona | T-SYSTEMS ITC IBERIA, S.A.U.| Pere IV, 313-321 | 08020 - Barcelona
Hores d'innovació del pressupost del CTTI
RisCanvi és un sistema de suport als professionals en la intervenció, la classificació i la concessió de permisos penitenciaris; per exemple, en les decisions de sortides de permís penitenciari, revisions de grau de tractament, etc. El sistema fa una valoració del risc, basada en l’evidència científica amb una finalitat preventiva i un conjunt de professionals les necessitats de cada intern i per orientar el seu programa individualitzat de tractament.
Secretaria de Mesures Penals, Reinserció i Atenció a la Víctima
Pla estratègic d'Execució Penal d'Adults 2024: https://hdl.handle.net/20.500.14226/1593
Seguretat | Execució penal | Centres penitenciaris
L'eina RisCanvi permet una valoració professional estructurada i una discussió de casos a partir de la informació rellevant i la planificació científica del programa de tractament. El professional format ha de valorar cadascun dels factors de risc (10 en la versió de cribratge i 43 en la versió completa) a partir de la informació documental disponible i d'entrevistes amb la persona interna, segons els criteris de valoració especificats. | Amb aquesta informació com a base, el sistema calcula el nivell de risc de cinc riscos principals: reincidència general, reincidència violenta, violència intrainstitucional, violència autodirigida i trencament de condemna. El professional ha d'introduir la informació rellevant de cada factor i valorar-lo, d'acord amb els criteris de valoració. Cada factor consta de la valoració del nivell de risc en format “Alt-Moderat-Baix" i la informació addicional que justifica el nivell. | La valoració del nivell de risc s'utilitza per al càlcul dels riscos, mentre que la informació addicional és la base per la valoració professional i la discussió dels casos.
Algorisme determinat i fix (sense aprenentatge), valoració de risc, valoració professional estructurada.
El pes dels factors del RisCanvi s'ha ajustat a partir dels resultats empírics de les avaluacions que se n'han fet.
Documentació i entrevistes als interns penitenciaris que registra el professional. Només quan aquests procediments bàsics indiquin que pot estar present un factor de risc que demani un judici professional més específic (trastorn mental, trets de personalitat, discapacitat, suport social crimogènic...) caldrà utilitzar procediments d’avaluació més complexos o més extensos. En són exemples els autoinformes, proves psicològiques, observació de conducta, noves entrevistes amb major profunditat, entre d’altres.
Varien en funció del risc avaluat i de l'escala emprada (cribratge o completa). A l'avaluació del 2022, les àrees sota la corba de l'escala completa se situaven entre 0.64 i 0.80. | Una versió actualitzada de l'algorisme (2024) obté resultats amb les àrees sota la corba que milloren els resultats anteriors, situant-se entre el 0.69 (reincidència general) i el 0.89 (violència autodirigida).
Equips de rehabilitació dels centres penitenciaris
El sistema i l'algorisme accedeixen a dades personals identificatives i dades relatives a la condemna, actituds, aspectes biogràfics, plans de futur, suport exterior o conducta habitual, totes aquestes dades permetran: | 1. Fer prediccions dinàmiques ajustades als canvis dels interns i internes. | 2. Identificar interns i internes en risc, amb independència del delicte comès. | 3. Introduir tècniques de cribratge i detecció d’un risc de violència de forma ràpida i senzilla. |
Millorar la detecció dels factors de risc dels interns i proposar intervencions específiques per aquests riscs, a partir del Model d'intervenció RNR (Andrews i Bonta, 1998), basat en tres principis: Risc, Necessitat i Responsabilitat. | La implementació d’aquest programa ha implicat passar d’un model de rehabilitació centrat en el delicte a un model centrat en els riscos i necessitats criminògenes dels interns i internes. | Els resultats consoliden la idea que el model RNR funciona. S’obté una taxa de reincidència del 14,7% en reincidència general amb 5 anys de seguiment, molt més baixa que qualsevol altre mesurament fet fins ara en els centres penitenciaris de Catalunya. La segona gran xifra, és la disminució de la taxa de reincidència violenta, a quasi la meitat: 7,5%. | Com que el model RNR redueix el nombre de casos a atendre dins del centre penitenciari i disminueix el nombre de casos amb incidències o expedientes disciplinaris (en comparació al grup control clàssic presó), cal generalitzar la seva implementació a la resta de centres penitenciaris com una eina útil de gestió del risc i de pacificació del centre penitenciari.
El principal risc és que l'eina falli i no doni suport correcte als òrgans col·legiats que han de prendre la decisió. En aquest sentit, les decisions les prenen òrgans col·legiats no basant-se exclusivament en l'algorisme, per la qual cosa es gestionen els riscos des dels coneixements professionals.
Protocol d'avaluació del risc i auditoria de l'algorisme: https://justicia.gencat.cat/ca/ambits/reinsercio_i_serveis_penitenciaris/serveis_penitenciaris/RisCanvi/
T-SYSTEMS ITC IBERIA, S.A.U. CIF-A81608077 Pere IV, 313-321 08020 – Barcelona | Inetum Parc empresarial 22@, Carrer de Fluvià, 65, Sant Martí, 08019 Barcelona
Pressupost del departament de Justícia i Qualitat Democràtica
Assistents virtuals amb IA generativa que donen suport a la ciutadania en serveis digitals de l’AOC, facilitant respostes immediates i contextualitzades a consultes freqüents.
Consorci Administració Oberta de Catalunya (AOC)
Transparència algorísmica de l'AOC: https://www.seu-e.cat/ca/web/consorciaoc/govern-obert-i-transparencia/accio-de-govern-i-normativa/normativa-plans-i-programes/transparencia-algorismica-234
El servei utilitza un motor d’intel·ligència artificial generativa especialitzat a processar el llenguatge natural. Les interaccions es fan a través d’una interfície digital accessible des de web, dispositius mòbils o tauletes, on les persones poden escriure la seva consulta i rebre una resposta generada automàticament en format text. | El sistema és de tipus “caixa negra”, ja que es basa en xarxes neuronals profundes que no permeten explicar de manera transparent com es generen exactament les respostes. Tot i això, la qualitat es garanteix mitjançant un procés de supervisió humana rigorós, amb revisions setmanals i anàlisis mensuals de converses per detectar errors, ajustar les instruccions i optimitzar els resultats.
El sistema es basa en un model de llenguatge de gran capacitat (Large Language Model, LLM) i funciona mitjançant una arquitectura que integra la tecnologia de generació amb recuperació augmentada (Retrieval Augmented Generation, RAG). Aquesta combinació permet enriquir les respostes amb informació contextual rellevant, millorant-ne així la qualitat i la precisió.
Sistema entrenat amb informació procedent de tres fonts: una base de dades de preguntes freqüents del portal de suport, l’anàlisi de consultes recurrents gestionades pel Centre d'Atenció d'Usuaris (històric de peticions) i les interaccions reals amb els usuaris, mitjançant un procés de retroalimentació contínua. Aquest entrenament permet al sistema reconèixer preguntes similars i millorar progressivament la qualitat de les respostes. No s’utilitzen dades personals dels usuaris per entrenar el model.
Quan el sistema es troba actiu s'alimenta de les preguntes d'usuaris i de la base de dades de coneixement que s'ha construït a partir de les dades d'entrenament (preguntes freqüents, peticions recurrents i retroalimentació continua).
El sistema té una taxa d’encert del 91,33%, calculada mitjançant una metodologia pròpia d’avaluació qualitativa de converses. Aquesta mètrica s’actualitza mensualment i serveix per mesurar fins a quin punt el sistema resol les consultes de les persones usuàries. | La metodologia es basa en la revisió sistemàtica de 150 converses mensuals. Aquestes se seleccionen aleatòriament, amb una mostra de 5 converses diàries i cobreixen totes les franges horàries del dia (matí, migdia, tarda, vespre i nit). | Per cada conversa, es respon a la pregunta: ""El bot ha resolt correctament el problema del ciutadà?"" amb un Sí o un No, segons els criteris següents: Sí: el bot respon correctament a totes les consultes plantejades. No: el bot dona almenys una resposta incorrecta, incompleta o fora de context. | En converses sobre tràmits fora de la competència de l’AOC, la resposta s’avalua positivament si el bot redirigeix correctament a l’organisme responsable. No es tenen en compte les converses sense resposta, que es poden deure a errors tècnics puntuals. | Aquest sistema d’avaluació contínua permet identificar possibles mancances, ajustar instruccions i millorar progressivament la qualitat del servei.
Ciutadans que utilitzen els serveis de l’AOC
Existeix el risc que es faci un mal ús de les dades personals o que les persones no tinguin alternatives. Per això, les dades es desen dins la UE, es garanteixen els drets en aquest àmbit i s'adverteix l'usuari que la conversa es guardarà. Per contra, l'usuari pot demanar posteriorment que s'esborri la conversa. Així mateix, es revisen els registres per eliminar qualsevol informació personal introduïda pels usuaris en fer les consultes, com ara el número de la seguretat social o el correu electrònic.
Per a la ciutadania: | 1. Disponibilitat les 24 hores, els 7 dies de la setmana: Es pot fer una consulta en qualsevol moment, sense haver d’esperar horaris d’atenció. | 2. Resposta immediata: El sistema respon de seguida, evitant esperes com les de les trucades o les visites presencials. | 3. Autonomia per resoldre dubtes: Les persones poden trobar la informació que necessiten per si mateixes, de manera fàcil i ràpida. | 4. Tracte més natural: El sistema entén com parlem i s’adapta a cada persona, fent que la conversa sigui més fluida i entenedora. | Per a l’administració: | 1. Millor ús dels recursos: El sistema atén preguntes repetitives, per la qual cosa allibera el personal es pot dedicar a atendre tasques més complexes i millora l’eficiència del temps i dels recursos. | 2. Estalvi de costos: Cada consulta feta pel xatbot costa molt menys que una atesa per telèfon. | 3. Més capacitat de resposta: Pot atendre moltes persones alhora, sense col·lapses. | 4. Fàcil de posar en marxa: El sistema ja ve preentrenat i només cal ajustar-lo amb correccions mínimes. Per això, el procés d’ajustament implica revisar i corregir les respostes incorrectes detectades. | 5. Millora constant: L’anàlisi de les converses ajuda a detectar què es pot millorar i adaptar el servei a les necessitats reals.
1. Igualtat i no discriminació: El sistema pot generar respostes amb biaixos o excloure certs col·lectius. Per evitar-ho, s’han seleccionat dades representatives per entrenar el xatbot, s’ofereix el servei en català i castellà, i es permet triar la llengua i canviar-lo durant la conversa. El sistema entén errors ortogràfics o de llenguatge i s’ha dissenyat una interfície accessible per a tothom. | 2. Garantia de la llibertat d'elecció: Seria un risc que l'única opció fos el contacte a través del bot de conversa. En canvi, s’ofereixen canals alternatius com el telèfon o el correu electrònic, i el bot redirigeix a suport humà si es demana explícitament. | 3. Protecció de dades i privacitat (més informació a l'apartat "Dades personals"). | 4. Seguretat i robustesa: Hi ha risc de rebre informació incorrecta, errors en les respostes o problemes d’accés. El sistema està instal·lat en un entorn tancat i segur, basat en una arquitectura certificada, i es revisa periòdicament. S’han aplicat filtres per evitar temes fora del seu àmbit i s’entrena només amb dades pròpies de l’AOC per garantir la qualitat i la rellevància de les respostes. | 5. Transparència i explicabilitat: Pot haver-hi confusió sobre si es parla amb una persona o dificultats per entendre com funciona el sistema. Per això, des del principi s’identifica com a assistent virtual, s’informa que la conversa es guardarà i es publica una fitxa de transparència amb tota la informació, accessible des de la pàgina d’inici. | 6. Retiment de comptes i auditabilitat: Hi podria haver dificultats per el responsable del sistema o com reclamar. Per això, es fan informes periòdics de qualitat i impacte, s’informa clarament de qui gestiona el servei i com presentar una queixa en cas d'efectes negatius, i l’AOC pot fer auditories per garantir el bon funcionament i la fiabilitat del sistema. | 7. Desenvolupament sostenible i solidaritat: L’ús de la IA pot tenir un impacte ambiental. Per això, s’ha optimitzat el sistema per fer-lo més eficient, es promou la transparència sobre els costos i es treballa per oferir-lo com a servei reutilitzable a altres administracions locals, facilitant-ne l’accés sense grans inversions.
S’ha analitzat el comportament del model ajustat amb preguntes de prova sensibles a biaixos (gènere, llengua, etc.) per detectar respostes discriminatòries o esbiaixades. Com a mesures, s’han seleccionat dades representatives durant l’ajust (especialment en català), s’ha aplicat una política de tolerància lingüística per evitar penalitzar errors menors i s’ha garantit l’opció de triar idioma (català o castellà). La interfície també ha estat dissenyada amb criteris d’accessibilitat universal.
Equip de desenvolupament (ONE MILLION BOT, S.L.): | Gènere: 40% dones, 60% homes. | Edat: 100% entre 30 i 50 anys. | Perfil professional: 40% lingüistes computacionals, 20% enginyeria en IA i sistemes de conversa, 20% gestió de projectes, 20% desenvolupament tècnic. | Llengua materna: 60% castellà, 20% català, 20% anglès. | Altres: 100% amb experiència en projectes multilingües i coneixement dels tres idiomes (català, castellà i anglès).
L’impacte energètic del sistema s’ha minimitzat optimitzant el rendiment del model i limitant-ne l’abast temàtic. El xatbot s’executa en infraestructures amb alts estàndards d’eficiència energètica i no es fan entrenaments intensius, ja que es basa en un model preentrenat ajustat lleugerament per al cas d’ús concret.
Les persones usuàries poden mostrar el seu desacord amb el resultat del sistema mitjançant els canals habituals d’atenció de l’administració, com ara formular una queixa, suggeriment o reclamació a través de la bústia de contacte o el tràmit específic de queixes disponible al web de l’AOC. El servei informa clarament de l'existència d'aquestes vies alternatives.
ONE MILLION BOT, S.L. | Web: https://1millionbot.com/ | Correu de contacte: info@1millionbot.com
Contracte públic de serveis, procediment obert, expedient AOC-2021-99. Adjudicat el 7/3/202 per la quantitat total de 84.700,00€: https://contractaciopublica.cat/ca/detall-publicacio/2737d780-45ef-fdb7-14da-0b0dcbe8b2ab/98937627
Sistema basat en intel·ligència artificial que analitza dades globals de ciberseguretat per detectar tendències i facilitar la presa de decisions.
Política pública de ciberseguretat de la Generalitat, definida per la Llei 15/2017, del 25 de juliol, de l’Agència de Ciberseguretat de Catalunya: https://portaljuridic.gencat.cat/ca/document-del-pjur/?documentId=794124
L’Agència utilitza algorismes d'aprenentatge automàtic per a la captura, emmagatzematge i processat de dades massives sobre l’activitat de ciberseguretat recollida de continuadament de fonts d’informació d’arreu del món. | El sistema analitza automàticament notícies sobre ciberseguretat mitjançant tècniques d’intel·ligència artificial com l’aprenentatge automàtic (Random Forest), el processament del llenguatge natural (NLP) i l’ús de diccionaris i expressions regulars. | Aquestes tècniques permeten classificar les notícies segons tipus d’incident, sector, impacte, localització i risc. | És un sistema interpretable, ja que els resultats poden ser supervisats, revisats i millorats per persones expertes.
El sistema utilitza principalment aprenentatge supervisat, basat en models de classificació Random Forest, per identificar el tipus d’incident, sector, amenaça i impacte. També incorpora tècniques d’anàlisi no supervisada com el clustering (TF-IDF + similitud de contingut) per agrupar notícies similars. | A més, fa ús de tècniques de processament del llenguatge natural (NLP) mitjançant llibreries com spaCy, nltk i langdetect per identificar entitats, localitzacions i sentiments. El sistema es complementa amb diccionaris específics, expressions regulars, i models de probabilitat i càlcul de risc.
Model entrenat amb aproximadament 200 notícies d’incidents de ciberseguretat publicades durant l’any 2019, extretes de fonts globals com portals especialitzats (ex: Security Affairs, DarkReading) i mitjans generalistes amb seccions de tecnologia (BBC Tech, El País Tecnología, etc.). | Aquest conjunt inclou el títol, contingut i data de publicació de cada article, així com etiquetes manuals assignades per experts per classificar la tipologia d’incident, el sector afectat o l’impacte. | Les dades no contenen informació personal, ni cap variable sensible com gènere, nacionalitat o identitat de les persones esmentades.| Els textos s’han preprocessat mitjançant expressions regulars i diccionaris de ciberseguretat per garantir la coherència terminològica abans de l'entrenament dels models de classificació.
El sistema utilitza, en temps real, dades de notícies sobre ciberseguretat provinents de més de 200 fonts RSS actives d’arreu del món. Aquestes fonts inclouen mitjans especialitzats, blogs tècnics i portals institucionals. | Les dades recollides inclouen títol, contingut, data i enllaç de la notícia, i es processen cada 8 hores mitjançant crontab. No s’hi inclouen dades personals, ni informació sobre gènere, nacionalitat o identificadors individuals.
El sistema presenta una accuracy mitjana al voltant del 80%, segons els resultats obtinguts durant l’última fase de validació interna. | Tot i això, es preveu una nova validació del sistema, ja que alguns models han estat actualitzats i s'han introduït noves fonts i expressions regulars. Aquesta nova avaluació és necessària per confirmar els rendiments actuals i ajustar els models si cal.
Personal tècnic de l'Agència de Ciberseguretat de Catalunya
El sistema no tracta dades de caràcter personal. Tant les dades d’entrenament com les de funcionament provenen de fonts públiques (notícies) i no contenen informació identificativa de persones, com noms, adreces, correus electrònics, números de document o altres identificadors personals.
1. Millora l’eficiència en la recopilació i classificació de grans volums d’informació en temps real. | 2. Permet monitorar fonts globals i extreure coneixement útil per protegir infraestructures i serveis públics essencials. | 3. Optimitza la presa de decisions estratègiques en matèria de ciberseguretat a partir de la monitorització de la informació global recollida. | 4. Redueix la càrrega manual de l’equip analista, alliberant temps per a tasques d’alt valor. | 5. Incrementa la capacitat de resposta proactiva davant noves amenaces.
1. Risc de classificació incorrecta (falsos positius o negatius), especialment en notícies amb llenguatge ambigu. Com a mesura per mitigar-ho, es fa supervisió humana sistemàtica, millora contínua dels diccionaris i ajust dels paràmetres del model. | 2. Dependència de la qualitat de les fonts RSS, que poden variar en precisió i actualització. Per això, es fa revisió periòdica de les fonts i sistema de puntuació per descartar contingut poc rellevant o duplicat. | 3. Biaixos derivats del contingut entrenat, especialment si hi ha sobrerepresentació de certs tipus d’incidents o regions. Davant d’aquest fet, s’aposta per la diversificació de fonts i validació manual d’etiquetes durant l’entrenament i proves. | 4. Desactualització del model, amb pèrdua de rendiment si no es reentrena regularment. Així doncs, es planifiquen revisions anuals i millores incrementals segons l’evolució de les amenaces.
El sistema no utilitza dades personals ni atributs sensibles com gènere, nacionalitat, ètnia o edat, fet que redueix de forma significativa el risc de generar biaixos discriminatoris. | Tot i això, s’han identificat possibles biaixos de contingut derivats de la sobrerepresentació de determinats països o fonts (per exemple, notícies en anglès sobre incidents als EUA), així com l’ús de diccionaris propis que poden donar més pes a determinades paraules clau o temàtiques. | Per això, com a mesures mitigadores es fa una millora contínua dels diccionaris mitjançant revisió semestral, incorporació de fonts més diverses (idiomes, regions) per ampliar la cobertura i intervenció humana per corregir errors i ajustar etiquetes quan cal.
L’equip de desenvolupament està format per 3 homes (100 %), tots amb edats compreses entre els 25 i els 35 anys (100 %) i amb perfil professional de programador/enginyer de programari (100 %). |Són catalans i es declaren bilingües en català i castellà com a llengües maternes (100 %). | Altres dades rellevants: residència i activitat professional a Catalunya (100 %).
El resultat és automatitzat, però una persona n'ha fet una validació final.
L'Administració ha desenvolupat el sistema.
Sistema que comprova automàticament si els cultius declarats pels agricultors coincideixen amb la realitat observada per satèl·lit per validar les ajudes de la PAC.
Subdirecció General de Gestió i Control d'Ajuts Directes
Departament d'Agricultura, Ramaderia, Pesca i Alimentació
Llei 30/2022, de 23 de desembre, per la qual es regulen el sistema de gestió de la Política Agrícola Comuna i altres matèries connexes; Reial decret 1047/2022, de 27 de desembre, pel qual es regula el sistema de gestió i control de les intervencions del Pla estratègic i altres ajudes de la Política Agrícola Comun; Reial Decret 1048/2022, de 27 de desembre, sobre l’aplicació, a partir de 2023, de les intervencions en forma de pagaments directes i l’establiment de requisits comuns en el marc del Pla estratègic de la Política Agrícola Comuna, i la regulació de la sol·licitud única del sistema integrat de gestió i control; Reial decret 147/2023, de 28 de febrer, pel qual s’estableixen les normes per a l’aplicació de penalitzacions en les intervencions previstes en el Pla estratègic de la Política Agrícola Comuna, i es modifiquen diversos reials decrets pels quals es regulen diferents aspectes relacionats amb l’aplicació a Espanya de la Política Agrícola Comuna per al període 2023-2027
Agricultura, ramaderia, pesca i alimentació
El sistema recull imatges satel·litals i dades de les declaracions dels agricultors, les analitza automàticament i assigna un semàfor (verd, groc o vermell) a cada parcel·la segons si el cultiu declarat coincideix amb el real. Si hi ha dubtes, s’apliquen criteris de tolerància o es revisen les dades amb suport d’un expert. Només si persisteixen les discrepàncies, es fa una visita al camp.
El sistema de monitoratge utilitza tècniques de visió artificial i aprenentatge automàtic supervisat per identificar cultius a partir d’imatges satel·litals. També incorpora anàlisi estadística (índex de Tukey) i fotointerpretació per part d’experts. No s’empren tècniques d’aprenentatge no supervisat, per reforç ni IA generativa.
El sistema s’entrena amb dades històriques de declaracions d’ajuts validades, imatges satel·litals, informació geoespacial del SIGPAC i observacions recollides a camp. Aquest conjunt de dades permet entrenar models supervisats, per identificar cultius i contrastar-los amb les declaracions, adaptant-se a les condicions de cada comarca mitjançant zonificació ecològica.
La font de dades que utlitza el sistema són les dades declarades pels sol·licitants dels ajuts en la DUN de la campanya corresponent, juntament amb la informació satel·lital.
Persones sol·licitants d’ajuts de la PAC
L’aplicació del sistema de monitoratge aporta beneficis clars: millora l’objectivitat i la transparència en la gestió de les ajudes de la PAC, redueix els costos i la càrrega administrativa mitjançant l’automatització del control, permet focalitzar les inspeccions només on cal, ofereix una cobertura contínua de totes les parcel·les amb dades satel·litals i facilita la detecció anticipada de discrepàncies per part dels agricultors.
Tot i els avantatges, el sistema de monitoratge presenta riscos com la dependència de dades satel·litals, que poden veure’s afectades per núvols o buits temporals; per mitigar-ho, s’utilitzen fonts complementàries com Sentinel-1 (radar) i imatges de molt alta resolució (VHR). També existeix el risc d’errors en la classificació automàtica, especialment en parcel·les petites, heterogènies o amb cultius minoritaris; per això, s’apliquen criteris de tolerància i intervé el judici d’experts quan el sistema no pot oferir un resultat fiable. La complexitat del sistema pot generar incomprensió o desconfiança entre els agricultors, cosa que es pot contrarestar amb informació clara, canals d’al·legació i la possibilitat d’aportar fotografies. Finalment, per evitar biaixos o degradació del model, cal una actualització constant amb dades de veritat terreny representatives, recollides anualment segons criteris territorials i de cultiu.
El sistema de monitoratge genera semàfors (verd, groc o vermell) mitjançant un procés automatitzat. Aquesta classificació indica el grau de concordança entre allò declarat per l’agricultor i allò observat pel sistema, i constitueix una actuació administrativa automatitzada. Verd: el cultiu o l’activitat coincideix amb la declaració. Groc: hi ha dubtes; cal una actuació posterior, ja sigui de la persona sol·licitant o del persona tècnic de l'Administració. Vermell: discrepància clara; pot comportar l’exclusió o penalització si no es justifica. Aquest semàfor no resol l’expedient, però genera efectes administratius, ja que pot donar lloc a una notificació a la persona declarant, obrir un termini per presentar al·legacions o bé motivar una visita de control. Així doncs, es tracta d’un acte administratiu de tràmit aperò que preserva el dret de defensa de l’interessat, que pot adaptar la seva declaració o al·legar el que consideri oportú.
El sistema planteja les següents opcions en cas de discrepància entre el que s'observa pel sistema de monitoratge i el que ha declarat la persona sol·licitant en la seva declaració: Adaptar la seva declaració. Té l’opció de modificar la línia declarada per ajustar-la a la realitat (canviant, per exemple, el cultiu declarat o l’àmbit de superfície). Aportar fotografies geoetiquetades. Pot defensar la seva declaració inicial enviant fotos que demostrin el cultiu o l’activitat real a la parcel·la. Aquestes fotografies es revisen en una fase posterior per part dels tècnics. No fer res i esperar la revisió tècnica. Si no hi ha resposta, el sistema passa la línia a revisió i el personal tècnic revisa la informació disponible i, si cal, pot fer una visita presencial.
Bot de conversa d'intel·ligència artificial per millorar la productivitat i la redacció de continguts, i que es pot integrar a les aplicacions de Microsoft 365.
Secretaria de Telecomunicacions i Transformació Digital
Implementació de la intel·ligència artificial: https://administraciodigital.gencat.cat/ca/intelligencia-artificial/
Llei orgànica 3/2018, de 5 de desembre | Reglament (UE) 2016/679 del Parlament i del Consell, de 27 d'abril de 2016: https://portaljuridic.gencat.cat/ca/normativa/dret-a-catalunya/Codis-legislacio/codi-Administracio_digital_GenCat/#9--proteccio-de-dades
Productivitat | Bot de conversa | Eines corporatives
El bot de conversa de Microsoft Copilot és un assistent d’intel·ligència artificial generativa accessible per a tot el personal de la Generalitat a través del navegador. Permet fer consultes en llenguatge natural, generar textos, resumir informació o obtenir explicacions sobre conceptes, sempre sota supervisió humana. No accedeix a dades corporatives, només respon en funció de la conversa amb l’usuari o usuària. | A més, Copilot per a Microsoft 365 està disponible per a determinats perfils. Aquest s’integra dins de les aplicacions ofimàtiques (Word, Excel, Outlook, Teams, etc.) i accedeix als continguts que la persona usuària ja té oberts o autoritzats dins l’entorn Microsoft 365. A partir d’aquesta informació, pot generar resums, redactar textos, extreure dades o suggerir accions, transcriure i resumir reunions, entre d'altres funcionalitats. | L'eina permet estalviar temps, reduir tasques repetitives i millorar la qualitat dels documents, tot mantenint el control i la supervisió per part del personal públic i vetllant per la confidencialitat i la protecció de dades personals.
Copilot utilitza intel·ligència artificial generativa basada en models de llenguatge de gran capacitat (LLM), concretament GPT-4, desenvolupat per OpenAI i integrat per Microsoft. | El sistema aplica tècniques de processament del llenguatge natural (NLP) i xarxes neuronals profundes per generar textos, resums, taules i respostes contextualitzades dins les aplicacions de Microsoft 365. | No fa servir aprenentatge supervisat ni no supervisat en l’entorn corporatiu, ja que el model ja està preentrenat. L’arquitectura inclou integració amb Microsoft Graph, que permet accedir a la informació contextual (documents, correus, calendaris, etc.) de manera segura i controlada.
En el cas de Copilot Chat, el sistema funciona exclusivament a partir de les indicacions (prompts), els arxius i enllaços que introdueix la persona usuària durant la conversa. No accedeix a cap dada corporativa ni a documents interns. | En el cas de Copilot per a Microsoft 365, el sistema accedeix a les dades que la persona usuària ja té autoritzades dins l’entorn Microsoft 365, com ara documents de Word, fulls d’Excel, correus d’Outlook, calendaris o converses de Teams. Aquest accés permet generar respostes contextualitzades i útils per a la redacció, l’anàlisi o la gestió documental, sempre mantenint els permisos d’accés originals i la supervisió humana.
El Copilot Chat fa mesos que està en funcionament per a tots els usuaris i usuàries de la Generalitat de Catalunya. | En canvi, el Microsoft Copilot 365 s'està implementant de manera progressiva, actualment a uns 200 usuaris. Es preveu avaluar el rendiment de l'eina els mesos vinents.
Empleats públics de la Generalitat de Catalunya
Copilot tracta dades personals dels usuaris. En aquest sentit, únicament accedeix als continguts que l'usuari li facilita, en el cas del bot de conversa del navegador, i als quals l'usuari o usuària ja té permís dins l’entorn Microsoft 365, com ara documents, correus, calendaris o xats, en el cas de la versió avançada. | Aquesta informació es fa servir per generar respostes contextualitzades i útils, però mai no s’utilitza per entrenar els models d’intel·ligència artificial. | Copilot respecta els mateixos controls d’accés i permisos que els documents, correus o xats originals, i no mostra mai informació d’altres persones si no hi tenen accés prèviament. | A més, Microsoft aplica mesures estrictes de seguretat i privacitat, com ara la detecció de contingut protegit, la prevenció d’atacs per injecció d'indicacions (prompts) i el compliment de la normativa de protecció de dades.
1. Millora de l’eficiència: l’eina permet resumir correus, generar presentacions, extreure dades i preparar continguts de manera automàtica, entre d’altres. Per tant, redueix el temps dedicat a tasques repetitives i l’empleat públic pot destinar aquest temps a tasques més estratègiques i de valor afegit. | 2. Millora de la qualitat: com que l’eina té en compte la informació que té l’usuari al Microsoft 365, ajuda a redactar continguts més estructurats, coherents i adaptats al context, millorant la comunicació interna i externa. | 3. Suport a la presa de decisions: proporciona resums i anàlisis que poden ajudar a preparar reunions, informes o respostes administratives.
1. Excés de confiança en les capacitats de l’eina: Els usuaris poden esperar que Copilot no cometi errors o que pugui substituir completament la redacció manual. Per mitigar-ho, s'han dut a terme accions de formació i sensibilització (a través de la iniciativa GenOffice), es publicaran bones pràctiques d’ús i es reforçarà el missatge que els resultats han de ser sempre revisats. | 2. Generació de contingut incorrecte o fora de context: Copilot pot generar textos que no s’ajusten al propòsit administratiu o que contenen errors. Per evitar-ho, es recomana revisar sempre els resultats abans de fer-los servir i limitar l’ús de l’eina a tasques de suport, no de decisió. | 3. Revelació involuntària d’informació: Si s’utilitza Copilot amb documents que contenen dades sensibles, podria generar respostes que les exposin. Per prevenir-ho, es reforçaran les polítiques d’ús responsable i es limitarà l’ús en entorns amb dades especialment protegides. | 4. Fuita de dades: Tot i que Microsoft aplica mesures de seguretat avançades, existeix el risc de vulnerabilitats. Per mitigar-ho, es farà seguiment del compliment de les polítiques de seguretat i privacitat. | 5. Ús desigual o inadequat de l’eina: Sense una formació adequada, pot haver-hi diferències en l’ús o un ús excessiu i innecessari. Per evitar-ho, es desplegaran materials formatius adaptats als diferents perfils i es monitorarà l’ús per detectar desviacions. | 6. Confusió sobre l’autoria dels continguts: Pot no quedar clar si un text ha estat generat per Copilot o per una persona. Per mitigar-ho, es recomana identificar clarament els continguts generats amb assistència.
Microsoft Ireland Operations Ltd. | One Microsoft Place, South County Business Park, Leopardstown | Dublin 18, D18 P521, Irlanda
Eina per detectar i generar de forma automàtica polígons de les zones afectades per patrons de moviment del terreny, que sota aproximacions basades en intel·ligència artificial s'ha anomenat Àrees de Deformació Activa (ADA).
Institut Cartogràfic i Geològic de Catalunya
Departament de Territori, Habitatge i Transició Ecològica
Contracte programa entre l’Administració de la Generalitat de Catalunya, mitjançant el Departament de Territori, i l’Institut Cartogràfic i Geològic de Catalunya, per al període 2023-2026: https://www.icgc.cat/ca/LICGC/Sobre-lICGC/Presentacio
Medi ambient|Territori, infraestructures i urbanisme
Radar | Interferometria | Subsidència | Moviment del terreny
Aquesta metodologia analitza tots els punts mesurats i detecta aquells afectats per qualsevol patró de moviment. | Posteriorment compara aquests punts per agrupar-los en funció de les similituds de les seves sèries temporals, i crear uns polígons que representen l’àrea afectada pel moviment juntament amb informació estadística i la sèrie temporal mitjana dels diferents punts que conformen el polígon. | Els resultats PSI (Persistent Scatterer Interferometry) proporcionen una gran quantitat de punts de mesura sobre àrees extenses. Això, que suposa sobre tot un gran avantatge, també fa que sigui complex i costós, en recursos de temps i dedicació, l’anàlisi de tots els patrons de moviment d’una forma manual, ja que s’haurien de visualitzar tots els punts mesurats.
Anàlisi de clústers i autocorrelació de les sèries temporals de moviment.
És un sistema no supervisat, no necessita dades d'entrenament.
Sèries temporals provinents del Servei de Mesures del Moviment del Terreny: https://visors.icgc.cat/moviment-del-terreny
Personal de la Unitat de Prevenció i Intervenció en Riscos Geològics de l'Institut Cartogràfic i Geològic de Catalunya i ciutadania en general.
Es disposa d’una informació simplificada i totalment enfocada a les zones de moviment, que permet una anàlisi ràpida de grans zones del territori.
Es tracta d'una eina de suport per ajudar a interpretar les dades del visor de moviments del terreny. L'anàlisi i interpretació final de les possibles causes dels moviments del terreny detectats els realitza sempre per part d'una persona experta.
L'Equip de desenvolupament que ha participat en alguna part del desenvolupament està format per personal tècnic de l'ICGC: | Gènere: 3 homes. | Edat: 1 major de 40 anys i 2 majors de 50 anys. | Perfil professional: Enginyeria Superior de Telecomunicacions i Grau en Física. | Llengua materna: 2 català, 1 castellà.
El visor públic disposa d'un enllaç de contacte: https://www.icgc.cat/ca/Contacte
Institut Cartogràfic i Geològic de Catalunya | Parc de Montjuïc s/n | 08038 Barcelona.
CertiflIA - Identificador d'artefactes en les imatges aèries
Sistema que analitza les imatges aèries de l'Institut Cartogràfic i Geològic de Catalunya per detectar artefactes com núvols o fum que dificulten la visió del territori.
Anàlisi d'imatges | Teledetecció | Imatges aèries
El sistema es basa en xarxes neuronals profundes (deep learning) per detectar anomalies en les fotografies aèries, com ara núvols, fum o ombres. | Aquest sistema ha estat entrenat amb milers d’imatges perquè aprengui a reconèixer patrons que no corresponen al terreny real, a partir dels valors de llum i color (radiometria). Per exemple, sap que els núvols són molt blancs i les ombres molt fosques. | Tot i que aquest tipus de sistemes funcionen com una “caixa negra” —és a dir, no podem saber exactament com prenen cada decisió—, això no és un problema crític, ja que les imatges marcades com a sospitoses són sempre revisades per un operador humà. Aquesta supervisió garanteix la qualitat i fiabilitat del procés. | A més, el sistema permet estalviar molt de temps i recursos, ja que l’operador només ha de revisar les imatges que el sistema ha identificat com a potencialment problemàtiques, i no totes les que es generen durant els vols.
Imatges aèries del repositori del proveïdor del programari.
Imatges aèries dels vols que realitza l'Institut Cartogràfic i Geològic de Catalunya (ICGC).
El sistema té un percentatge d'encert diferent segons la tipologia d'artefacte a detectar. | En detecció de núvol el percentatge és pràcticament del 100%, però per detectar imatges borroses és del 80%.
Personal de l'Institut Cartogràfic i Geològic de Catalunya
El sistema optimitza significativament el temps i els recursos dedicats a la revisió d’imatges aèries, ja que permet focalitzar l’atenció dels operadors únicament en aquelles imatges que presenten indicis de possibles anomalies.| Aquesta automatització no només incrementa l’eficiència dels processos tècnics dins l’administració, sinó que també contribueix a una resposta més àgil i precisa en la generació d’informació territorial de qualitat, amb impacte positiu en serveis públics que en depenen, com la planificació urbanística, la gestió ambiental o la protecció civil.
El risc d'aquest sistema són els falsos postius i es resol a través de la revisió humana, per la qual cosa el risc és mínim.
El proveïdor del programari entrena el sistema amb imatges de diferents temporades, resolucions i sensors per assegurar que el sistema no introdueix biaix en cap conjunt de dades específic.
OPEGIEKA Sp. z o.o. | Aleja Tysiąclecia 11 | 82-300 Elbląg, Polònia
L'Administració ha comprat el sistema i ha fet un procés per integrar-lo internament.
Sistema probabilístic de predicció meteorològica que utilitza l’aprenentatge automàtic per generar pronòstics d’ensemble.
Predicció meteorològica: https://www.meteo.cat/wpweb/divulgacio/la-prediccio-meteorologica/
AIFS ENS v1 rep com a entrada els camps meteorològics d’anàlisi del Centre Europeu de Prediccions Meteorològiques a Mitjà Termini (ECMWF). Sobre aquests, un model de xarxa neuronal entrenat per aprendre la distribució de possibles desviacions respecte al pronòstic determinista. | A partir d’aquesta distribució es mostregen aleatòriament diverses pertubacions de les condicions inicials i cada realització s’integra amb el model físic numèric per generar un membre de l’ensemble. El conjunt de membres ofereix una predicció probabilística que captura la incertesa en l’evolució futura del temps.
Model numèric base: IFS (Integrated Forecast System) de l’ECMWF. | Aprenentatge automàtic: xarxa neuronal profunda (TensorFlow/PyTorch) per modelar la distribució d’incertesa. | Mostreig: mètode Monte Carlo per generar pertubacions de les condicions inicials. | Resolució espacial i temporal: igual que l’IFS (tip. ~9 km, 1 hora). | Implementació: Python, amb integrates de pre i postprocessament en NumPy, xarray i Dask. | Infraestructura: clusters HPC de l’ECMWF i GPU per a l’entrenament de la xarxa neuronal. |
Sèries històriques: s’utilitzen dades d’anàlisi de reanàlisi (per exemple, ERA5) i sortides del model determinista IFS corresponents als darrers 10–20 anys. | Diferències observades: es calculen les diferències (“errors”) entre els pronòstics de l’IFS i les anàlisis observades, agrupades per regió, estació de l’any i condicions meteorològiques. | Variables: inclou temperatura, vent (components u i v), humitat, pressió, precipitació i camps de superfície com l’albedo i la humitat del sòl.
Camps d’entrada en temps real: camps d’anàlisi de l’IFS provinents de l’ECMWF, actualitzats cada 6 hores aproximadament. | Metadades del model: inclouen informació sobre la resolució, la data i hora d’inici de la simulació i la configuració física emprada. | Condicions de frontera i observacions: dades del model oceanogràfic i observacions assimilades que s’utilitzen per a la correcció posterior del pronòstic.
Brier score per probabilitats de precipitació: millora del 0,02 punts. | Spread–skill relationship: elevada coherència entre dispersió de l’ensemble i error mitjà. | Fiabilitat: diagrama fiable per esdeveniments extrems (> 95 percentil).
Equip de predicció i vigilància del Servei Meteorològic de Catalunya
1. Millora de la precisió probabilística: Ofereix distribucions completes de possibles escenaris meteorològics, no només una única solució puntual. | 2. Gestió refinada de la incertesa: Quantifica explícitament la incertesa, cosa que permet prendre decisions més informades segons nivells de risc. | 3. Resposta més àgil a esdeveniments extrems | 4. Detecta millor la probabilitat d’esdeveniments rars (tempestes intenses, calorades, etc.) i augmenta l’avís precoç. | 5. Retorn d’infromació continu: Mesures de rendiment (CRPS, Brier score, spread–skill) permeten reentrenaments i ajustaments periòdics per mantenir o millorar la qualitat. | 6. Compliment regulatori lleuger: Encara que aporta IA avançada, s’enquadra com a risc mínim sota l’AI Act europeu, simplificant requisits de governança i transparència.
1. Error o biaix en dades d’entrenament: davant d'aquest risc, es potencia la qualitat i diversitat de les dades. | 2. Sobreconfiança en prediccions extremes: en esdeveniments crític, hi ha supervisió humana que actua com a mesura mitigadora. | 3. Manca d’explicabilitat: davant dels possibles problemes de comprensió de l'eina, s'aposta per la transparència i documentació.
AIFS ENS v1 ha estat desenvolupat íntegrament pel Centre Europeu de Prediccions Meteorològiques a Mitjà Termini (ECMWF), concretament pel seu equip d’investigació en aprenentatge automàtic i modelització probabilística de conjunts de predicció.
ECMWF (Centre Europeu de Prediccions Meteorològiques a Mitjà Termini) és un organisme intergovernamental i un centre de recerca col·laboratiu fundat el 1975
Transcriptor d'entrevistes d'intervenció social - wSocial
Eina de transcripció veu a text d'entrevistes d'intervenció social de les Àrees Bàsiques de Serveis Socials, sense enregistrar la gravació. Té capacitat per a fer la traducció al vol des de fins a 20 idiomes, que s'aniran incorporant, al català. A més, fa un resum en català dels aspectes més destacats de l'entrevista.
Pla de Transformació Digital del Departament de Drets Socials i Inclusió: https://espai.dretssocials.gencat.cat/serveis/electronica/PlatransformacioDigital/Pagines/default.aspx
Serveis socials | Intervenció social | Àrees Bàsiques de Serveis Socials | Veu a text | Entrevista | Traducció
Sistema per transcriure (convertir la veu en text), diaritzar (identificar qui és la persona que parla) i traduir a diversos idiomes entrevistes en temps real. | La conversa s'inicia per a dos idiomes concrets (l'idioma de l'entrevistador i el de l'entrevistat), i comença enregistrant un petit àudio de la veu de l'entrevistador per tal de poder-la identificar posteriorment. | Un cop iniciada l'entrevista, el sistema rep constantment l'àudio i realitza diversos processos: | 1. Segmenta l'àudio rebut a partir de les pauses i silencis identificats. Per a cada segment: | a) Utilitza un model d'IA per generar el text que representa la transcripció de la conversa. b) Utilitza un altre model d'IA per extreure les característiques de la veu de cada parlant amb l'objectiu de diferenciar entre l'entrevistador i els entrevistats. | 2. Finalment, tradueix la transcripció a l'idioma oposat del parlant. | El resultat es compara amb els àudios rebuts anteriorment per verificar-ne l'exactitud i, si cal, descartar segments antics. | Un cop finalitzada la conversa, es desa la transcripció completa així com un resum de la mateixa.
El nucli de la plataforma resideix en els models d'IA especialitzats que s'utilitzen i en l'orquestració que assegura que les dades que aquests reben siguin òptimes. | 1. Per a la transcripció, s'utilitza un model de reconeixement de parla de codi obert (“Speech Recognition”), entrenat mitjançant “Large-Scale Weak Supervision”. | 2. Per a la diarització, s'utilitza un model de xarxa neuronal de codi obert. | 3. Per a la traducció i resum, s'utilitza un LLM amb instruccions específiques per a la traducció als idiomes seleccionats. | Aquests models s'integren i assoleixen el rendiment esperat gràcies a una tasca d'orquestració que optimitza i postprocessa l'entrada i sortida de cada tasca: | 1. Per a la transcripció, s'utilitza un sistema de "finestra mòbil" per treballar sobre una part reduïda de l'àudio, de manera que els temps de resposta es mantinguin baixos independentment de la durada de l'entrevista, però conservant prou context perquè la qualitat sigui l'esperada. | 2. Per a la diarització, s'identifiquen els segments òptims de cada parlant mitjançant un sistema de detecció de frases completes desenvolupat i ajustat específicament per a aquest tipus d'entrevistes. | 3. Per a la traducció, es combinen els resultats dels models anteriors i, mitjançant una sèrie d'instruccions optimitzades per al cas d'ús, es genera una traducció a l'idioma desitjat. | Finalment, un model LLM, amb el suport d’un altre conjunt d'instruccions, s'utilitza per generar un resum detallat de tota la conversa un cop aquesta ha finalitzat.
El sistema s'ha entrenat inicialment a partir de centenars d'entrevistes a les Àrees Bàsiques de Serveis Socials recollides amb el consentiment dels ciutadans.
Veu de les persones entrevistades per les Àrees Bàsiques de Serveis Socials de Catalunya, que es transforma a text a través de l'eina. | En aquest sentit, els resultats es perfeccionen a través dels conceptes de l'SNOMED CT (Systematized Nomenclature of Medicine – Clinical Terms), la terminologia clínica integral i també terminologia social, multilingüe i codificada de major amplitud, precisió i importància desenvolupada en el món. | L’Extensió Catalana d’SNOMED CT és mantinguda i distribuïda per l’Àmbit d’Interoperabilitat i Tecnologies de la Fundació TIC Salut Social, que prové de les diferents versions internacional i espanyola de l’SNOMED CT. | Catàlegs de subconjunts i Diccionari projecte Intersocial amb conceptes socials SNOMED CT de problemàtiques, observacions, respostes i factors de l’àmbit social.
Persones usuàries de les Àrees Bàsiques de Serveis Socials
El sistema tracta dades de caràcter personal amb el consentiment informat del ciutadà.
1. Humanitza la intervenció social. El professional es pot dedicar a atendre directament la persona i escoltar activament la seva situació, sense preocupar-se d'estar prenent de prendre notes i fer-ne un resum. | 2. Recull la informació i el resum de l'entrevista automàticament, facilitant la feina al professional i garantint que es recull tot el conjunt de l'entrevista, a la vegada que la persona pot modificar el contingut. | 3. Permet converses bilingües sense necessitat de traductor, aportant intimitat a la persona atesa, ja que no és necessària la presència d'una tercera persona (traductor o traductora).
1. Consentiment del ciutadà: El sistema tracta dades personals, algunes de les quals poden ser especialment sensible, així que és necessari comptar amb el consentiment del ciutadà per complir amb la normativa. Per a resoldre-ho, al principi de l’entrevista, es demana la signatura d’un consentiment informat. | 2. Seguretat de la informació: la informació està correctament protegida gràcies a mesures específiques en matèria de ciberseguretat i un control de rols i permisos per gestionar els accesos. | 3. Protecció de drets fonamentals: per tal d'assegurar la correcta protecció dels drets fonamentals (com la no-discriminació o la confidencialitat de les dades personals), s'aplicaran les mesures de control i seguretat que evitin biaixos o resultats desiguals, permetent la traçabilitat de les decisions preses. | Mesura per mitigar-los: | 1. Supervisió del professional en la decisió final.
Per evitar biaixos, els resultats són revisats per part de la Direcció General de Serveis Socials a través d'un mostreig.
Minsait | C. Roc Boronat, 133 | 08018 Barcelona
Pressupost del Departament de Drets Socials i Inclusió
Ajustament del pronòstic de temperatura mitjançant DRN (Distibutional Regresion Network)
El sistema postprocessa el pronòstic de temperatura de models metorològics a partir d'un històric d'observacions. Això permet obtenir un pronòstic més ajustat.
El sistema es basa en postprocessar un pronòstic de temperatura que prové d'una predicció per conjunts. Com que és una predicció per conjunts, té una distribució de valors associada i és aquesta la que s'ajusta, per així poder oferir un pronòstic més acurat.
Les Distributional Regression Network (DRN) es basen en l'ús de xarxes neuronals denses (DNN) i que tenen com a objectiu ajustar els paràmetres d'una distribució. | La xarxa neuronal que s'utilitza consta de 3 capes amb forma d'embut amb 15 entrades de dades i dues de sortida (aquestes corresponents als paràmetres de la distribució). | Tot s'ha fet amb Python i les llibreries Keras i Tensorflow.
Model entrenat amb dades de prediccions per conjunts (ensemble) de temperatura i observacions de la Xarxa d'Estacions Meteorològiques Automàtiques del Servei Meteorològic de Catalunya. | Les dades per a l'entrenament corresponen al període 2022-2025. | No inclou cap dada sensible.
Dades de model/prediccions per conjunts (ensemble) de temperatura.
L'objectiu del producte era millorar-ne els existents i així s'ha assolit. | Per al pronòstic de temperatura s'obté un error absolut mitjà (MAE) de 1.05ºC, en comparació a l'anterior mètode que obtenia un MAE de 1.47ºC.
Àrea de Recerca Aplicada i Modelització del Servei Meteorològic de Catalunya
1. Millora de la precisió probabilística: Ofereix distribucions completes de possibles escenaris meteorològics, no només una única solució puntual. | 2. Gestió refinada de la incertesa: Quantifica explícitament la incertesa, cosa que permet prendre decisions més informades segons nivells de risc. | 3. Resposta més àgil a esdeveniments extrems | 4. Detecta millor la probabilitat d’esdeveniments rars (onades de fred, calorades, etc.) i augmenta l’avís precoç. | 5. Retorn d’infromació continu: Mesures de rendiment (CRPS, histogrames de rang) permeten reentrenaments i ajustaments periòdics per mantenir o millorar la qualitat.
S'ha desenvolupat íntegrament al Servei Meteorològic de Catalunya. | L'equip està format per 4 persones, totes de gènere masculí, amb una edat compresa entre els 31 i els 50 anys i amb el català com a llengua materna.
AsessorIA - Assistent d'informes tècnics en autoritzacions d'activitats al medi natural
Sistema basat en intel·ligència artificial generativa per facilitar l’eficiència en la redacció d’informes tècnics per l’autorització d’activitats que poden afectar el medi natural, com ara curses de muntanya, aprofitaments forestals o permisos de vol de drons.
Direcció General de Polítiques Ambientals i Medi Natural
Preservació del medi natural: https://territori.gencat.cat/ca/01_departament/estrategia/eixos-estrategics/preservacio-del-medi-natural/index.html
IA Generativa | Suport a la presa de decisions | Eficiència
La Direcció General de Polítiques Ambientals i Medi Natural ha desenvolupat una eina basada en IA generativa per millorar l’eficiència en la redacció d’informes tècnics de les sol·licituds anuals relacionades amb activitats que poden afectar el medi natural. | El projecte, impulsat conjuntament amb el Centre de Telecomunicacions i Tecnologies de la Informació (CTTI), es va iniciar amb una prova pilot centrada en les autoritzacions per a curses en espais naturals protegits. Aquestes activitats, en augment, requereixen una anàlisi detallada per garantir la protecció dels hàbitats i espècies sensibles. | L’eina desenvolupada és capaç de resumir automàticament les sol·licituds amb llenguatge natural, identificar espècies i hàbitats potencialment afectats segons el recorregut i recollir la normativa aplicable i les condicions tècniques per a l’autorització. | Actualment, l’eina s’està integrant amb el Sistema d'Informació de la Natura de Catalunya (SINATCAT) i es preveu la seva extensió a altres tipologies d’informes durant el segon semestre de 2025. | Sobre el funcionament concret, l’usuari tècnic accedeix a l’eina des de l’aplicació SINATCAT mitjançant autenticació i un rol específic. Un cop dins, carrega dos fitxers: | 1. La sol·licitud d’activitat (document administratiu). | 2. El fitxer de ruta (format GPX amb el recorregut proposat) | A partir d’aquesta informació, el sistema: | 1. Processa la sol·licitud i la ruta, creuant-les amb capes geogràfiques (fitxers Shapefile) que contenen dades sobre espècies protegides, hàbitats sensibles, figures de protecció (ENPE, PEIN, Xarxa Natura 2000) i altres elements ambientals. | 2. Genera un informe tècnic en català, amb un resum de la sol·licitud, l'anàlisi de la ruta i les zones afectades i detallant condicions específiques a aplicar (sobre traçat, avituallaments, riscos, etc.) | L’eina garanteix la protecció de dades sensibles mitjançant un sistema de pseudonimització de les espècies abans d’enviar la informació al model d’IA, i posterior reversió del procés amb un diccionari intern. | A més, el sistema automatitza la selecció de capes Shapefile segons l’època de l’any, aplica criteris d’estil i format unificats per als informes i permet descarregar l’informe final en format compatible amb Microsoft Office.
L’eina d’IA Generativa per a la generació d’informes tècnics ambientals s’ha implementat sobre una arquitectura modular basada en serveis d’Azure, utilitzant models de llenguatge extens (LLM) d’OpenAI per a la redacció en llenguatge natural i Redis com a base de dades vectorials per a l’emmagatzematge d’embeddings. | El sistema processa fitxers PDF de sol·licitud (anonimitzats) i fitxers GPX de rutes, creuant-los amb capes geogràfiques Shapefile per identificar interseccions amb zones protegides. Aquestes dades es tracten algorísmicament fora del model per garantir la privacitat, i només s’envien al sistema els resultats anonimitzats. | Els documents normatius es vectoritzen amb el model” text-embedding-ada-002” i s’utilitzen per generar consideracions tècniques mitjançant prompting avançat (prefix, sufix i few-shot). | L’aplicació es desplega mitjançant Azure Container Apps, amb accés restringit via intranet i integració amb serveis com OpenStreetMap i e-Formularis. El sistema és accessible via interfície Streamlit i permet generar informes estructurats, amb mapes i condicions legals, en català, optimitzant temps i homogeneïtzant criteris tècnics.
L’eina no es basa en un entrenament específic del model d’IA amb dades pròpies. En lloc d’això, utilitza un enfocament basat en prompt engineering i recuperació de coneixement contextual mitjançant embeddings.
Les dades que utilitza l'eina són: | 1. Informes anteriors de la mateixa casuística. | 2- Capes Shapefile de les figures de protecció i dels elements de conservació afectats. | 3. Fitxers de càlcul amb les condicions a tenir en compte per les autoritzacions.
L'eina triga entre 2 i 3 minuts en donar resultats i s'ha observat que la descripció feta i els algorismes funcionen correctament.
Empleats públics de la Direcció General de Polítiques Ambientals i Medi Natural
L’eina garanteix la protecció de dades protegides mitjançant un sistema de pseudonimització de les espècies abans d’enviar la informació al model d’IA, i posterior reversió del procés a través d'un diccionari intern.
1. Estalvi de temps i recursos tècnics: L’eina automatitza la redacció d’informes, reduint fins a un 45% el temps dedicat a tasques repetitives. Això permet als tècnics centrar-se en casos més complexos i en tasques de major valor afegit. | 2. Homogeneïtzació de criteris i qualitat dels informes: Els informes generats segueixen un format i estil unificat, amb continguts clau ben estructurats, reducció de redundàncies i informació objectiva, millorant la coherència entre documents. Això és important en una direcció general amb molta desconcentració de les activitats de gestió preventiva (entre parcs i serveis territorials). | 3. Integració de dades geogràfiques i normatives: L’eina creua automàticament les rutes amb capes shapefile ambientals i consulta normativa vigent emmagatzemada en forma d’embeddings, generant consideracions tècniques contextualitzades i precises. 4. Privacitat i seguretat de la informació | Les dades sensibles, com ara espècies protegides, es pseudonimitzen abans de ser processades pel sistema, garantint que no es comparteixi informació confidencial amb sistemes externs.
1. Pèrdua d’informació rellevant: El model pot ometre dades que els tècnics consideren importants per a la valoració d’una sol·licitud. Això pot afectar la qualitat de l’informe si la informació obviada és crítica per a la presa de decisions. | 2. Subjectivitat en la selecció de continguts: El sistema pot interpretar de manera diferent quina informació és rellevant, generant resums que no sempre s’ajusten a les expectatives dels tècnics o als criteris administratius establerts. | 3. Dependència del disseny de la indicació o prompt: La qualitat de les respostes generades depèn fortament de la formulació de les indicacions, de tal manera que un mal disseny pot provocar errors o respostes imprecises. | 4. Risc de filtració d’informació sensible: Tot i que s’ha implementat un sistema de pseudonimització i encreuament algorísmic fora del model, existeix el risc potencial que, si no es manté aquest control, es pugui exposar informació sobre espècies protegides o zones sensibles.
Es considera que aquesta eina no té un impacte en tant que ni en l'àmbit tècnic ni en la relació amb la ciutadania es fa cap mena de distinció de l'usuari segons aspectes de gènere, edat, origen, etcètera. Per aquest motiu no s'han pres mesures en relació amb aquesta dimensió.
L'eina s'ha desenvolupat per part de Minsait i un equip format per persones de la Secció d'Informació i Coneixement i de Serveis Territorials de Girona
Minsait | Carrer de Roc Boronat, 133, Sant Martí | 08018 Barcelona
Algorismes per anatomia patològica digital-Prj DIGIPATICS en pilotatge
Aplicació d'algoritmes de processament d'imatge i d'IA sobre la imatge digitalitzada de la mostra d'Anatomia per donar suport als anatomopatòlegs al diagnòstic. En particular als processos de - Receptors d'estrògens - Receptors de progesterona - Her2 - Ki67
Serveis de Sistemes d'Informació i d'Anatomia Patològica de l'Institut Català de la Salut
Intel·ligència Artificial | Diagnòstic mèdic | Anatomia patològica | Receptors hormonals | Her2
El sistema utilitza xarxes neuronals per analitzar imatges digitalitzades de mostres histològiques. En el cas de mostres de mama, concretament processa els següents marcadors: receptors d'estrògens i progesterona, Her2 i Ki67. També analitza mostres amb càncer de pulmó tenyides amb Hematoxilina-Eosina (HE) per donar suport al càlcul del percentatge tumoral. Els algorismes desenvolupats detecten i classifiquen les cèl·lules segons les seves característiques específiques, donant un resultat de quantificació al patòleg. Els professionals veuen en el visor cada cèl·lula classificada i el càlcul del biomarcador corresponent dins d’una zona seleccionada. Actualment, es troben en desenvolupament altres algorismes, com la detecció de zones tumorals en mostres de mama tenyides amb HE, així com l’anàlisi de mostres de teixit gàstric amb tècniques SISH i FISH.
Interfície: Estació de visualització del patòleg Tipus d’Aprenentatge Automàtic: Supervisat Tècnica d'Aprenentatge Automàtic: Xarxes Neuronals Llenguatge de programació: Python Estàndard de codificació: Python Enhancement Proposals (PEP8)
Models entrenat amb aproximadament 500 casos que inclouen mostres completes (WSI) digitalitzades dels 8 hospitals ICS, incloent-hi histopatologia rutinària, immunohistoquímica, histoquímica, immunofluorescència directa, FISH i SISH. Els datasets comprenen tincions H&E, HER2, KI67, RE, RP i altres tincions immunohistoquímiques, amb dades dissociades d'identificatius personals i emmagatzemades al repositori central SIMDCAT. L'entrenament es realitza exclusivament dins la infraestructura ICS sense transferència d'informació a sistemes externs.
La font de dades són imatges digitals de làmines de rutina en patologia (histopatologia, immunohistoquímica, histoquímica, immunofluorescència directa, SISH i FISH) provinents de diferents hospitals de l'Institut Català de la Salut.
La mètrica utilitzada correspon a la validació dels casos realitzada pels patòlegs experts. No es van detectar pèrdues de teixit ni errors significatius.
Els usuaris finals són professionals sanitaris, especialment patòlegs.
El sistema tracta dades de caràcter personal
El sistema d'IA millora la qualitat i seguretat dels diagnòstics per als pacients, garantint l'equitat i reduint el temps de resposta. Per a l'Administració, optimitza l'eficiència operativa, redueix costos de transport de material biològic i millora l'aprofitament dels recursos especialitzats entre hospitals. També impulsa la innovació tecnològica amb el desenvolupament d'algoritmes d'IA propis i la creació d'un gran repositori d'imatges per a recerca futura.
S'identifiquen riscos operacionals com temps d'inactivitat i avaries d'escàners, reduïts mitjançant planificació amb contingències i desplegament d'equips redundants. Els riscos tècnics d'encallaments es minimitzen amb preparacions histològiques de qualitat òptima i portaobjectes adequadament preparats. Per als riscos d'infraestructura, s'implementen sistemes d'alta disponibilitat amb configuracions actiu-passiu, RAID, replicació de dades i còpies de seguretat automàtiques via Veeam i SIMDCAT. Els riscos de rendiment es mitiguen amb connexions d'alta velocitat (10 Gbps i 1 Gbps) i infraestructura WAN dedicada per suportar 6 TB de flux nocturn. Finalment, els riscos de seguretat es controlen mantenint totes les dades dins la infraestructura ICS amb xarxes aïllades i accés restringit a dades sensibles.
Fons Europeu de Desenvolupament Regional (FEDER)
Traducció de subtitols del català a altres idiomes (castellà, angles, italià, portugues, alemany i frances)
A partir del subtitol en català es generen subtitols en altres idiomes de manera automatica amb el sistema de traducció de google.
Corporació Catalana de Mitjans Audiovisuals, SA
"Accessibilitat", "idiomes","castellà", "angles", "italià", "portugues", "alemany","frances"
A partir del subtitol en català s'envia al sistema de google translate per generar subtitols en altres idiomes.
Motor de Recomanacions de continguts basat en filtre col·laboratiu
A la plataforma 3Cat (www.3cat.cat) hi ha un modul/baula amb una selecció de continguts recomanat per cada persona que ha fet login en la plataforma. Aquest modul/baula es mostra en la versió web, SmartTV i apps mobils de la plataforma 3Cat sempre que la persona estigui logada.
"Recomanació continguts","personalització"
El sistema es basa en la plataforma Big Data de la CCMA,SA. És una plataforma que es va començar a construir al 2016 i actualment està en modalitat SaaS en infraestructura dedicada i operada per l'empresa Nextret SL. Està fisicament al CPD de Nextret (Tier III) ubicat fisicament al Tecnocampus de Mataró. (Licitació CCMA: 2207OB07)
La tecnologia principal és un sistema de recollida de informació amb Node.js, Kafka, Spark, Elastic i S3. I un sistema de generació de recomanacions en batch amb python i diferents llibreries per implementar un sistema de filtre col·laboratiu
Les dades que s'utilitzen per generar les recomanacions son totes les visualitzacions de videos i audios dels productes propis de la CCMA,SA. Es a dir, qualsevol usuari que fa play en un video o audio en alguna de les aplicacions digitals (web, SmartTV o apps mobils) de la CCMA,SA es recull i és la informació que s'utilitza per generar les recomanacions
Els espectadors i oients de la plataforma 3Cat
Time decay. També s'incorpora feedback usuari (si ha vist el video des de les recomanacions o no).
El sistema de recomanacions es va fer amb una concurrencia publica al 2017 (licitació: 17040R07) que va guanyar l'empresa Kernel Analytics i que es va anar fent successives fases.
Generació audiodescripció en talls de noticies dels TNs on la persona parla amb idioma original
Actualment, en els TNs quan hi ha una noticia on la persona parla en un idioma que no és el català es deixa l'idioma original (angles, frances, rus,...), es rotula en català per a que la gent pugui entendre (llegint) el que està dient la persona i en canal d'audiodescripció de la TDT es genera un audio sintetic en català per la gent que té problemes visuals pugui entendre el que està dient la persona que surt a la noticia
El sistema envia el text en català del que està dient la persona en el idioma original a un sistema de text-a-veu que genera una veu sintetica en audio. Aquest audio s'associa a la noticia i permet escoltar el text de la noticia. S'utilitza la veu Arlet de Amazon Polly
Accessibilitat per persones amb discapacitat visual
Sistema d'IA per millorar l'atenció als pacients crítics mitjançant detecció precoç, seguiment continuat i suport a la presa de decisions clíniques.
Hospital Universitari de Bellvitge (HUB) i Consorci Corporació Sanitària Parc Taulí de Sabadell
Sí, vinculació amb polítiques de millora de l’atenció hospitalària i eficiència sanitària.
"UCI estesa", "Medicina intensiva","Suport a la decisió clínica","Detecció precoç"
El sistema integra dades de diversos sistemes clínics (SIC, laboratori, HIS) per generar alertes i algorismes que donen suport a la presa de decisions. És un sistema interpretable, ja que es basa en dades clíniques validades i protocols mèdics.
El sistema utilitza algoritmes intel·ligents entrenats amb dades clíniques històriques, processa informació assistencial en temps real, s’integra amb els sistemes d’informació hospitalària i proporciona suport a la presa de decisions mèdiques.
Dades històriques dels Sistemes d’Informació Clínica (SIC) de les UCI dels hospitals participants.
Dades assistencials actuals dels pacients hospitalitzats i/o ingressats en la UCI, ntegrades en temps real des de sistemes com el laboratori i el HIS.
Pacients crítics hospitalitzats, especialment aquells amb risc de deteriorament clínic greu
Sí, el sistema tracta dades personals de salut dels pacients.
L’ús del sistema permet reduir la mortalitat i els reingressos hospitalaris, millorar la qualitat assistencial, optimitzar els recursos sanitaris, donar suport a la presa de decisions clíniques i afavorir una millor comunicació entre els professionals de la salut.
Possibles errors en la detecció precoç | Dependència tecnològica | Riscos mitigats mitjançant supervisió humana i validació científica.
L'equitat es basa amb una no discriminació per tipologia de pacient durant l'entrenament. No s'han fet entrenaments discriminat cap col·lectiu. Es basen en dades històriques.
Hospital Universitari de Bellvitge (HUB) i Consorci Corporació Sanitària Parc Taulí de Sabadell amb T-SYSTEMS.
Automatització de l’informe de pobresa energètica
És un servei en línia que ajuda els ajuntaments a preparar de manera ràpida i uniforme els informes que acrediten si una persona o família té dificultats econòmiques i està en risc de quedar-se sense llum, gas o aigua. Les companyies subministradores demanen aquests informes per evitar talls de subministrament a persones vulnerables per falta de pagament.
Àmbit: pobresa energètica i serveis socials (emissió d’informes conforme a Llei 24/2015, del 29 de juliol, de mesures urgents per a afrontar l'emergència en l'àmbit de l'habitatge i la pobresa energètica.) : https://www.aoc.cat/ia-transparencia-pobresa-energetica/.
"Llei 24/2015 (habitatge i pobresa energètica). RGPD i LOPDGDD (principis de minimització i limitació de finalitat; consentiment segons normativa social). RGPD (art. 35.1) que exigeix realitzar una avaluació d'impacte sobre la protecció de dades (AIPD) Llei 39/2015 i Llei 26/2010 (interoperabilitat; dret a no aportar dades). Llei 2/2014 (DF 7a, modificada per Llei 5/2020, art. 163) – consultes Via Oberta. RD 203/2021, art. 11.i (AAA a la seu-e)."
"Ajuts socials", "Pobresa energètica", "RPA", "BPM", "Automatització Robòtica de Processos", "Gestió de Processos de Negoci"
És un sistema automàtic i transparent que ajuda a preparar els informes de vulnerabilitat energètica. Llegeix els fitxers que envien les companyies de llum, gas i aigua, consulta dades a través dels serveis Via Oberta i Hèstia, calcula si una persona o família està en situació de vulnerabilitat i genera l’informe. Abans d’enviar-lo a les companyies subministradores (més de 50), una persona professional revisa la informació. També s’està treballant per fer que la comunicació amb aquestes companyies sigui igual per a tothom. Via Oberta és un servei que permet a les administracions compartir dades i documents de manera segura i telemàtica. Així, la ciutadania no ha de presentar papers que ja té l’Administració. Hèstia és el sistema que utilitzen els serveis socials municipals per gestionar els expedients de les persones. Més de 800 ajuntaments el fan servir, i permet tenir tota la informació en format electrònic.
- Plataforma BPM AgilePoint, en modalitat SaaS al núvol, amb accés multiusuari i compatible amb diversos dispositius. - Repositori d’informes allotjat a Microsoft SharePoint (Azure, dins la UE). - Integració amb serveis externs mitjançant APIs i serveis web, incloent Via Oberta (amb certificat CDA municipal i IP pública centralitzada). - Procés automatitzat: importació de fitxers .xls de les companyies subministradores, càlcul automàtic del coeficient de vulnerabilitat i generació i signatura electrònica de l’informe.
- Entrada: fitxers .xls enviats per les companyies subministradores amb informació del titular (DNI, codi INE del municipi i adreça). - Consultes automàtiques: * A Via Oberta per obtenir dades d’empadronament, convivents, renda (AEAT), pensions, SEPE, INSS, discapacitat i dependència, tant del titular com dels convivents majors de 16 anys. *A Hèstia per conèixer la dependència energètica i el risc d’exclusió residencial. - Sortida: generació de l’informe de vulnerabilitat amb les evidències del procés, que es guarda al repositori de SharePoint.
Percentatge d’èxit ≈90% en l’emissió automatitzada d’informes. Amb canvis legals/organitzatius podria apropar-se al 100%.
Ciutadania potencialment afectada per pobresa energètica (benefici directe) i professionals de les ABSS (Àrees Bàsiques de Serveis Socials) municipals que emeten els informes
L’ajuntament és el responsable del tractament de les dades, mentre que ConsultorsBPM actua com a encarregat, i l’AOC no accedeix a dades personals durant el procés. Els informes es guarden en SharePoint (Azure, dins la UE) amb accés restringit; les evidències i fitxers relacionats es conserven durant un mes, i els informes positius tenen una vigència d’un any (actualment es conserven tots). Els drets ARCO estan garantits pel responsable del tractament. Els drets ARCO són els drets que tenen les persones sobre les seves dades personals segons la normativa de protecció de dades.
Aquest sistema aporta beneficis tant a la ciutadania com a l’administració: permet una tramitació més ràpida i precisa, redueix la burocràcia i garanteix el manteniment dels subministraments bàsics en situacions de risc. Alhora, ajuda les administracions a estalviar temps i recursos, estandarditzar processos, millorar la gestió de dades i donar suport als municipis amb menys recursos.
- Igualtat i no discriminació: El sistema aplica regles deterministes i homogènies a tots els casos i utilitza exclusivament dades oficials i objectives. Això evita diferències injustificades en el resultat i minimitza el risc de tracte desigual entre persones o unitats familiars. - Protecció de dades i privacitat: Es minimitzen els riscos de mal ús mitjançant una AIPD municipal, encàrrec de tractament, allotjament de dades dins la UE, aplicació dels drets ARCO i una gestió clara del consentiment i les cookies. - Seguretat i robustesa: Per prevenir indisponibilitats, accessos no autoritzats o errors, s’apliquen mesures com l’anàlisi de seguretat ENS, seguiment d’ANS, autenticació amb OTP per SMS, prova de vida, controls d’autenticitat documental, validacions automàtiques i detecció d’usuaris existents. - Transparència i explicabilitat: Per evitar opacitat i desconfiança, es publica una fitxa de transparència i es documenta el procés, que és completament determinista. - Retiment de comptes i auditabilitat: Per reduir riscos d’inseguretat jurídica i garantir la qualitat, s’estan definint mesures específiques i es publica l’AAA a la seu electrònica municipal, tal com estableix la normativa.
El sistema aplica els mateixos criteris, regles i fonts de dades per a tots els expedients, cosa que garanteix uniformitat i evita diferències de tractament. La supervisió humana final assegura que els casos particulars o complexos no quedin desatesos pel funcionament automatitzat.
El consum energètic prové del processament al núvol, que inclou la gestió BPM, les consultes d’interoperabilitat i el repositori d’informes. Aquest impacte es redueix gràcies a l’ús d’una plataforma SaaS escalable i a processos automatitzats i estandarditzats.
Canals de queixes, reclamacions o suggeriments de l’ajuntament responsable (seu electrònica municipal).
Sistema de cerca intel·ligent que troba informació als portals web de la Generalitat mitjançant llenguatge natural i ofereix una resposta generativa que resumeix els continguts cercats
Direcció General de Serveis Digitals i Experiència Ciutadana
Acord GOV/17/2025, de 28 de gener, pel qual s’aprova el model de l’ecosistema web d’aplicacions mòbils de la Generalitat de Catalunya.
Cercador web | Intel·ligència artificial | Cerca semàntica | Resposta generativa | Experiència digital | Informació pública | Accés a la informació | ODS 16
L’objectiu del cercador és posar a disposició de la ciutadania, de les empreses, de les entitats i de l’administració local una eina avançada de cerca que permeti fer consultes en llenguatge natural i obtenir respostes generatives (resums contextualitzats), basades en els resultats trobats més rellevants, juntament amb els enllaços a aquests resultats (fonts oficials).
El sistema utilitza els serveis d’intel·ligència artificial de Google Vertex AI Search per generar respostes a partir de la informació indexada (continguts dels webs). Funciona mitjançant dos processos principals: la indexació dels continguts (que els organitza perquè es puguin cercar) i el processament de les consultes (que interpreta el que demana la persona usuària i retorna resultats rellevants). A més, pot oferir una resposta generativa que resumeix la informació trobada.
El sistema utilitza models preentrenats de Google. No empra dades personals i no aprèn ni entra en entrenament a partir de les interaccions dels usuaris
Dades dels següents webs: - web corporatiu gencat.cat - webs departamentals - Canal Empresa - Tràmits
Es tractaran aquelles dades personals que el ciutadà introdueixi en les seves consultes en el cercador del web, es procedirà a l'anonimització d'aquestes.
El ciutadà pot fer preguntes en llenguatge natural. El resultat que se li presenta al ciutadà, a més del llistat de resultats, és un redactat més entenedor en què també es mostren les fonts d'informació d'on treu cadascuna de les afirmacions que fa.
S'han fet diverses proves sobre casos d'ús definits. S'han ajustat els serveis de Google Vertex AI per minimitzar qualsevol possible biax en l'equitat
Equip AM07 del lot de manteniment d'aplicacions
S'estan aplicant mesures de memòria cau per evitar l'execució de consultes que s'hagin realitzat prèviament. D'aquesta manera es redueix el nombre consultes a Google que realitzem minimitzant l'impacte energètic.
Equip AM07 del lot de manteniment d'aplicacions, Ricardo García (gestor solucions CTTI)
Està format per diferents mòduls de control de diferents processos de les plantes de tractament d'aigua potable de l'empresa, concretament a l'ETAP del Ter, on hi ha mòduls de gestió de cabal de tractament, control de diagnosis de filtres, avaluació de risc microbiològic i a l’ETAP del Llobregat, amb el mòdul de valoració d’ús de piles de EDR i altres mòduls en desenvolupament.
Ens d'Abastament d'Aigua Ter-Llobregat (ATL)
"Sistemes d'ajuda a la decisió (SAD) | Bessó digital | Tractament d'aigua"
El Sistema d’Ajuda a la Decisió SAD, permet als centres de control establir estratègies i criteris operatius en funció dels criteris establers prèviament pel personal de les plantes potabilitzadores. Permetent gestionar un gran volum de dades i informació necessàries per a la interpretació, decisió i control de les instal·lacions. Per fer això, la plataforma s’alimenta de dades dels sistemes de control (SCADA) permetent donar indicacions als operadors del sistema i, fins i tot, el sistema està prou madur, actuar directament sobre els elements físics de control.
A l'estar el sistema format per diferents mòduls, s'ha aplicat a cada modul aquella tegnologia que millor s'adaptava als procesos a controlar, ja sigui mitjançant xarxes neuronals, o eines desenvolupades amb software específics amb analítica de dades i IA generativa.
Models entrenats amb dades històriques dels sistemes de control per cada un dels processos amb integració de dades externes (servei meteorològic)
Dades online dels processos de tractament de les plantes potabilitzadores mes dades externes (servei meteorològic)
Personal tècnic encarregat del servei de potabilització d'aigua associat a cada planta de tractament
Permet als operadors dels centres de control disposa d'una eina de suport per la presa de decisions d'aquells tractaments de planta que per la seva dificultat requereixen d'una gran experiència dels usuaris gestors dels sistemes
Pèrdua de conneixement bàsics dels usuaris del sistema per poder operar els processos crítics en cas de fallada de funcionament dels sistemes d'ajuda a la decisió.
Locució de noticies textuals del portal 3CatInfo
El portal web i aplicació mobil del 3CatInfo incorpora una funcionalitat d'escoltar la noticia escrita amb una veu sintetica generada amb el servei de Amazon Polly i la veu d'Arlet.
El sistema envia el text/cos de la noticia a un sistema de text-a-veu que genera una veu sintetica en audio. Aquest audio s'associa a la noticia i permet escoltar el text de la noticia.
Usuaris del portal web i aplicació mobil del portal informatiu de 3CatInfo
Accessibilitat per persones amb discapacitat visual o qualsevol persona que prefereixi escoltar la noticia en comptes de llegir-la
Predictor del volum de trucades d'emergències
Algorisme que duu a terme una predicció de la volumetria de trucades d'emergència al 112 basant-se en l'històric de trucades.
Àrea de Tecnologia i Innovació del CAT112
Departament d'Interior i Seguretat Pública
Emergències | 112 | Trucades | Seguretat
El sistema té en compte el comportament de la volumetria de trucades d'emergència de l'històric d'anys anteriors, així com el comportament estacionari o estable de les trucades i les emergències o episodis fora de l'habitual, que alteren el caràcter estacionari. Amb aquestes dades, fa una avaluació automatitzada i duu a terme una predicció de la volumetria de trucades d'emergència esperades.
El model utilitza l'històric de dades de trucades al 112.
Model utilitza l'històric de dades de trucades al 112.
El grau d'encert en les prediccions en situacions ordinàries és d'aproximadament un 85 %.
El sistema suposa una nova eina per fer el dimensionament del nombre de gestors que donaran servei a les sales 112 i fer-ne una millor gestió.
El principal risc és que generi previsions errònies. És per això que permet la parametrització i correcció de les previsions per part dels gestors i hi ha sempre supervisió humana dels resultats.
Clariba Consulting SL | C. Pujades, 350 - 2 | 08019 Barcelona, España
Implementació de correccions a la previsió
Detector de l'ús del cinturó o del mòbil durant la conducció
Sistema que aplica regles d'IA per detectar fotografies de conductors sense cinturó o usant el mòbil, a través de les càmeres del Servei Català de Trànsit.
Seguretat viària: https://transit.gencat.cat/ca/seguretat_viaria/planificacio-seguretat-viaria/pla-seguretat-viaria-pla-ITS/
Trànsit | Seguretat | Aprenentatge automàtic
Sistema que funciona a partir d'una xarxa neuronal basada en aprenentatge automàtic (machine learning) i visió artificial (computer vision). El sistema una foto del vehicle i retorna una probabilitat de no ús del cinturó i una probabilitat d'us del mòbil, i fixa un llindar de probabilitat de les fotos a comprovar. Aquestes fotos es revisen per un instructor que decideix si hi ha una infracció denunciable o no.
Xarxa neuronal entrenada amb exemples etiquetats a mà.
Unes 150.000 imatges preses amb els lectors de matrícules que ja tenia el Servei Català de Trànsit.
Les fotografies captades per les càmeres del Servei Català de Trànsit. En canvi, no s'utilitzen imatges de radars.
Conductors de les vies interurbanes de Catalunya
Informació del tractament: https://transit.gencat.cat/ca/el_servei/proteccio_dades/informacio-detallada-dels-tractaments/expedients-sancionadors-transit/
1. Millora de la seguretat viària: El fet de detectar conductes de risc durant la conducció, com ara no portar el cinturó o fer servir el mòbil, pot contribuir a reduir-ne l'ús i, per tant, a una reducció dels accidents. 2. Millora en la detecció de les infraccions i l'eficiència: L'eina fa una preselecció de fotografies dels vehicles que circulen sota els arcs de detecció i llavors ho revisen humans, per la qual cosa s'estalvien el triatge i poden fer millor feina en menys temps.
El principal risc són els errors de detecció. El sistema pot identificar incorrectament una infracció; per exemple, confondre un objecte amb un telèfon mòbil. Per evitar-ho, totes les imatges preseleccionades són revisades per un instructor humà, que determina si hi ha infracció i de quin tipus.
Deep Solutions Software SL | Carrer del Tenor Masini, 49, baixos, Sants-Montjuïc | 08028 Barcelona
Enmarcat dins del lot AM02 adjudicat a T-System que va subcontractar a Deep Solutions
Model d'anàlisi d'entrevistes d'intervenció social - wSocial
Model cognitiu d'intel·ligència artificial per analitzar les entrevistes d'intervenció social de les Àrees Bàsiques de Serveis Socials. El sistema identifica les situacions exposades i els conceptes clau per definir les necessitats i potencialitats catalogades.
Serveis socials | Intervenció social | Àrees Bàsiques de Serveis Socials | Entrevista
El sistema utilitza intel·ligència artificial per analitzar el contingut d’una conversa o relat. L’eina compara aquest relat amb una classificació prèviament definida de conceptes relacionats amb situacions de vulnerabilitat (una mena de “diccionari especialitzat”). Per fer aquesta comparació, transforma el text de la conversa en un format numèric (anomenat “vector”) i el busca dins d’una base de dades on hi ha representats tots aquests conceptes. | Un cop trobats els conceptes més relacionats, s’utilitza un model d’IA generativa, basat en la tecnologia d’OpenAI, per determinar quins s’apliquen realment al cas analitzat. El sistema no entrena nous models, sinó que fa servir eines ja existents.| Tot i que es fa servir IA, el sistema es pot considerar parcialment interpretable, perquè les etiquetes aplicades corresponen a conceptes definits prèviament i es pot traçar com s’han aplicat.
Recursos interns, ja que es troben en entorns CTTI. | Cerca vectorial.| Model d'IA Generativa GPT-4o-Mini versió 18/07/2024.
Veu de les persones entrevistades per les Àrees Bàsiques de Serveis Socials de Catalunya. | En aquest sentit, els resultats es perfeccionen a través dels conceptes de l'SNOMED CT (Systematized Nomenclature of Medicine – Clinical Terms), la terminologia clínica integral i també terminologia social, multilingüe i codificada de major amplitud, precisió i importància desenvolupada en el món. | L’Extensió Catalana d’SNOMED CT és mantinguda i distribuïda per l’Àmbit d’Interoperabilitat i Tecnologies de la Fundació TIC Salut Social, que prové de les diferents versions internacional i espanyola de l’SNOMED CT. | Catàlegs de subconjunts i Diccionari projecte Intersocial amb conceptes socials SNOMED CT de problemàtiques, observacions, respostes i factors de l’àmbit social.
1. Millora de l’eficiència en la intervenció social: A través l’anàlisi automàtica de les entrevistes dels professionals dels serveis socials, s'identifiquen de forma ràpida les situacions exposades i els conceptes clau. Això facilita una resposta més ràpida i ajustada a les necessitats de les persones ateses, cosa que permet una resposta més àgil i eficient, sempre amb la supervisió determinant del professional. | 2. Comunicació automàtica d’actuacions urgents: Quan el sistema detecta una situació d’urgència, pot comunicar-la automàticament als serveis o sistemes corresponents (com ara serveis d’emergència o altres dispositius d’atenció), millorant la coordinació i la capacitat de resposta immediata. | 3. Integració amb altres sistemes de gestió: El sistema es pot connectar amb les plataformes de gestió existents, com ara l'e-social. Això permet compartir informació rellevant de manera segura i fluida entre professionals i serveis implicats en l’atenció social. | 4. Homogeneïtzació del llenguatge i dels resultats: A través de l’ús de terminologia estandarditzada (com el sistema SNOMED), s’aconsegueix una descripció més clara i coherent de les problemàtiques detectades. Això facilita la comparació de casos, la presa de decisions i la generació d’estadístiques útils per a la planificació de polítiques socials.
UTE DXC TECHNOLOGY SERVICIOS ESPAÑA S.L.U., ES FIELD DELIBERY SPAIN, S.L.U., ENTERPRISE SOLUTIONS CONSULTORÍA Y APLICACIONES ESPAÑA, S.L.U., UTE DXC-FDS-DXC C | C Jose Echegaray, número 8 | 28232 Las Rozas, Madrid
Videoidentificació per obtenir l’idCat Mòbil
Sistema que permet autenticar una persona a distància mitjançant reconeixement facial per obtenir l’idCAT Mòbil de forma segura i sense desplaçaments.
Transparència algorísmica de l'AOC: https://www.aoc.cat/ia-transparencia-videoidentificacio/
El sistema compleix amb la normativa vigent en matèria de serveis electrònics de confiança (Llei 6/2020, d’11 de novembre) i mètodes d’identificació remota per vídeo per a l’expedició de certificats electrònics qualificats (Ordre ETD/465/2021, de 6 de maig), i està certificat per al compliment de Sepblac.
El sistema captura i analitza automàticament dades personals i biomètriques. La persona mostra el seu document oficial davant la càmera i fa una autofoto (o selfie) amb un gest de prova de vida, com ara un somriure. Un algorisme de reconeixement facial compara la foto del document amb l'autofoto per autenticar la identitat, confirmant que es tracta de la mateixa persona. Tot el procés queda gravat en vídeo com a evidència. Finalment, una persona revisa i valida el resultat abans d’aprovar l’alta a l’idCAT Mòbil. Aquesta combinació de tecnologia avançada i supervisió humana garanteix un procés segur, fiable i transparent.
El sistema utilitza un algorisme de reconeixement facial i anàlisi d’imatges desenvolupat per VERIDAS, basat en tècniques d’aprenentatge supervisat per comparar i autenticar rostres. També incorpora visió artificial per extreure i validar dades dels documents d’identitat. Per garantir que la persona és real i no es tracta d’un intent de suplantació, s’aplica una prova de vida mitjançant la detecció de gestos, com ara el somriure. El servei es presta en modalitat SaaS i està allotjat a Amazon Web Services dins del territori de la Unió Europea. La integració amb altres sistemes es fa a través d’APIs i una aplicació web responsiva, accessible des de diversos dispositius. A més, tots els processos compten amb supervisió humana per verificar-ne la validesa i prevenir possibles fraus.
El model d’autenticació facial utilitzat està entrenat amb un ampli conjunt de dades d’imatges facials obtingudes per VERIDAS, incloent-hi diverses edats, sexe i condicions d’il·luminació. Aquestes dades provenen de fonts públiques i privades amb permisos per a ús en desenvolupament i millora de sistemes biomètrics. No es fan servir dades personals dels usuaris del servei d’idCAT Mòbil per a l’entrenament del model.
El sistema utilitza dades personals facilitades per les persones usuàries durant el procés de videoidentificació. Aquestes dades inclouen informació del document oficial d’identitat (número, nom, fotografia, data de naixement, data de caducitat, país d’expedició, etc.) i una autofoto o vídeo per a la prova de vida. | També s’extreuen evidències digitals signades i amb segell de temps proporcionades pel proveïdor de confiança. | Les dades es processen en temps real durant la sessió d’autenticació per validar la identitat de la persona. No s’utilitzen dades addicionals com el gènere o la nacionalitat per al funcionament del sistema, només la informació estrictament necessària per a l’autenticació.
L’algorisme de reconeixement facial té una taxa de rebuig del 5%, principalment per problemes tècnics d’enregistrament i il·luminació de les cambres. La taxa de falsos negatius és del 2,91%, mentre que la taxa de falsos positius és del 0,01%. Aquestes xifres compleixen els requisits de l'estàndard FIDO (Fast Identity Online) per a verificació biomètrica facial, que estableix que la taxa de falsos negatius ha de ser inferior al 3% per una taxa de falsos positius del 0,01%. | La supervisió humana assegura una validació addicional per garantir la seguretat i evitar errors.
Qualsevol persona major de 16 anys que necessiti obtenir l’idCAT Mòbil per identificar-se digitalment i relacionar-se amb les administracions públiques catalanes.
El sistema tracta dades de caràcter personal, incloent-hi dades biomètriques com la imatge facial, la veu i el vídeo del procés, considerades categories especials segons el RGPD. Aquestes dades són necessàries per verificar la identitat de la persona i estan subjectes a mesures estrictes de protecció, com ara la ubicació dins la Unió Europea, el compliment dels drets de protecció de dades personals (drets ARSOPOL) i la formalització del corresponent contracte de tractament amb el proveïdor. La videoidentificació és una opció voluntària: la persona pot escollir fer el tràmit presencialment. El consentiment s’obté de manera lliure i informada. La Generalitat de Catalunya és la responsable del tractament de dades i va realitzar una avaluació d’impacte per assegurar que aquest és adequat, necessari i proporcional. El Consorci AOC actua com a encarregat del tractament en el marc de l’activitat “Seu electrònica de l’Administració de la Generalitat de Catalunya”, que inclou serveis com l’idCAT Mòbil i processos associats com la videoidentificació. Així mateix, l’AOC reflecteix aquest tractament en el seu registre de categories d’activitat.
1. Comoditat i accessibilitat: els usuaris poden completar tot el procés de videoidentificació des de casa en pocs minuts, estalviant temps i esforç. Això és especialment útil per a qui té dificultats per fer el tràmit presencialment, com persones que viuen a l’estranger, tenen mobilitat reduïda o només disposen de mitjans digitals bàsics. | 2. Inclusió: s’ha invertit molt en experiència d’usuari perquè el procés sigui notablement senzill per a qualsevol persona, independentment de les seves habilitats digitals. | 3. Major seguretat: l’algorisme de reconeixement facial i d’imatge proporcionat per VERIDAS ha demostrat tenir un alt nivell de precisió. La taxa de rebuig és molt baixa (5%). Tot i això, tots els processos de videoidentificació són supervisats per treballadors públics per eliminar riscos, com ara detectar casos de coacció o evitar malentesos en persones que no són conscients del procés automatitzat. | 4. Estalvi: millora l’eficiència automatitzant les tasques administratives i reduint els errors, fet que suposa un important estalvi de costos, fins a un 80% per transacció en comparació dels mètodes presencials.
1. Igualtat i no discriminació: Per evitar l’exclusió o discriminació, s’ha treballat perquè el procés sigui molt senzill i accessible per a tothom. Es pot fer des de qualsevol mòbil amb navegador, i la interfície és clara i fàcil d’utilitzar. L’algorisme de reconeixement facial s’ha entrenat amb dades representatives de diferents grups de població per evitar biaixos, i es fan proves periòdiques per detectar possibles discriminacions. A més, el servei està disponible en català, castellà i anglès, i es pot triar l’idioma fàcilment. | 2. Protecció de dades, privacitat i llibertat d’elecció (més informació a l'apartat "Dades personals"). | 3. Seguretat i robustesa: Per garantir que el sistema és segur i funciona correctament, es va fer una anàlisi de riscos seguint les guies de l’Agència de Ciberseguretat de Catalunya i de l’Esquema Nacional de Seguretat (ENS). El sistema es classifica amb un nivell mitjà de disponibilitat i seguretat, i alt pel que fa a dades personals. Per evitar problemes, s’han establert acords de nivell de servei (ANS) amb el proveïdor per garantir la capacitat, disponibilitat del servei i es fan informes setmanals. Per prevenir suplantacions d’identitat, es verifica el número de telèfon amb un codi SMS, es demana una prova de vida (com ara un somriure) i no es permeten vídeos pregravats. Els documents d’identitat es validen amb controls de seguretat i, si la persona viu a l'Estat espanyol, es comprova amb el registre oficial de la Direcció General de la Policia. També es compara la foto del document amb una autofoto, i si cal, es demana repetir-la. Finalment, es comprova que no hi hagi més d’un idCat Mòbil per persona. | 4. Transparència i explicabilitat: Per evitar la desconfiança i garantir que tothom entén com funciona el sistema, s’ha publicat una fitxa exhaustiva de transparència al web de l’AOC. També s’ha fet difusió del servei a través de webs, xarxes socials i jornades informatives. | 5. Retiment de comptes i auditabilitat: Per garantir que el sistema és fiable i jurídicament segur, es publiquen informes periòdics de la "prova de proveïdors de reconeixement facial (FRTE)” de l'Institut Nacional d'Estàndards i Tecnologia dels EUA (NIST) sobre el rendiment i la seguretat dels algorismes de VERIDAS. A més, s’està treballant perquè el sistema sigui vàlid per emetre certificats idCat, i està prevista una auditoria externa durant el 2024/25.
Per detectar i mitigar biaixos potencialment perjudicials, s’han dut a terme proves periòdiques de qualitat enfocades a l’equitat, que analitzen la possible discriminació per raó de gènere i grup ètnic en els resultats de l’algorisme de reconeixement facial. Aquestes proves es basen en els estàndards del National Institute of Standards and Technology (NIST). | Les mesures tècniques aplicades per reduir els biaixos inclouen: Entrenament de l’algorisme amb un conjunt de dades inclusiu i representatiu de diferents grups de població. Validacions periòdiques que permeten detectar imprecisions i biaixos, amb l’objectiu d’ajustar i optimitzar el model. Supervisió humana en la validació final dels resultats per garantir imparcialitat. | Aquestes mesures asseguren la inclusió digital i minimitzen els riscos d’exclusió, estigmatització o discriminació derivats de l’ús del sistema.
El sistema de videoidentificació utilitza recursos computacionals per al processament d’imatges, reconeixement facial i verificació en temps real, que impliquen un consum energètic moderat. Aquest consum està optimitzat mitjançant la utilització de tecnologies escalables i serveis allotjats en infraestructures amb polítiques de sostenibilitat, tot minimitzant l’impacte energètic per usuari.
Les persones poden mostrar el seu desacord amb el resultat del sistema adreçant-se a l’organisme responsable del servei: la Generalitat de Catalunya. A la fitxa publicada al Portal de Transparència de l'AOC s’hi indica l’adreça electrònica de contacte per a consultes, queixes o suggeriments.
Informe de transparència algorísmica del servei Videoidentificació per obtenir l’idCat Mòbil: https://www.aoc.cat/ia-transparencia-videoidentificacio/
DELOITTE ADVISORY, S.L. que aporta la tecnologia Deloitte OBA integrada amb la solució de VERIDAS | Correu electrònic del proveïdor: deloitte@deloitte.es, info@veridas.com.
Contracte públic de serveis, procediment obert, expedient AOC-2020-96, per la quantitat total de 363.000 €: https://contractaciopublica.cat/ca/detall-publicacio/77521623
AI_Fibrociments - Visor per a conèixer la ubicació de cobertes de fibrociment
Eina gràfica i interactiva que permet localitzar de forma ràpida les cobertes de fibrociment d'amiant o uralita a Catalunya per poder avançar en les actuacions del Pla nacional per a l’erradicació de l’amiant 2023-2032.
Pla Nacional per a l'erradicació de l'amiant a Catalunya 2023-2032: https://hdl.handle.net/20.500.14623/421
Aquesta metodologia analitza les signatures espectrals en les diferents bandes de longituds d'ona recollides pels sensors hiperespectrals. Amb això, es porta a terme una selecció de candidats per arbre de decisió sobre els coeficients de relació. D'aquesta manera, es detecten de forma senzilla les possibles cobertes de fibrociment d'amiant o uralita arreu de Catalunya.
Aprenentatge supervisat sota algorismes d'aprenentatge automàtic (machine learning) per a la classificació de candidats a cobertes de fibrociment.
Cobertes de fibrociment identificades a les ortoimatges de Catalunya de l'Institut Cartogràfic i Geològic de Catalunya mitjançant fotointerpretació.
Dades d'observació de la Terra aeroportades de sensors hiperespectrals i ortoimatges de càmeres fotogramètriques de l'Institut Cartogràfic i Geològic de Catalunya.
Les teulades identificades com a fibrociment amb la mida mínima establerta en les especificacions tèniques són fibrociment en un 89.5% dels casos.
Personal del Departament de la Presidència, com a responsable del Pla nacional per a l’erradicació de l’amiant 2023-2032.
El sistema ha permés generar un primer inventari de les cobertes amb fibrociment de tot Catalunya i ha d'ajudar a definir el pla per a la seva retirada.
El resultat dels sistema mostren una exactitud per sobre de l'ordre del 90% i un error d'omissió (recall) del 81%. Per tant. es consideren suficients per a la realitzaci de l'inventari de tot el país i, a més, se'n fa supervisió humana per evitar els riscos.
L'Equip de desenvolupament que ha participat en alguna part del desenvolupament està format per personal tècnic de l'ICGC: | Gènere: 5 homes i 2 dones. | Edat: 1 menor de 30 anys i 6 majors de 50 anys. | Perfil professional: Diversitat d'estudis tècnics: geògrafs, matemàtics, físics, enginyers. | Llengua materna: 5 català, 1 castellà, 1 italià.
El visor públic disposa d'un formulari de contacte: https://ovt.gencat.cat/gsitfc/AppJava/generic/conqxsGeneric.do?webFormId=31&topicLevel1.id=1312&topicLevel2.id=1383&topicLevel3.id=34953&set-locale=ca_ES
Addenda al contracte programa entre l'Administració de la Generalitat de Catalunya, mitjançant el Departament de la Presidència, i l'Institut Cartogràfic i Geològic de Catalunya (ICGC) per a la detecció de fibrociments en cobertes en alçada: https://presidencia.gencat.cat/ca/ambits_d_actuacio/relacions-institucionals/registre-de-convenis-de-collaboracio-i-cooperacio/detall#2024/9/0047
Robotització per agilitzar les ajudes per a plaques solars i mobilitat elèctrica
Sistema basat en intel·ligència artificial que processa les dades dels documents de la tramitació dels ajuts per a plaques solars i mobilitat elèctrica de l'Institut Català d'Energia per a millorar-ne l'eficiència.
Ajuts i finançament de l'Institut Català d'Energia: https://icaen.gencat.cat/ca/energia/ajuts/
Convocatòries dels expedient ICA025 (Ajuts del Programa d'incentius lligats a l'autoconsum i emmagatzematge, amb fonts d'energia renovable i implantació de sistemes tèrmics renovables), MOVES III (Pla MOVES III a Catalunya. Incentius a la mobilitat eficient i sostenible).
A partir d'un document amb un llistat d'expedients, un robot (RPA) es connecta al Tramitador d'ajuts i subvencions (TAIS) de la Generalitat. | Els robots RPA interactuaran amb TAIS en diferents moments del flux de tramitació: per recopilar informació i descarregar la documentació adjunta, per carregar informació, entre d'altres. | Mitjançant els mecanismes d'intel·ligència artificial, basats en la tecnologia "Document Understanding", s'identifica tota una sèrie d'informació i es realitzaran una sèrie de validacions que permeten optimitzar el procediment.
Es tracta d'una automatització de processos a través de la robòtica (RPA) complementats amb Document Understanding UIPath.
Informació d'expedients i documentació a l'entorn de preproducció (PRE) i proves controlades amb documents reals a l'entorn de producció (PRO).
Expedients de tramitació del Tramitador d'ajuts i subvencions (TAIS) dels ajuts per a plaques solars i mobilitat elèctrica de l'Institut Català d'Energia, i la documentació annexa.
Empleats públics de l'Institut Català d'Energia
El sistema tracta les dades personals dels expedients i documents dels expedients de tramitació del Tramitador d'ajuts i subvencions (TAIS) dels ajuts per a plaques solars i mobilitat elèctrica de l'Institut Català d'Energia. Es desen a l'entorn tecnològic corporatiu del Centre de Telecomunicacions i Tecnologies de la Informació (CTTI).
El sistema redueix les tasques manuals en anàlisi i extracció d'informació dels documents, en un 90,8% dels expedients. En conseqüència, això permet reduir del temps de gestió dels expedients.
1. Processament incorrecte de les dades: El sistema pot no processar bé les dades, però hi ha sempre una revisió humana en el procés per mitigar-ho. | 2. Riscos tecnològics per càrrega dels sistemes corporatius (TAIS) per l'ús dels robots, ja que aquests poden afectar el rendiment del tramitador. En qualsevol cas, l'execució dels robots es planifica en horaris diferents dels horaris d'ús habituals de l'aplicació per minimitzar l'impacte. | 3. Dependència excessiva de la tecnologia: el fet de dependre d'un sistema tecnològic que pot fallar o no funcionar sempre és un risc. En qualsevol cas, l'eina permet optimitzar les tasques que, si fos necessari, es podrien fer de forma manual. | 4. Filtració de dades sensibles: els serveis IA vinculats al Document Undenrstanding UiPath es troben a l'entorn corporatiu del Centre de Telecomunicacions i Tecnologies de la Informació (CTTI), per la qual cosa es minimitza aquest risc.
El sistema recull la informació de tots els expedients i no pren decisions. Per tant, no s'identifiquen biaixos discriminatoris.
El ciutadà o ciutadana té dret als recursos habituals dins del procediment administratiu.
AI_MCSC - Mapa de Cobertes del Sòl de Catalunya
Eina de detecció dels canvis de cobertes urbanes del territori català a partir de les ortofotos de Catalunya, a través de xarxes neuronals artificials de diferent construcció i profunditat de càlcul.
Institut Cartògrafic i Geològic de Catalunya
Aquesta metodologia analitza les cobertes urbanes i les interfícies urbanes, forestal o agrícoles, partint com a fonts de ortoimatges de l'Institut Cartogràfic i Geològic de Catalunya. | Les ortoimatges són fotografies georeferenciades de la superfície de la terra, obtingudes per satèl·lit o per sensors aerotransportats. | A partir de l’etiquetatge de les anteriors edicions del Mapa de Cobertes i sols de Catalunya (MCSC), genera uns polígons o zones candidates de canvi, a través d'arquitectures d'aprenentatge profund (deep learning), facilitant així una focalització d’on fotointerpretar en lloc d’un escombrat general de tot el territori.
Xarxes neuronals i aprenentatge profund.
Les categories urbanes del Mapa de cobertes del sòl de Catalunya de la versió anterior a l'actualització pertinent.
Les ortofotos de Catalunya i el model d'alçades dels edificis de l'Institut Cartogràfic i Geològic de Catalunya.
Personal del Departament de Territori, Habitatge i Transició Ecològica.
Millora en els rediments de temps en producció.
El sistema identifica possibles zones del territori que han sofert canvi. Posteriorment, hi ha una revisió per part d'un tècnic o tècnica per valorar si el canvi és real i les característiques d'aquest.
L'Equip de desenvolupament que ha participat en alguna part del desenvolupament està format per personal tècnic de l'ICGC: | Gènere:4 homes i 3 dones. | Edat: 7 majors de 50 anys. | Perfil professional: Diversitat d'estudis tècnics: geògrafs, matemàtics, físics, enginyers. | Llengua materna: 5 català, 1 castellà, 1 italià.
Addenda al contracte programa de l'Institut Cartogràfic i Geològic de Catalunya (ICGC)
Eina corporativa que utilitza intel·ligència artificial per fer anònimes les dades d'un document. D'aquesta manera, el document es pot fer servir o difondre sense tenir efecte sobre les dades personals.
Protecció de dades personals: https://administraciodigital.gencat.cat/ca/dades/proteccio-de-dades/index.html
Anonimització | Dades | Documents | Protecció de dades | Eines corporatives
L’eina utilitza un sistema de processament del llenguatge natural entrenat prèviament per detectar el tipus de dades pel seu context o a través de patrons. Les persones usuàries poden configurar quins tipus d'informació (infotips) volen anonimitzar. L'eina detecta les dades i les marca. Després, amb supervisió humana, es pot validar si l'anonimització proposada és correcta o si cal afegir o eliminar alguna dada manualment.
Processament de llenguatge natural (NLP).
El fabricant va utilitzar un conjunt de dades format per documents accessibles i disponibles públicament a Internet, habitualment ja preanonimitzats, documents de clients que han donat expressament el seu consentiment i documents sintètics.
Els documents que les unitats administratives han d'anonimitzar i pengen a l'eina.
El proveïdor indica que la precisió de l'eina, en dades aïllades, és d'un 96% per a noms, un 91% per persones jurídiques, un 88% per les adreces postals, un 92% per les localitzacions i un 93% per a dates. Com que els documents contenen diverses dades, els marges d’error es poden acumular i s’han de revisar manualment tos els documents. | En documents PDF analitzats per la Generalitat, un 3% tenen inconsistències en l’anonimització d’adreces, un 10% en els NIFs i un 12% en topònims en idiomes diferents de la resta del text. En el cas de documents Word, les inconsistències mencionades apareixen en un 37%, d'un 3% i d'un 43% dels documents, respectivament. | En qualsevol cas, s’ha demostrat que en tots els casos s'anonimitza el codi QR, el codi de barres CSV i la signatura digital.
Empleats públics de la Generalitat de Catalunya i el seu sector públic
Les dades i els documents que es processen a l’eina no s’emmagatzemen, a excepció dels documents processats en lots, que són desats durant cinc dies naturals i, en acabat el termini, són eliminats definitivament. Tampoc serveixen per reentrenar l’eina, i el proveïdor no en fa cap ús.
El principal avantatge és la seva rapidesa i agilitat en el procés d'anonimització. Per un document de 100 pàgines, es tarden 13 minuts i mig a completar el procés d'anonimització i revisió i, amb les eines prèvies (com Adobe Acrobat Pro), se'n tardaven 35.
1. Excés de confiança en les capacitats de l’eina: Els usuaris poden esperar que l’eina no cometi cap error o que faci tasques que no està preparada per a completar. Per mitigar-ho, es farà formació i sensibilització, es crearan materials didàctics, es faran sessions de formació i es proporcionarà informació detallada a la Intranet. | 2. No identificació d’algunes dades per les característiques personals: Una possibilitat seria que l’eina no identifiqui algunes dades, per exemple, pel fet que es tracta de noms poc comuns. Per evitar-ho, es personalitzarà l’eina, es revisaran manualment els resultats i es recollirà informació de retorn dels usuaris per millorar-la. | 3. Esborrat indegut de dades: A causa d’errors o de la configuració, l’eina podria eliminar dades del document que no s’haurien d’haver esborrat, cosa que pot afectar a la integritat i la utilitat del document. Es personalitzarà l’eina i es revisaran manualment els resultats per assegurar la integritat del document. | 4. Revelació de dades: L’eina pot no detectar algunes dades que haurien de ser susceptibles d’anonimitzar, i això podria suposar una revelació de les dades si es publica o difon el document. Es farà una revisió manual dels resultats abans de difondre els documents. | 5. Fuita de dades: Un dels riscos és que les dades que entren a l’eina puguin patir alguna fuita, a causa d’un atac o d’una mala gestió. Es realitzaran auditories periòdiques per assegurar el compliment en ciberseguretat i es crearà un pla de recuperació per respondre a un incident o una crisi. | 6. Ús excessiu i innecessari de l’eina: El risc és que es faci un ús no adequat de l’eina per ser excessiu, cosa que podria generar un sobrecost, així com pel fet que sigui innecessari. Per contra, s’establiran polítiques d'ús clares, controls d'accés i es monitoritzarà l'ús per detectar i corregir l'ús inadequat.
L'entrenament es va fer amb documents d'arreu del món i s'han fet proves per part de la Generalitat amb noms i cognoms d'origen cultural diversos, que han estat satisfactòries. Per tal de minimitzar els riscos des d'una perspectiva de l'equitat, es farà sempre una revisió manual dels resultats de l'eina.
El rang d'edats de l'equip oscil·la entre els 29 i els 48 anys. El 70% són homes i el 30%, dones. Majoritàriament amb formació universitària en enginyeria del programari. Les llengües maternes són el castellà (5), el basc (4) i i el català (2).
0,0000028 kgs de CO2 per pàgina anonimitzada.
Si, com a resultat del procés d'anonimització, es publiquen dades que no haurien de ser-ho, es poden exercir els drets de protecció de dades personals davant la unitat responsable. | Si s'han anonimitzat dades que haurien de ser públiques, cal posar-se en contacte amb la unitat responsable a través de la bústia de contacte.
NYMIZ SOFTWARE COMPANY, S.L. | C. Gran Vía de Don Diego López de Haro 1, planta 7 | 48008 Bilbao | info@nymiz.com
Fons del Mecanisme per a la Recuperació i Resiliència (MRR), en el context dels Serveis Transversals d'Analítica avançada i intel·ligència artificial (STA): https://contractaciopublica.cat/ca/detall-publicacio/922e36d5-85c5-49ff-aa51-fdd1d758e73d/300027834.