IA i dades a l'administració i l'empresa: quina normativa s'aplica i què cal tenir en compte

Fer servir intel·ligència artificial amb dades de persones o d'una organització no és només una decisió tecnològica. Cada assistent, agent o model que es posa en marxa toca alhora diverses normes: el Reglament europeu d'IA, la protecció de dades, la seguretat de la informació i, al sector públic, el dret administratiu. Aquest article resumeix què obliga a què i com traduir-ho en controls concrets.

Situació normativa a octubre de 2026. Aquest article és divulgatiu i no substitueix l'assessorament jurídic de cada cas.

Primer: és realment IA?

El Reglament europeu d'IA (RIA, Reglament (UE) 2024/1689) defineix un sistema d'IA com un sistema basat en màquines que, a partir de les dades que rep, infereix com generar prediccions, continguts, recomanacions o decisions. La paraula clau és «infereix»: un programa que aplica una fórmula fixa no és IA; un assistent que redacta un esborrany a partir d'una pregunta, sí.

La IA arriba a les organitzacions per tres vies, i totes tres estan subjectes a les mateixes regles:

• Eines d'ús general: assistents com Microsoft Copilot, ChatGPT o Claude.
• Sistemes creats per a una tasca: un xatbot d'atenció, un agent que tramita sol·licituds, un classificador de documents.
• IA integrada en aplicacions que ja es fan servir: funcions noves de l'ERP, del gestor d'expedients o de l'ofimàtica que el proveïdor activa en una actualització. És la via que més es passa per alt.

Reglament europeu d'IA: obligacions per nivell de risc

El RIA classifica els sistemes segons el risc per a la salut, la seguretat i els drets fonamentals. Qui fa servir un sistema (el «responsable del desplegament») té obligacions diferents de qui el fabrica, però si una organització desenvolupa o encarrega un sistema a mida i el posa en servei amb el seu nom, passa a ser proveïdor i assumeix obligacions addicionals.

Obligació	Des de	Què suposa a la pràctica
No fer servir pràctiques prohibides (art. 5)	02/02/2025	Res de puntuació social, manipulació, reconeixement d'emocions a la feina o en centres educatius, ni categorització biomètrica de dades sensibles
Alfabetització en IA (art. 4)	02/02/2025	Pla de formació per perfils: qui l'usa, qui supervisa, personal tècnic i direcció
Transparència (art. 50)	02/08/2026	Avisar que s'està parlant amb una IA i marcar el contingut sintètic que sembli real
Sistemes d'alt risc (arts. 26, 27 i 49)	02/12/2027	Supervisió humana amb autoritat, control de les dades d'entrada, registres d'almenys sis mesos, avaluació d'impacte en drets fonamentals (FRIA) i registre a la base de dades de la UE

El Reglament Òmnibus Digital (UE) 2026/1744 va endarrerir els requisits d'alt risc del 02/08/2026 al 02/12/2027 i va afegir dues pràctiques prohibides: generar imatges, vídeos o àudios íntims de persones identificables sense el seu consentiment, i generar material d'abús sexual infantil. Els sistemes d'alt risc que ja fa servir el sector públic tenen de termini fins al 02/08/2030, però convé inventariar-los des d'ara.

Què és alt risc a la pràctica. L'annex III del RIA inclou, entre d'altres, els sistemes que influeixen en l'accés a prestacions i serveis essencials, l'ocupació (selecció, promoció, assignació de tasques, avaluació), l'educació (admissió i avaluació), la biometria i els components de seguretat d'infraestructures crítiques. Un matís important: un sistema d'aquests àmbits no és d'alt risc si només fa una tasca preparatòria o procedimental (extreure dades d'un document, assenyalar si falta alguna cosa) i la decisió la pren una persona, sempre que no elabori perfils (art. 6.3). Aquesta conclusió s'ha de documentar.

A Espanya, el projecte de llei orgànica per al bon ús i la governança de la IA, en tramitació, designa l'AESIA com a autoritat principal, fixa el règim sancionador i preveu un inventari de sistemes i la figura del delegat d'IA al sector públic. Adoptar-los ja com a bona pràctica facilita l'adaptació quan s'aprovi la llei.

Protecció de dades: la IA no té regles pròpies, però multiplica els riscos

Quan un sistema d'IA tracta dades personals s'apliquen el RGPD i la LOPDGDD, igual que a qualsevol tractament. La diferència és que la IA tracta moltes dades, infereix informació nova i és difícil d'explicar. Els punts que fallen més:

• Base jurídica. Al sector públic, normalment el compliment d'una obligació legal o una missió d'interès públic, que ha d'estar prevista en una norma amb rang de llei. El consentiment gairebé mai no serveix en la relació entre administració i ciutadania.
• Finalitat i minimització. Les dades recollides per tramitar alguna cosa no es poden reutilitzar per entrenar o alimentar un altre sistema sense una nova avaluació. Si la tasca es pot fer sense dades personals, o amb dades pseudonimitzades, es fa així.
• Avaluació d'impacte (AIPD). Obligatòria quan hi ha alt risc: elaboració de perfils amb efectes, categories especials de dades a gran escala o col·lectius vulnerables. Amb IA, a la pràctica, gairebé sempre en els usos que tracten dades de persones.
• Decisions automatitzades (art. 22). Ningú no pot quedar sotmès a una decisió amb efectes jurídics presa només per una màquina. I compte amb la supervisió de façana: si qui revisa signa en bloc el que proposa la IA, la decisió continua sent automatitzada.
• Encàrrec de tractament (art. 28). Amb clàusules específiques per a IA: prohibició d'entrenar amb les dades, les preguntes i les respostes; ubicació del processament; termini de conservació de les converses, i llista de subencarregats.
• Transferències internacionals. Hi ha transferència encara que les dades es desin a Europa si el model s'executa fora o el suport hi accedeix des de fora. El més recomanable és contractar el processament en una regió de la UE.
• Àmbit laboral. Eines com Copilot o un assistent de RH tracten dades de la plantilla: cal informar abans els treballadors i la seva representació, i no fer-les servir per avaluar el rendiment sense una avaluació específica. El Reial decret 723/2026 obliga, a més, a informar per escrit sobre els sistemes algorítmics que intervenen en decisions laborals.

Seguretat: l'ENS també cobreix la IA

Al sector públic i als seus proveïdors, l'Esquema Nacional de Seguretat (RD 311/2022) s'aplica als sistemes d'IA com a qualsevol altre sistema d'informació: categorització (bàsica, mitjana o alta), mesures de l'annex II, rols de seguretat i notificació d'incidents al CCN-CERT. Si la IA es presta com a servei (SaaS), el proveïdor ha de tenir la certificació de conformitat ENS d'aquest servei, i cal comprovar que el seu abast cobreix també les funcions d'IA.

L'anàlisi de riscos ha d'incloure els riscos propis de la IA:

• Injecció d'instruccions: text ocult en un document o un web que manipula el sistema.
• Fuita d'informació per les respostes: el sistema revela dades a qui no les hauria de veure.
• Enverinament de dades d'entrada o d'entrenament.
• Agents amb massa permisos: mínim privilegi, només lectura per defecte i confirmació humana abans d'enviar, modificar o esborrar.
• IA no inventariada: funcions que el proveïdor activa sense avisar.

Dret administratiu, igualtat i transparència

A l'administració, la IA no rebaixa cap garantia:

• Actuació automatitzada (art. 41 Llei 40/2015). Si un sistema dicta actes sense intervenció humana, cal aprovar abans quin òrgan defineix, supervisa i audita el sistema.
• Motivació (Llei 39/2015). «Ho va dir el sistema» no és una motivació vàlida: l'expedient ha d'explicar què va aportar la IA i per què es va acceptar.
• No-discriminació (Llei 15/2022, art. 23). Cal minimitzar biaixos, avaluar l'impacte discriminatori i poder interpretar les decisions.
• Transparència. Publicar quins sistemes es fan servir, per a què i amb quines garanties.
• Contractació (LCSP). Els plecs han d'exigir compliment del RIA, certificació ENS, encàrrec de tractament, prohibició d'entrenar amb dades pròpies, documentació, accés als registres i sortida del proveïdor sense pèrdua de dades.
• Accessibilitat (RD 1112/2018). Els xatbots per a la ciutadania han de ser accessibles i oferir sempre un canal humà.

De la norma a la pràctica: cinc controls que ho cobreixen gairebé tot

1. Classificar cada ús en permès (sense dades personals i amb revisió humana), condicionat (dades personals, interacció amb la ciutadania o suport a decisions) o no recomanat (decideix sense intervenció humana, fa servir dades sensibles en eines no autoritzades o és una pràctica prohibida). Davant el dubte, s'aplica la categoria més exigent.
2. Una fitxa de registre per cas que reculli finalitat, rols, dades i base jurídica, proveïdor, riscos i controls. Serveix alhora de sol·licitud d'autorització, d'inventari i de base per a la transparència.
3. Un cicle de vida amb portes: idea, avaluació, prova de concepte, validació, autorització, operació i retirada. Cap sistema no arriba a producció sense superar les preguntes mínimes.
4. Un banc de proves amb casos habituals, casos límit, preguntes que no ha de respondre, intents de manipulació i casos de diferents col·lectius. Es repeteix després de cada canvi de model.
5. Regles clares de quina informació es pot introduir en cada tipus d'eina: pública en les d'ús general, interna en les corporatives amb contracte i ENS, i dades personals només en sistemes avaluats per a això.

Calendari d'un cop d'ull

Data	Què entra en aplicació
02/02/2025	Pràctiques prohibides (art. 5) i alfabetització del personal (art. 4)
02/08/2025	Governança, autoritats de supervisió i règim sancionador
02/08/2026	Obligacions de transparència (art. 50)
02/12/2027	Requisits i obligacions dels sistemes d'alt risc (després de l'Òmnibus Digital)
02/08/2030	Límit per adaptar els sistemes d'alt risc que ja feia servir el sector públic

Les multes del RIA poden arribar a 35 milions d'euros o al 7 % del volum de negoci; el règim per a les administracions públiques el concretarà la legislació espanyola. Més enllà de la sanció, el risc real és reputacional: un sistema que discrimina o que filtra dades de persones té un cost difícil de reparar.

Tres exemples per entendre com es combinen les normes

Un xatbot que evoluciona. Una organització vol un assistent al seu web.

• Versió 1: respon sobre horaris, tràmits i requisits amb informació ja publicada. Interactua amb persones i ha d'avisar que és una IA (art. 50), però no tracta dades personals: ús condicionat de risc limitat, amb requisits lleugers (registre del cas, avís, banc de proves i canal humà).
• Versió 2: es connecta als sistemes interns perquè cada persona consulti l'estat dels seus expedients. Ara tracta dades personals: a més necessita avaluació d'impacte, autenticació, categoria de seguretat adequada i encàrrec de tractament amb el proveïdor.
• Versió 3: es proposa que denegui automàticament les sol·licituds incompletes. Això és decidir sense intervenció humana sobre un dret: no s'autoritza.

Un sistema que puntua sol·licituds d'ajuts. Si les sol·licituds amb puntuació baixa es deneguen automàticament, és una decisió automatitzada prohibida llevat de previsió legal i garanties. Si un tècnic revisa cada proposta, consulta l'expedient i pot canviar el resultat, no és una decisió només automatitzada, però cal informar de l'ús del sistema i mesurar quantes propostes corregeix el tècnic. Si el tècnic signa en bloc centenars de propostes al dia, és supervisió de façana i torna a ser decisió automatitzada.

Un servei d'IA al núvol. Les dades s'emmagatzemen a Irlanda, però el model s'executa als Estats Units i el suport hi accedeix des d'allà. Hi ha transferència internacional encara que l'emmagatzematge sigui a la UE. Es pot cobrir amb l'adhesió del proveïdor al Marc de privadesa de dades UE-EUA o amb clàusules contractuals tipus, però la manera més segura d'evitar-la és contractar el processament en una regió de la UE i limitar l'accés del suport a casos autoritzats.

El que també exigeix la protecció de dades

• Informació per capes. Una primera capa breu en el mateix canal i un enllaç a la informació completa. Per exemple, a l'inici d'un xatbot: «Està conversant amb un assistent d'intel·ligència artificial. Les seves respostes són orientatives. Responsable: [organització]. Finalitat: atendre consultes. Pot exercir els seus drets i consultar la informació completa a [enllaç]».
• Registre d'activitats de tractament. Cada cas d'IA amb dades personals actualitza un tractament existent o en crea un de nou, i ha de ser coherent amb la fitxa del cas.
• Drets i conservació. La IA desa dades en llocs nous: converses, registres, bases de coneixement i la «memòria» dels agents. Cal fixar terminis de conservació i saber on és cada dada per poder-la lliurar, rectificar o esborrar.
• El delegat de protecció de dades des del principi, no al final: base jurídica, avaluació d'impacte i encàrrecs de tractament es resolen millor en la fase d'avaluació.

Incidents: qui notifica què i quan

Situació	Notificació
Violació de dades personals amb risc per a les persones	A l'AEPD en un màxim de 72 hores i, si el risc és alt, també a les persones afectades
Incident de seguretat amb impacte significatiu al sector públic	Al CCN-CERT, d'acord amb la guia CCN-STIC 817
Incident en un proveïdor que presta servei al sector públic	A l'INCIBE-CERT, i avís a l'organització en el termini fixat al contracte
Entitats afectades per NIS2	Alerta primerenca en 24 hores, notificació en 72 hores i informe final
Incident greu en un sistema d'alt risc	Al proveïdor i a l'autoritat de vigilància del mercat

En un incident amb IA convé conservar com a evidència les entrades i sortides afectades, la versió del model i de les seves instruccions i els registres d'activitat, i tipificar expressament els atacs propis de la IA: injecció d'instruccions, fuita per les respostes o enverinament de dades.

Guies de referència que convé tenir a mà

• AEPD: orientacions sobre IA agèntica, protecció de dades per defecte, adequació al RGPD de tractaments amb IA, requisits d'auditoria i la nota sobre exactitud i qualitat de les dades en IA.
• AESIA: guies pràctiques per al compliment del RIA, amb una llista d'autoavaluació per a sistemes d'alt risc.
• CCN-CERT: la metodologia CCN-STIC-2011 per avaluar la seguretat de productes d'IA i la guia BP/36 de bones pràctiques davant la IA ofensiva.
• FEMP: la Guía práctica y políticas de uso de la IA en las entidades locales, amb models de fitxa d'autorització i registre.
• Estàndards: ISO/IEC 42001 (sistema de gestió de la IA) i ISO/IEC 23894 (gestió de riscos d'IA) com a marc ordenador, sense necessitat de certificar-se.

Quan una autoritat espanyola ha fixat un criteri, preval sobre els estàndards internacionals, que serveixen per completar-lo.

Principis ètics: quan la llei no dona la resposta

Complir la llei és el mínim. Un ús pot ser legal i, tot i així, no ser acceptable. Els principis que convé adoptar de manera expressa són: dignitat de les persones (res de manipular, puntuar socialment ni vigilar), no-discriminació directa ni indirecta, inclusió (sempre un canal atès per persones), autonomia humana, benestar social i ambiental, i rendició de comptes encara que el sistema l'hagi desenvolupat un tercer. L'òrgan que autoritza els usos d'IA ha de poder rebutjar un ús legal si no és èticament acceptable.

Errors freqüents

• Pensar que «encara no fem servir IA» quan ja ve integrada a les aplicacions.
• Provar amb dades reals abans de tenir base jurídica i avaluació d'impacte.
• Contractar un servei d'IA sense revisar on s'executa el model ni si entrena amb les dades.
• Dissenyar una supervisió humana que a la pràctica és signar en bloc.
• Esperar al 2027 per inventariar els sistemes que podrien ser d'alt risc.

Si vols ordenar l'ús de la IA a la teva organització amb un marc que cobreixi totes aquestes normes, a Bidatia t'ajudem a dissenyar-lo i implantar-lo. Pots veure com organitzar les persones a govern de les dades: perfils i organització, com documentar les dades a gestió de metadades i com mesurar l'impacte ambiental a petjada de carboni de la IA.