Molts projectes d'IA fracassen pel camí que segueixen, no per la tecnologia: es comença per l'eina en lloc del problema, es prova amb dades reals sense base jurídica, el pilot s'allarga sense decidir o la supervisió humana no es concreta mai. Un cicle de vida amb portes (punts en què es comprova si es pot avançar) evita gairebé tots aquests errors.
Les set fases
| Fase | Què es fa | Qui decideix | Sortida |
|---|---|---|---|
| 1. Idea | Descriure la necessitat i la finalitat | Promotor | Proposta d'una pàgina |
| 2. Avaluació | Classificar l'ús; revisar dades, riscos i viabilitat | Responsable funcional, amb protecció de dades i seguretat | Fitxa de registre i preguntes mínimes respostes |
| 3. Prova de concepte o pilot | Provar en un entorn acotat, amb dades mínimes o fictícies | Responsable tècnic | Resultats mesurats davant del banc de proves |
| 4. Validació | Contrastar amb els criteris d'acceptació; revisar errors i biaixos | Responsable funcional | Informe de validació |
| 5. Autorització | Revisar l'expedient complet i autoritzar o denegar | Òrgan de governança d'IA | Autorització i publicació |
| 6. Operació | Ús amb supervisió humana, monitoratge i revisió periòdica | Responsable funcional | Informe de revisió, almenys anual |
| 7. Retirada | Donar de baixa el sistema, recuperar o esborrar dades i tancar accessos | Responsable funcional | Fitxa en estat «retirat» |
Camins de tornada: si la validació no supera els criteris, es torna al pilot. Si durant l'operació hi ha un canvi substancial (nou model o proveïdor, noves fonts de dades, nova finalitat, nous usuaris o més capacitat d'actuar, com passar d'un assistent que respon a un agent que executa accions), es torna a l'avaluació.
No tots els usos recorren el cicle complet: els usos senzills sense dades personals només necessiten una eina autoritzada i formació bàsica. El cicle complet és per als usos que tracten dades personals, interactuen amb persones o donen suport a decisions.
Cada fase, en detall
Fase 1. Idea (1–2 setmanes). Es descriu el problema, a qui afecta i què s'espera aconseguir, i es planteja si de debò cal IA o n'hi hauria prou de millorar el procés o automatitzar-lo amb regles. Lliurable: una proposta d'una pàgina amb la finalitat, el benefici esperat i l'àrea afectada. Error típic: partir de l'eina («volem fer servir IA») en lloc del problema.
Fase 2. Avaluació (2–4 setmanes). Es classifica l'ús segons el risc, es descarta que sigui una pràctica prohibida, s'identifiquen les dades i la base jurídica, es fa una primera anàlisi de riscos amb protecció de dades i seguretat, es valoren alternatives i proveïdors amb un qüestionari mínim i es fixen els criteris d'acceptació. S'obre la fitxa de registre del cas. Error típic: consultar protecció de dades al final o no estimar el cost recurrent.
Fase 3. Prova de concepte o pilot (1–3 mesos). Entorn acotat (una àrea, pocs usuaris, durada limitada), preferiblement amb dades fictícies, anonimitzades o mínimes. Es construeix i s'executa el banc de proves i es recull l'opinió dels usuaris. El Reglament europeu d'IA no s'aplica a les proves prèvies a la posada en servei, però la protecció de dades i la seguretat sí, sempre. Error típic: provar només els casos fàcils o allargar el pilot sense decidir.
Fase 4. Validació (2–4 setmanes). Es contrasten els resultats amb els criteris d'acceptació, es revisen errors i biaixos, es completa l'avaluació d'impacte, es defineix la supervisió humana (qui revisa, què, amb quina mostra i com es reverteix), es categoritza la seguretat, se signa l'encàrrec de tractament i es prepara la formació.
Fase 5. Autorització (2–4 setmanes). L'òrgan de governança de la IA revisa l'expedient, pot demanar condicions i autoritza o denega. Si s'autoritza, es registra el sistema i es publica quan escaigui. Error típic: començar a fer-lo servir «en producció» mentre es tramita.
Fase 6. Operació. Supervisió humana, seguiment d'indicadors, gestió d'incidències, repetició del banc de proves a cada canvi i revisió almenys anual.
Fase 7. Retirada. Quan no compleix els indicadors, canvia la norma, s'acaba el contracte, apareix un risc inacceptable o ja no cal. Pla de sortida: comunicar, exportar el que s'hagi de conservar, exigir l'esborrament amb certificat, revocar accessos i connectors i actualitzar el registre.
El semàfor d'evidències
Abans d'autoritzar el pas a producció, la fitxa del cas ha d'acreditar totes aquestes evidències. Si en falta alguna, l'expedient no s'aprova:
| Evidència | ✓ |
|---|---|
| Finalitat i competència o justificació de negoci | |
| Responsable funcional amb nom | |
| Classificació segons el Reglament europeu d'IA | |
| Categoria de seguretat | |
| Base jurídica, si hi ha dades personals | |
| Avaluació d'impacte i, si és d'alt risc, la de drets fonamentals | |
| Encàrrec de tractament signat | |
| Proveïdor i subproveïdors identificats | |
| Ubicació del tractament | |
| Banc de proves superat | |
| Supervisió humana definida | |
| Pla d'incidents | |
| Pla de sortida o reversibilitat | |
| Registre actualitzat |
Qui fa què
| Tasca | Responsable últim | Executa | Consultats |
|---|---|---|---|
| Proposar el cas | Promotor | Promotor | Responsable funcional |
| Classificar i obrir la fitxa | Responsable funcional | Responsable funcional | Tècnic, seguretat, protecció de dades |
| Base jurídica i avaluació d'impacte | Responsable funcional | Responsable funcional | Protecció de dades, seguretat |
| Seguretat i anàlisi de riscos | Responsable de seguretat | Responsable de seguretat | Tècnic |
| Pilot i banc de proves | Responsable funcional | Responsable tècnic i supervisor | Seguretat, protecció de dades |
| Autoritzar producció | Òrgan de governança d'IA | Òrgan de governança d'IA | Tots els anteriors |
| Supervisió en operació | Responsable funcional | Supervisor humà | — |
| Gestió d'incidents | Responsable de seguretat | Tècnic i supervisor | Protecció de dades |
Dues regles: protecció de dades assessora i supervisa, però no aprova ni executa, per evitar conflictes d'interès; i qui supervisa no aprova el que supervisa.
Preguntes mínimes abans de començar
Si alguna queda sense resposta, el cas no avança:
- Quin problema concret resol i per a qui?
- Cal IA, o n'hi hauria prou de millorar el procés o automatitzar-lo amb regles?
- En quina categoria de risc encaixa? Podria ser d'alt risc o una pràctica prohibida?
- Quines dades necessita, de quines fonts i amb quina base jurídica?
- Tenen les dades prou qualitat i són representatives?
- Interactuarà amb persones o influirà en decisions?
- Qui és el responsable funcional i qui supervisarà els resultats?
- Quin proveïdor, on es processen les dades i si les fa servir per entrenar?
- Com es mesurarà l'èxit i què es considerarà un error?
- S'ha consultat protecció de dades i seguretat?
- S'ha triat el model de mida adequada?
El banc de proves
És la comprovació objectiva i repetible que el sistema funciona. Un conjunt de casos amb la resposta correcta coneguda, preparat per l'àrea que farà servir el sistema, que inclou:
- casos habituals, en nombre suficient;
- casos límit i ambigus;
- preguntes que la IA no ha de respondre;
- intents de manipulació;
- casos de diferents col·lectius, per detectar biaixos.
Els criteris d'acceptació es fixen abans del pilot, no després. Per exemple: almenys un 90 % de respostes correctes, cap referència normativa inventada i zero respostes amb dades d'una altra persona. El banc s'executa en la validació, després de cada canvi de model o d'instruccions i periòdicament en operació. Un cas típic: el proveïdor actualitza el model, es repeteix el banc i l'extracció de dates cau del 96 % al 88 %; l'actualització se suspèn fins que es corregeix.
Baranes de seguretat
Són els controls tècnics que mantenen el sistema dins de la seva finalitat:
- Filtres d'entrada: bloquen dades que no han d'entrar i instruccions malicioses ocultes.
- Filtres de sortida: detecten contingut ofensiu, dades que l'usuari no ha de veure o respostes sense font.
- Límits de tema: el sistema respon només sobre el seu àmbit i deriva la resta a una persona.
- Límits d'accions en els agents: llista tancada d'accions, confirmació humana abans d'enviar, modificar, esborrar o pagar, i topalls de volum i cost.
- Instruccions del sistema documentades i versionades.
S'apliquen en tres capes (proveïdor del model, plataforma i aplicació pròpia), es proven abans de producció, es registra cada activació i es busca l'equilibri: si són massa estrictes, empenyen la gent cap a eines no autoritzades.
Preguntes mínimes abans de producció
Si alguna resposta és «no» o «no se sap», no es passa a producció:
- S'han complert els criteris del banc de proves i estan documentats els errors?
- S'han provat valors extrems i usos fora d'àmbit, i el sistema rebutja, avisa o deriva en lloc d'inventar?
- Les baranes de seguretat estan configurades i provades contra manipulacions?
- Estan fetes l'avaluació d'impacte i, si és d'alt risc, la de drets fonamentals?
- Estan la seguretat categoritzada i l'encàrrec de tractament signat?
- Està definida i provada la supervisió humana: qui, quan i com es reverteix?
- S'informa les persones que interactuen amb una IA?
- Es pot explicar en llenguatge planer com influeix el sistema en el resultat?
- Es guarden registres per reconstruir quina entrada va produir quina sortida?
- Hi ha formació, pla de monitoratge, canal d'incidències i criteris de retirada?
Operació i retirada
En operació es mesura la taxa d'encerts en el mostreig, la taxa de correccions del supervisor (si cau a zero, la supervisió s'ha convertit en un tràmit), les incidències, l'ús i el cost. La retirada es planifica des del principi: exportar el que s'hagi de conservar, exigir al proveïdor l'esborrament amb certificat i revocar connectors i comptes tècnics.
A Bidatia acompanyem projectes d'IA en tot el seu cicle, des de l'avaluació fins a l'operació. Per al marc normatiu, consulta quina normativa s'aplica a la IA i les dades.
Preguntes freqüents
Quant dura un projecte d'IA des de la idea fins a producció?
Orientativament: una o dues setmanes per a la idea, de dues a quatre per a l'avaluació, d'un a tres mesos de pilot, de dues a quatre setmanes de validació i unes altres tantes d'autorització.
Es pot fer una prova de concepte amb dades reals?
Només amb base jurídica, mesures de seguretat i, si escau, avaluació d'impacte abans de començar. El recomanable és fer servir dades fictícies, anonimitzades o mínimes.
Què és un banc de proves d'IA?
Un conjunt de casos amb la resposta correcta coneguda que mesura si el sistema encerta abans de confiar-hi i si continua encertant després de cada canvi.
Què són les baranes de seguretat (guardrails)?
Controls tècnics al voltant del model: filtres d'entrada i sortida, límits de tema i d'accions, i instruccions del sistema. Redueixen errors i manipulacions, però no substitueixen la supervisió humana.
Què es considera un canvi substancial?
Un nou model o proveïdor, noves fonts de dades, una nova finalitat, nous usuaris o afectats, o més capacitat d'actuar. Obliga a tornar a avaluar el sistema.