1. Finalitat i abast
Aquesta política defineix els principis, els compromisos i la direcció de Guanta per a l’ús i el desenvolupament responsables dels sistemes d’intel·ligència artificial. Proporciona el marc de política per als objectius d’IA i per al desenvolupament, la provisió, l’adquisició, el desplegament, l’operació, la supervisió i l’ús de solucions d’IA dins de Guanta.
L’objectiu és garantir que els sistemes d’IA es desenvolupin i s’utilitzin de manera responsable, ètica, segura, fiable i lícita, d’acord amb l’estratègia de Guanta, els compromisos amb els clients, els sistemes de gestió i els requisits legals, reglamentaris i contractuals aplicables.
Aquesta política s’aplica a tot el personal, contractistes, proveïdors, socis i altres tercers que participin en activitats relacionades amb la IA en nom de Guanta. S’aplica tant als sistemes d’IA desenvolupats o proporcionats per Guanta com a les eines, els serveis o els models d’IA utilitzats en les operacions de Guanta.
Tothom qui treballa per a Guanta o en nom seu és responsable d’aplicar aquesta política dins de la seva àrea de treball. La direcció és responsable de fer que la política estigui disponible, sigui compresa, s’implanti, es mantingui i es revisi.
Aquesta política pública forma part del Sistema de Gestió de la Intel·ligència Artificial (AIMS) de Guanta. Estableix els principis i els compromisos que s’implementen mitjançant la Política interna d’ús i desenvolupament responsables dels sistemes d’IA de Guanta, els procediments de suport i els controls específics dels sistemes. Aquests requisits interns implementen i donen suport a aquesta política. Les responsabilitats dels clients i les restriccions negociades es defineixen mitjançant els acords aplicables, el cas d’ús aprovat i la documentació del sistema.
2. Principis d’IA responsable
Guanta es compromet que les activitats relacionades amb la IA seguiran els principis següents.
2.1. Legalitat, ètica i compliment
Els sistemes d’IA i l’ús de la IA han de complir les lleis, els reglaments, les normes, les obligacions contractuals i les polítiques internes aprovades aplicables. Guanta no desenvoluparà, proporcionarà ni utilitzarà sistemes d’IA per a pràctiques prohibides o usos que creïn un risc inacceptable.
Quan un cas d’ús d’IA tingui implicacions legals, ètiques, contractuals o reglamentàries incertes, l’activitat s’ha d’avaluar i aprovar abans de procedir. Les obligacions i decisions pertinents es documenten als registres interns del sistema de gestió de Guanta.
La IA només es pot utilitzar dins dels límits aprovats pel que fa a la seva finalitat, proveïdor, model, usuaris, fonts de dades, eines, integracions i responsable designat. Els usos d’alta sensibilitat, regulats, específics del client o materialment modificats requereixen la revisió del responsable del sistema i dels responsables pertinents de privacitat, seguretat, legal i client abans del seu ús.
2.2. Transparència i explicabilitat
Els sistemes d’IA han de ser prou comprensibles per a la seva finalitat, risc i públic. Guanta proporcionarà informació clara sobre l’ús previst, les limitacions, les condicions d’ús, els requisits de supervisió humana i la participació rellevant de la IA quan sigui necessari o quan, altrament, no fos evident.
Les explicacions, la informació sobre la interpretabilitat i la traçabilitat es proporcionen de manera proporcional al context del sistema i al seu impacte potencial. Guanta no ha de fer afirmacions que exagerin la precisió, l’autonomia, la seguretat, la certificació o l’estatus legal d’un sistema d’IA. S’ha d’informar els usuaris quan interactuïn amb la IA o en depenguin materialment, així com de la incertesa i les limitacions pertinents i dels canals disponibles d’assistència, reclamació i revisió humana.
2.3. Equitat i no-discriminació
Els sistemes d’IA s’han de dissenyar, seleccionar i utilitzar per reduir els biaixos injustificats i els resultats discriminatoris. Guanta considerarà la qualitat, la representativitat, la integritat i l’adequació de les dades i avaluarà els resultats quan la IA pugui afectar materialment persones, grups o clients.
Els resultats de la IA no s’han de tractar com a objectius o autoritzats simplement perquè els ha produït un model. Les preocupacions sobre comportaments injustos, esbiaixats o discriminatoris s’han de registrar, avaluar i tractar.
2.4. Seguretat, protecció i robustesa tècnica
Els sistemes d’IA han d’estar protegits i ser prou robustos per a l’ús previst. Guanta aplicarà controls proporcionats per al disseny segur, el control d’accés, la integritat de les dades i dels models, el registre, la supervisió, la gestió d’errors, la recuperació i el control de canvis.
Els riscos pertinents poden incloure la injecció de peticions, l’enverinament de dades, l’extracció de models o informació, l’ús insegur d’eines, les al·lucinacions, la degradació del rendiment, la fallada del proveïdor, l’accés no autoritzat i el mal ús.
Les peticions, les regles de recuperació, la selecció de models, les definicions d’eines i la configuració de seguretat són components controlats del sistema. Les eines i els agents han d’operar amb l’autoritat mínima necessària, preservar els límits d’accés i autorització, validar les entrades i les sortides i requerir confirmació humana per a les accions conseqüents. Els controls de seguretat, privacitat, qualitat i supervisió no s’han d’ometre ni representar de manera enganyosa.
2.5. Privacitat i protecció de dades personals
Els sistemes d’IA han de seguir els principis de privacitat i protecció de dades des del disseny i per defecte. Les dades personals, les dades dels clients, la informació confidencial i la informació restringida només es poden utilitzar amb sistemes d’IA quan l’ús, el proveïdor, la base jurídica i les salvaguardes s’hagin avaluat i autoritzat.
Guanta minimitzarà les dades, definirà les finalitats i els rols del tractament, aplicarà controls adequats de seguretat i conservació i realitzarà avaluacions d’impacte en matèria de protecció de dades o privacitat quan ho exigeixi la llei o el risc.
No s’ha de suposar que els acords amb els clients autoritzen qualsevol ús de la IA. Les instruccions, les condicions del tractament, les restriccions de transferència i ubicació i les condicions per a les dades sensibles s’han de verificar per al cas d’ús concret. Les credencials i la configuració sensible d’execució s’han de mantenir fora de les peticions i dels registres ordinaris. Els requisits de tractament de la informació, conservació i supressió segura s’apliquen durant tot el cicle de vida de la IA, incloses les peticions, les transcripcions, els conjunts de dades, les incrustacions, els artefactes dels models, els resultats de les eines, les anàlisis derivades i les dades conservades pel proveïdor.
2.6. Supervisió humana
La supervisió humana ha de ser proporcional a l’autonomia, el context i l’impacte potencial del sistema d’IA. Guanta definirà qui supervisa el comportament o els resultats de la IA, quan es requereix validació humana, com s’escalen les preocupacions i com es pot corregir, restringir, desactivar o retirar un sistema d’IA.
Les persones assignades a la supervisió han de tenir la competència, la informació, l’autoritat i el temps suficients per exercir el rol. Els resultats de la IA s’han de revisar críticament en relació amb fonts adequades, proves de validació, el context actual i el judici professional; no s’han de suposar fets verificats. Una persona responsable designada continua sent responsable de les decisions conseqüents i ha de disposar d’un canal efectiu de revisió, intervenció, aturada i escalada.
El resultat de la IA no pot ser l’única base per a decisions amb un impacte material en els drets, els interessos legals, l’ocupació, el crèdit, l’assistència sanitària, la seguretat, l’accés a serveis essencials o interessos significatius similars sense una aprovació documentada per separat i totes les salvaguardes requerides. Els sistemes d’IA no han de prendre ni executar autònomament decisions d’alt impacte tret que una avaluació legal, de riscos i d’impacte aprovada per separat n’autoritzi explícitament l’ús. L’aprovació no pot prevaldre sobre la legislació aplicable, les restriccions del client ni la supervisió humana requerida.
2.7. Impacte social positiu i minimització dels perjudicis
Guanta considerarà els efectes dels sistemes d’IA sobre les persones, els clients, els grups vulnerables, el treball, l’accessibilitat, la societat i el medi ambient. Les activitats d’IA haurien de donar suport a resultats beneficiosos i evitar o reduir els perjudicis previsibles.
Quan sigui pertinent, les avaluacions han de considerar l’eficiència energètica i computacional, la infraestructura del proveïdor, l’impacte ambiental, el mal ús a gran escala i les conseqüències socials més àmplies. Els efectes adversos significatius s’han de tractar, evitar o han de comportar l’aturada del sistema o de l’ús. Qualsevol acceptació del risc residual ha de ser documentada per la direcció autoritzada dins dels criteris legals, contractuals i de risc aprovats aplicables; el risc inacceptable no es pot acceptar.
3. Compromisos d’IA responsable
Aquesta política complementa les polítiques de Guanta sobre seguretat de la informació, privacitat, desenvolupament de programari, proveïdors, qualitat i sistemes de gestió. Els requisits d’IA responsable s’han d’integrar en el cicle de vida del sistema d’IA i en els processos operatius pertinents.
Guanta es compromet a:
- Registrar els sistemes d’IA dins de l’abast abans de l’ús en producció o de la disponibilitat per als clients.
- Definir la finalitat, el responsable, l’ús previst, el mal ús previsible, les parts interessades, les dependències, els recursos de dades, els proveïdors, els usuaris i el context operatiu de cada sistema d’IA.
- Avaluar els riscos, les oportunitats i els impactes específics de la IA, inclosos els riscos tècnics, de seguretat, privacitat, legals, ètics, socials, contractuals i de proveïdors.
- Mantenir actualitzats els registres de riscos, tractament i documentació dels sistemes d’IA.
- Avaluar els controls aplicables del sistema de gestió de la IA i mantenir proves de l’aplicabilitat i el funcionament dels controls.
- Incloure els objectius d’IA responsable i els requisits de control en els requisits del sistema, les decisions de disseny, les proves, l’aprovació de la posada en servei, la supervisió i el control de canvis.
- Establir controls per a la qualitat de les dades, la integritat de les dades, la procedència de les dades, l’ús autoritzat de les dades i la protecció de la informació personal, dels clients i confidencial.
- Proporcionar documentació tècnica i per als usuaris quan sigui necessari, incloses les limitacions, les advertències, els requisits de supervisió humana, les instruccions d’ús segur i els canals per informar d’incidents o preocupacions.
- Revisar les responsabilitats dels proveïdors, les condicions contractuals, els compromisos de seguretat i privacitat, la documentació, les limitacions del servei, les ubicacions del tractament, els subprocessadors, les pràctiques de canvi i les proves d’assegurament. Incloure la conducta del proveïdor pel que fa a la formació i la conservació, la supressió, els incidents, la disponibilitat, la continuïtat, les disposicions de sortida i les responsabilitats compartides; reavaluar els canvis materials abans de continuar amb un ús sensible.
- Formar i conscienciar el personal d’acord amb les seves responsabilitats en matèria d’IA i el context d’ús.
- Registrar les proves de supervisió, els incidents, les no-conformitats, les accions correctives i les oportunitats de millora.
- Millorar contínuament l’AIMS i la seva eficàcia perquè la governança de la IA evolucioni amb les noves lleis, els riscos, les tecnologies, les expectatives de les parts interessades i les lliçons apreses.
4. Governança i registres
Guanta manté registres interns del sistema de gestió per a la governança de la IA, inclosos la documentació dels sistemes, les avaluacions de riscos, les responsabilitats, les revisions dels proveïdors, les proves de formació, les proves dels controls, els resultats de la supervisió, els incidents i les accions de millora. Els registres interns detallats es mantenen separadament d’aquesta política pública.
Les responsabilitats organitzatives, els requisits de competència, les assignacions de personal i la propietat específica dels sistemes d’IA es defineixen i es mantenen internament. La direcció proporciona orientació i recursos, aprova la política i les excepcions materials i revisa l’AIMS. Els responsables designats dels sistemes i de les dades treballen amb les funcions pertinents de seguretat, privacitat, tecnologia i supervisió per implementar els requisits; l’assegurament independent n’avalua l’eficàcia. La governança dels proveïdors segueix el procés de gestió de proveïdors de Guanta.
Aquesta política proporciona el marc per establir i revisar els objectius d’IA. Guanta manté els objectius, les responsabilitats i les mesures proporcionades en els registres del sistema de gestió, revisa el progrés i l’eficàcia dels controls i utilitza els resultats per orientar les accions correctives i la millora contínua.
Els sistemes d’IA s’han de supervisar de manera proporcional al seu risc. La supervisió pot incloure l’estat del servei, els errors, la qualitat dels resultats, els esdeveniments de seguretat, els comportaments insegurs o enganyosos, les reclamacions, les intervencions humanes, els canvis dels proveïdors i l’eficàcia dels controls. Els plans de supervisió defineixen els llindars pertinents, els responsables, la freqüència de revisió i les accions. Els canvis materials en els sistemes, els proveïdors, els models, les dades, les peticions, les eines, les finalitats operatives o les salvaguardes requereixen una revisió, unes proves i una posada en servei controlada proporcionades. Un sistema o ús afectat s’ha de restringir quan les proves siguin insuficients o falli un control material.
S’han d’informar els incidents, les sospites d’incompliment de la política, els resultats perjudicials, els comportaments il·lícits, les preocupacions de seguretat, les preocupacions de privacitat, les preocupacions sobre biaixos i les inexactituds materials. Guanta pot restringir o suspendre un sistema o ús d’IA mentre s’avalua la preocupació. Els incidents i les comunicacions externes es gestionen mitjançant els processos establerts d’incidents i comunicació de Guanta. Les proves han de ser proporcionades i útils per a la contenció, la investigació, les accions correctives i la verificació, sense registrar secrets ni dades personals innecessàries.
Qualsevol excepció als requisits interns d’implementació ha de tenir un abast, una raó, un responsable, una avaluació de riscos, controls compensatoris, una aprovació i una data de caducitat o revisió documentats. Una excepció no pot prevaldre sobre la legislació aplicable, les restriccions del client ni autoritzar usos prohibits o de risc inacceptable. Els conflictes aparents entre aquesta política, els requisits interns i la documentació del sistema s’han d’escalar als rols de direcció responsables perquè els resolguin abans que l’activitat afectada continuï.
5. Revisió i disponibilitat
Aquesta política es revisa almenys anualment i després de canvis legals, reglamentaris, contractuals, organitzatius, de proveïdors, tecnològics, de riscos, d’incidents o de certificació significatius.
La versió actual aprovada es posa a disposició del personal i es pot compartir amb clients, auditors, autoritats i altres parts interessades. Les versions preliminars no s’han de presentar com a política aprovada.
