IA governata per le istituzioni che operano in Cina,
costruita per la registrazione, la valutazione e il fascicolo transfrontaliero

Registrazione di algoritmi e IA generativa: la registrazione presuppone che tu sappia descrivere il tuo sistema

L'Amministrazione del cyberspazio cinese amministra un regime di registrazione per i servizi di informazione su internet che utilizzano algoritmi di raccomandazione, esteso ai servizi di sintesi profonda e ai servizi di IA generativa offerti al pubblico, con obblighi di valutazione della sicurezza. È qualcosa di insolito su scala globale. La maggior parte delle giurisdizioni pubblica principi e si aspetta che le imprese li interpretino; qui esiste una registrazione che un'organizzazione ha oppure non ha, legata a un servizio nominato, e che presuppone che sappia descrivere finalità e meccanismo dell'algoritmo, le sue fonti di dati, le sue misure di sicurezza e il trattamento degli output. A questo insieme si sono aggiunti requisiti di etichettatura dei contenuti generati in modo sintetico, e una legislazione più ampia sull'IA è stata discussa senza essere approvata: la descrizione onesta è dunque che il regime di registrazione è in vigore e che il quadro legislativo più ampio è ancora in costruzione.

Questo rovescia l'ordine abituale del lavoro. Se la registrazione presuppone una descrizione, la descrizione deve essere vera del sistema in funzione, e restare tale quando prompt, modelli e policy cambiano. La piattaforma rende la descrizione autoprobante: ogni chiamata passa per un unico punto di passaggio governato che valida l'input prima che il modello venga eseguito, valida ciò che torna rispetto alle regole dell'organizzazione e scrive una riga immutabile nel registro -- attore, azione, input, output, versione del modello, versione del prompt, versione della policy e verdetto -- con escalation a una persona nominata ovunque la risposta raggiungerebbe il pubblico o inciderebbe su un individuo. Quando un regolatore chiede quale modello abbia prodotto un dato output, sotto quale policy e in quale data, la risposta è un'interrogazione e non una ricostruzione. KriftAI non ottiene una registrazione per nessuno; rende la prova che la registrazione presuppone un sottoprodotto dell'esecuzione del sistema.

Le tre leggi sui dati: classificazione, localizzazione e sapere chi ha toccato che cosa

La legge sulla cibersicurezza, in vigore dal 2017, la legge sulla sicurezza dei dati del 2021 e la legge sulla protezione delle informazioni personali del 2021 si sovrappongono anziché affiancarsi. La legge sulla sicurezza dei dati impone di classificare e graduare i dati, con doveri rafforzati intorno alle categorie trattate come dati importanti. La legge sulla cibersicurezza pone obblighi di localizzazione agli operatori di infrastrutture critiche dell'informazione, così che alcuni dati raccolti e generati nel corso delle operazioni siano conservati nel Paese. La PIPL fissa doveri di consenso, minimizzazione, informativa e valutazione d'impatto sulle informazioni personali e attribuisce diritti agli individui. Regolamenti successivi sulla gestione della sicurezza dei dati di rete hanno aggiunto dettaglio su classificazione, gestione degli incidenti e doveri degli operatori.

Ciò che le tre hanno in comune è che vi si risponde con registri e non con affermazioni. Un'organizzazione deve poter mostrare dove un insieme di dati è stato, quale sistema lo ha trattato, chi vi ha avuto accesso e in virtù di quale autorità. La piattaforma applica la classificazione nel punto di acquisizione e non in un foglio di calcolo tenuto in seguito: la classe di dati viaggia con la chiamata, l'accesso limitato per ruolo fa sì che un operatore veda solo ciò che il suo mandato consente, le modalità di registrazione del contenuto possono conservare un'impronta verificabile invece del contenuto quando questo è sensibile, e ogni accesso viene scritto in un registro immutabile. La cancellazione certificata produce un certificato a prova di manomissione quando un insieme di dati deve davvero sparire. Dove l'IA aiuta a classificare, riassumere o instradare dati regolati, la decisione di classificazione è essa stessa un evento registrato e riproducibile.

Trasferimento transfrontaliero: il registro di audit è il risultato atteso

Che una data esportazione di informazioni personali fuori dalla Cina sia consentita dipende dalla via applicabile. Una valutazione di sicurezza della CAC, un contratto tipo depositato accompagnato da una valutazione d'impatto sulla protezione delle informazioni personali, oppure una certificazione sono i percorsi riconosciuti, e quale si applichi dipende dal volume e dalla sensibilità dei dati, dal fatto che l'esportatore sia o meno operatore di infrastruttura critica dell'informazione e dal fatto che i dati rientrino in una categoria trattata come importante. Soglie ed esenzioni sono state modificate più di una volta, comprese disposizioni intese a facilitare i normali flussi d'affari e accordi propri delle zone franche, e la materia continua a evolvere: il che consiglia di conservare prove che soddisfino la lettura più rigorosa anziché la più comoda.

In ogni via la sostanza è la stessa: garanzie documentate, una valutazione difendibile e un registro di ciò che ha effettivamente attraversato il confine. Per una multinazionale che gestisce un modello condiviso, uno stack analitico condiviso o una funzione di supporto globale, questo significa sapere con precisione quali campi sono usciti, quando, verso quale destinatario e su quale base giuridica. Il punto di passaggio governato lo applica invece di descriverlo: una chiamata che invierebbe un campo riservato verso una destinazione fuori perimetro viene bloccata prima che il modello venga eseguito, una deroga viene inoltrata a una persona nominata, e la decisione di deroga è essa stessa scritta nel registro con la sua motivazione. Il dispiegamento può essere organizzato perché i dati soggetti alle regole cinesi siano trattati nel Paese, con la policy propria di ciascuna giurisdizione applicata allo stesso punto di passaggio e non in sistemi separati che finiscono per divergere.

Industria e catena di fornitura: una tracciabilità che leggerà anche un acquirente estero

La base industriale cinese è la parte dell'economia più esposta a documenti letti da persone appartenenti ad altri ordinamenti. Documentazione di esportazione e dichiarazioni doganali, tracciabilità del prodotto dal lotto di componenti all'unità finita, registri di qualità e ispezione, certificati di prova e dichiarazioni dei fornitori vengono letti dalla regolazione di mercato e dalle dogane nazionali, e poi riletti da acquirenti esteri, regolatori stranieri e dai revisori dei clienti che applicano le proprie regole di dovuta diligenza e di rendicontazione della catena di fornitura.

L'IA è già ordinaria in questo lavoro: classificazione dei difetti da immagini di ispezione, analisi di resa e di processo, previsione della domanda e dei tempi di consegna, estrazione documentale da certificati e dichiarazioni, traduzione di documentazione tecnica. Ognuna di queste operazioni è un'affermazione che qualcuno a valle potrà verificare. La piattaforma valida l'input prima che il modello venga eseguito, valida l'output rispetto alle regole dello stabilimento o dell'esportatore prima che raggiunga un operatore, effettua l'escalation a una persona ovunque una determinazione rilascerebbe un lotto o firmerebbe una dichiarazione, e scrive una riga immutabile per ogni chiamata. Una classificazione di difetto che non può essere ricondotta alla sua immagine, alla sua versione di modello e alla sua soglia non è una classificazione su cui il revisore di un cliente possa fare affidamento, e un fascicolo di tracciabilità che non può essere rieseguito esattamente com'era è un argomento e non un registro.

Banche, intermediari e assicurazioni sotto la vigilanza di PBOC, CSRC e NFRA

Le istituzioni finanziarie affrontano le aspettative più rigorose in materia di rischio tecnologico e operativo di qualunque settore. La Banca popolare cinese è al centro del sistema dei pagamenti e della vigilanza antiriciclaggio, la Commissione di regolamentazione dei valori mobiliari vigila sui mercati dei titoli e dei futures e sui loro intermediari, e l'Amministrazione nazionale di regolamentazione finanziaria vigila su banche e assicurazioni. Governance dei modelli, sicurezza delle informazioni, continuità operativa, esternalizzazione e rischio fornitori, e trattamento delle informazioni dei clienti ai sensi della PIPL rientrano tutti nel loro mandato, e gli intermediari ricadono inoltre nel regime di registrazione degli algoritmi ovunque offrano al pubblico servizi di raccomandazione o generativi.

Screening antiriciclaggio e sanzioni, modelli di credito e di rischio, assistenti per il servizio clienti, sintesi della ricerca e segnalazioni di vigilanza passano tutti per uno stesso punto di passaggio governato, producendo prove in una forma che un'autorità di vigilanza, una funzione di audit interno e un revisore esterno accettano ciascuno senza un successivo esercizio di traduzione. Lo screening è applicato e non consultivo: una corrispondenza blocca la chiamata, una deroga viene inoltrata a una persona nominata, e quella decisione è registrata con la sua motivazione. Le versioni di modello e di prompt sono ancorate a ogni decisione, così un esito creditizio o di sorveglianza contestato due anni dopo può essere rieseguito esattamente com'era. Producete la prova di vigilanza una volta, e lasciate che venga letta molte volte.

Interfacce di governance e registri di audit in cinese

Il cinese standard è la lingua dell'amministrazione, della regolazione, dei contratti e dei tribunali, e la lingua di lavoro della stragrande maggioranza di chi opera questi sistemi. Registrazioni, valutazioni, corrispondenza di vigilanza e rilievi ispettivi sono preparati e letti in cinese. Questo rende la governance in lingua cinese un requisito operativo e non una comodità di localizzazione: una policy che un operatore non può leggere nella propria lingua è una policy che non verrà seguita, e un registro di audit che un regolatore deve far tradurre è un registro il cui significato diventa contestabile proprio nel momento in cui conta.

Definizioni di policy, regole di validazione, messaggi di blocco e di escalation, code di revisione e il registro stesso funzionano in cinese, così che chi decide, chi esamina un'escalation e chi risponde a un regolatore leggano tutti lo stesso testo e non tre approssimazioni. Per le multinazionali la stessa prova deve restare leggibile a una funzione di gruppo altrove, perciò il registro porta entrambe senza che l'una sia il riassunto dell'altra. Dove l'IA aiuta a tradurre documentazione tecnica o normativa, la traduzione è una chiamata governata come le altre -- validata, versionata e registrata -- perché un obbligo tradotto che non può essere ricondotto alla sua fonte non è un obbligo su cui si possa contare in sicurezza.

Dispiegamento nel Paese e presso la sede

Applicazione delle policy, inferenza e registrazione di audit vengono eseguite nell'ambiente dell'organizzazione: il suo data center, la sua regione di cloud privato, il suo stabilimento. I dati non escono dal perimetro per essere trattati, l'unica versione di residenza dei dati che resiste al contatto con un obbligo di localizzazione.

Funzionamento isolato come configurazione supportata

Per dati trattati come importanti, per infrastrutture critiche dell'informazione e per ambienti di ricerca o industriali che non consentono alcuna via in uscita, dispiegate senza nessuna. La piattaforma non contatta l'esterno per telemetria, verifica di licenza o instradamento dei modelli, perciò l'isolamento completo è una configurazione supportata e non degradata.

Residenza giurisdizionale per operazioni multinazionali

Un gruppo che gestisce modelli condivisi in più Paesi può dispiegare in modo che i dati soggetti alle regole cinesi restino dove quelle regole richiedono, con la policy propria di ciascuna giurisdizione applicata allo stesso punto di passaggio e non in sistemi separati che divergono. Ciò che attraversa una frontiera lo fa per una decisione esplicita e registrata, non per impostazione predefinita.

Applicazione offline in reparto e sul campo

La governance non si ferma quando si ferma la connettività. Su una linea di produzione, in un porto o in un'area doganale, in un sito remoto o in un veicolo, la validazione continua a essere eseguita e il registro continua a scrivere, e le scritture create offline si riconciliano in modo pulito quando il collegamento torna.