La partecipazione funziona solo se la gente si fida. Quando un cittadino si prende il tempo di condividere un’idea, rispondere a un sondaggio o dire la sua su un progetto, sta dimostrando fiducia — nei confronti del proprio governo e degli strumenti che il governo usa per ascoltare.

Per questo motivo, il nostro lavoro è guidato dalla convinzione che dobbiamo creare sistemi di cui possano fidarsi i cittadini che i nostri governi rappresentano e con cui si confrontano. Questo influenza ogni decisione che prendiamo sul ruolo che l’IA riveste nel nostro software: per cosa la usiamo, su quali modelli facciamo affidamento, quali dati vengono elaborati e dove si trova il confine tra ciò che fa la macchina e ciò che decide una persona.

In questa pagina ti spieghiamo come funziona oggi l'intelligenza artificiale all'interno della piattaforma Go Vocal. È un documento in continua evoluzione e continueremo ad aggiornarlo quando servirà.

Cinque principi guida ci hanno aiutato a integrare l'IA nella piattaforma:

L'intelligenza artificiale è alla base di una serie specifica di funzionalità. Il modello che sta dietro a ciascuna di esse viene scelto in base al lavoro da svolgere, quindi i fornitori variano da funzione a funzione:

Ci affidiamo a due fornitori di infrastrutture, ognuno dei quali ospita modelli di terza parte tra i migliori del settore.

AWS Bedrock ospita ed elabora diversi modelli di terze parti esclusivamente sull'infrastruttura di Amazon. Questi modelli non sono sviluppati da Amazon; vengono messi a disposizione grazie a partnership e funzionano all’interno di Bedrock.

Microsoft Azure OpenAI è alla base delle nostre funzionalità avanzate di sintesi, risposta alle domande e di alcuni processi di tagging automatico basati sull'intelligenza artificiale. Microsoft ha stretto una partnership con OpenAI che le permette di ospitare i modelli di OpenAI all'interno del proprio ambiente Azure. Questo è importante: l'implementazione è completamente separata dai servizi per i consumatori di OpenAI — non ha nulla a che vedere con ChatGPT né con l'API pubblica di OpenAI.

Microsoft accede ai dati trasmessi all'API esclusivamente per monitorare eventuali violazioni del proprio codice di condotta, non per addestrare modelli né per qualsiasi altro scopo.

(Le versioni dei modelli sopra riportate rispecchiano ciò che è attualmente in produzione e cambieranno man mano che il settore si evolve.)

I nostri fornitori di IA ricevono sempre e solo il testo scritto da un residente in un contributo: un’idea o una risposta a un sondaggio. Questo succede quando un amministratore o un project manager apre la pagina dei risultati di un sondaggio, oppure decide di avviare un’analisi con l’IA su un progetto di ideazione.

Non inviamo le informazioni memorizzate nel profilo di un utente: né l'indirizzo e-mail, né il nome utente, né la foto, né i dati demografici. Dal punto di vista strutturale, non inviamo informazioni di identificazione personale (PII) a questi fornitori. A volte un utente può inserire dati personali all’interno del testo del proprio contributo, ed è proprio quel testo che viene analizzato. Per i riassunti dei commenti, rendiamo pseudonimi tutti i @-mention prima di elaborare il testo.

Sia Microsoft che AWS ci permettono di specificare la regione di elaborazione, e noi indirizziamo ogni cliente verso la regione più vicina a lui. Al momento, le nostre funzionalità Azure OpenAI utilizzano due regioni — Europa (Svezia) e Stati Uniti (Est) — mentre AWS Bedrock è disponibile in un numero maggiore di regioni.

Continuiamo a tenere d'occhio la disponibilità dei modelli di punta nelle varie regioni, visto che i modelli più recenti non sono sempre disponibili in tutte le regioni contemporaneamente. Questo a volte ci costringe ad adeguare la scelta del modello per trovare un equilibrio tra la residenza dei dati e le prestazioni.

No. Entrambi i sub-responsabili del trattamento dichiarano esplicitamente di non utilizzare i dati che inviamo loro per addestrare o migliorare i propri modelli. Per quanto riguarda Azure OpenAI, l'unico motivo per cui Microsoft ha accesso a quei dati è il monitoraggio degli abusi rispetto al proprio codice di condotta.

Tutti i fornitori trattano i dati nel rispetto di rigidi criteri di privacy: i dati vengono trattati nella regione che configuriamo, non viene conservato nulla oltre a quanto necessario per fornire il servizio, il trattamento è limitato alle finalità richieste e i nostri accordi sono conformi agli standard del GDPR e del CCPA. Ogni volta che aggiungiamo o modifichiamo un subappaltatore, rispettiamo i nostri accordi sul trattamento dei dati e comunichiamo la modifica.

Prestazioni: Nel nostro lavoro, precisione e affidabilità sono fondamentali, e i modelli Commercial Frontier continuano a primeggiare su entrambi i fronti. Abbiamo testato a fondo le alternative — i modelli GPT di OpenAI, Llama, Gemini di Google, Mistral e altri — usando Promptfoo come framework di benchmarking, su diversi set di dati reali. Anche i migliori modelli open source restano ancora indietro rispetto allo stato dell'arte nella nostra valutazione.

Costi e hosting: i modelli open più potenti sono molto grandi e costosi da ospitare in proprio, il che ti spinge verso fornitori di hosting di terze parti più piccoli e meno affermati — l’opposto dell’affidabilità che cerchiamo — piuttosto che verso i prezzi basati sull’utilizzo offerti dai modelli commerciali all’avanguardia.

Spesso un modello "aperto" lo è solo in parte: molti modelli definiti open source vengono rilasciati con una licenza aperta e, nella migliore delle ipotesi, un white paper — ma pochissimi di quelli che funzionano bene sono trasparenti riguardo ai dati utilizzati per l'addestramento. Quel corpus, insieme alla messa a punto e ai dati sulla sicurezza su cui si basa, è senza dubbio l'elemento più importante per capire come si comporta effettivamente un modello. Mistral, per esempio, rende open source solo i suoi modelli più piccoli, e solo il risultato finale; anche i suoi modelli migliori sono chiusi.

Seguiamo da vicino questo settore e non siamo legati a nessun fornitore in particolare. Il giorno in cui un modello open source sarà abbastanza valido per questo lavoro, saremo felici di passare a quello. Se un potenziale cliente o un cliente desidera discutere di un modello open source o alternativo per la propria implementazione, siamo ben felici di approfondire l’argomento: contatta il tuo referente Go Vocal e ti illustreremo insieme le possibilità a tua disposizione.

Non addestriamo i nostri modelli, quindi la nostra influenza sul comportamento dei modelli di base è limitata: al mondo ci sono solo una manciata di modelli all’avanguardia. Quello che possiamo controllare con rigore è il modo in cui li usiamo, e lo testiamo a fondo.

Per quanto riguarda in particolare la sintesi, abbiamo creato 11 set di dati tratti da sondaggi reali e progetti di ideazione condotti dai nostri clienti, utilizzando dati anonimizzati sui residenti, in diverse lingue (inglese, olandese, francese, spagnolo, danese, tedesco). Abbiamo poi testato il nostro prompt di sintesi su diversi modelli di linguaggio di grandi dimensioni (LLM) e valutato ogni risultato in base a criteri concreti come quelli riportati qui sotto:

Abbiamo eseguito nove versioni del prompt. La combinazione che dà il punteggio più alto è quella che viene fornita con il prodotto. Oltre a queste valutazioni "oggettive", abbiamo dedicato molte ore all'analisi qualitativa: leggendo i risultati e perfezionando le istruzioni in modi che sono più difficili da quantificare, ma che contano altrettanto.

Siamo ben consapevoli dei limiti di questa tecnologia. Ecco perché il prodotto è pensato per affidarsi al giudizio umano e per coinvolgere sempre l’esperto nel processo.

"Human-in-the-loop" significa che, pur affidandoci a modelli avanzati per l'analisi, sono le persone a prendere le decisioni e a verificare i risultati. In pratica:

Lo puoi vedere direttamente nell'interfaccia:

La tecnologia dà il meglio di sé quando è abbinata all’esperienza di chi gestisce il progetto.