La participation ne marche que si les gens y font confiance. Quand un habitant prend le temps de partager une idée, de répondre à un sondage ou de donner son avis sur un projet, il fait preuve de confiance — envers son gouvernement et envers les outils que celui-ci utilise pour l'écouter.

C'est pour ça que notre travail repose sur la conviction qu'il faut créer des systèmes auxquels les citoyens, que nos gouvernements servent et consultent, peuvent faire confiance. Ça influence toutes les décisions qu’on prend sur le rôle de l’IA dans nos logiciels : à quoi on l’utilise, sur quels modèles on s’appuie, quelles données ils traitent, et où se situe la limite entre ce que fait la machine et ce qu’une personne décide.

Cette page explique comment l'IA fonctionne aujourd'hui au sein de la plateforme Go Vocal. Il s'agit d'un document évolutif que nous continuerons à mettre à jour si nécessaire.

Cinq engagements guident la manière dont nous avons intégré l'IA à la plateforme :

L'IA permet la mise en œuvre d'un ensemble spécifique de fonctionnalités. Le modèle utilisé pour chacune d'entre elles est choisi en fonction de la tâche à accomplir ; les fournisseurs varient donc d'une fonctionnalité à l'autre :

Nous faisons appel à deux fournisseurs d'infrastructure, qui hébergent chacun les meilleurs modèles de leur catégorie, développés par des tiers.

AWS Bedrock héberge et traite plusieurs modèles tiers exclusivement sur l'infrastructure d'Amazon. Ces modèles ne sont pas développés par Amazon ; ils sont mis à disposition dans le cadre de partenariats et fonctionnent au sein de Bedrock.

Microsoft Azure OpenAI est à la base de nos fonctionnalités avancées de synthèse, de réponse aux questions et de certains marquages automatiques dans le cadre de l'analyse par IA. Microsoft a conclu un partenariat avec OpenAI qui lui permet d'héberger les modèles d'OpenAI au sein de son propre environnement Azure. Ce point est important : ce déploiement est totalement dissocié des services grand public d'OpenAI — il n'affecte ni ChatGPT ni l'API publique d'OpenAI.

Microsoft n'accède aux données transmises à l'API que dans le but de surveiller les abus au regard de son code de conduite — ni pour entraîner des modèles, ni à aucune autre fin.

(Les versions des modèles ci-dessus reflètent l'état actuel de la production et évolueront au fur et à mesure des progrès réalisés dans ce domaine.)

Nos prestataires spécialisés dans l'intelligence artificielle ne reçoivent que le contenu textuel rédigé par un résident dans le cadre d'une contribution — qu'il s'agisse d'une idée ou d'une réponse à un sondage. Cela se produit lorsqu'un administrateur ou un chef de projet ouvre la page des résultats d'un sondage, ou lorsqu'il décide délibérément de lancer une analyse par IA sur un projet d'idéation.

Nous ne transmettons aucune information stockée dans le profil d'un utilisateur : ni adresse e-mail, ni nom d'utilisateur, ni photo, ni données démographiques. D'un point de vue technique, nous ne transmettons pas d'informations personnelles identifiables (PII) à ces prestataires. Il arrive parfois qu'un contributeur mentionne des informations à caractère personnel dans le texte de sa contribution, et c'est ce texte-là qui est analysé. Pour les résumés de commentaires, nous pseudonymisons toutes les mentions @ avant le traitement du texte.

Microsoft et AWS nous permettent tous deux de spécifier la région de traitement, et nous orientons chaque client vers la région la plus proche de chez lui. À l'heure actuelle, nos fonctionnalités Azure OpenAI s'appuient sur deux régions — Europe (Suède) et Est des États-Unis — tandis qu'AWS Bedrock est disponible dans un plus grand nombre de régions.

Nous continuons à suivre de près la disponibilité régionale des modèles haut de gamme, car les tout derniers modèles ne sont pas toujours disponibles simultanément dans toutes les régions. Cela nous oblige parfois à adapter notre choix de modèle afin de trouver un juste équilibre entre la localisation des données et les performances.

Non. Ces deux sous-traitants précisent expressément qu'ils n'utilisent pas les données que nous leur transmettons pour entraîner ou améliorer leurs modèles. En ce qui concerne Azure OpenAI, Microsoft n'a accès à ces données que dans le cadre de la surveillance des abus au regard de son code de conduite.

Tous les prestataires traitent les données conformément à des conditions strictes en matière de confidentialité : les données sont traitées dans la région que nous configurons, aucune donnée n'est conservée au-delà de ce qui est nécessaire à la fourniture du service, le traitement est limité à la finalité demandée, et nos accords sont conformes aux normes du RGPD et du CCPA. Chaque fois que nous ajoutons ou modifions un sous-traitant, nous respectons nos accords de traitement des données et vous informons de ce changement.

Performances : Dans le cadre de notre activité, la précision et la fiabilité sont des critères incontournables, et les modèles de pointe du secteur commercial restent les plus performants sur ces deux plans. On a testé les différentes alternatives de manière approfondie — les modèles GPT d'OpenAI, Llama, Gemini de Google, Mistral et d'autres — en utilisant Promptfoo comme cadre d'évaluation, sur plusieurs ensembles de données réels. Même les meilleurs modèles ouverts restent en retrait par rapport à ce qui se fait de mieux selon notre système de notation.

Coût et hébergement : les modèles ouverts les plus performants sont très volumineux et coûteux à héberger soi-même, ce qui te pousse à te tourner vers des prestataires d'hébergement tiers plus petits et moins bien établis — à l'opposé de la fiabilité que tu recherches — plutôt que vers la tarification à l'utilisation proposée par les modèles commerciaux de pointe.

Le terme « ouvert » ne l'est souvent que partiellement : de nombreux modèles qualifiés d'« open source » sont publiés sous une licence ouverte et, au mieux, accompagnés d'un livre blanc — mais très peu de ceux qui fonctionnent bien font preuve de transparence quant à leurs données d'entraînement. Ce corpus, ainsi que les données de réglage fin et de sécurité qui le sous-tendent, est sans doute l'élément le plus important pour comprendre comment un modèle se comporte réellement. Mistral, par exemple, ne met en open source que ses modèles les plus petits, et seulement le résultat final ; ses meilleurs modèles restent eux aussi propriétaires.

On suit de près ce secteur et on n'est lié à aucun fournisseur en particulier. Le jour où un modèle ouvert sera assez performant pour ce travail, on sera ravis de passer à celui-là. Si un prospect ou un client souhaite discuter d'une solution open source ou d'un autre modèle pour son déploiement, c'est une discussion qu'on est ravis d'avoir — contacte ton interlocuteur chez Go Vocal et on examinera ensemble les différentes possibilités.

On n'entraîne pas nos propres modèles, donc notre influence sur le comportement des modèles de base est limitée — il n'y a qu'une poignée de modèles de pointe dans le monde. Ce qu'on peut contrôler de manière rigoureuse, c'est la façon dont on les utilise, et on teste ça de fond en comble.

Pour la synthèse en particulier, on a constitué 11 ensembles de données tirés de véritables enquêtes et projets de réflexion menés par nos clients, à partir de données anonymisées sur les résidents, dans plusieurs langues (anglais, néerlandais, français, espagnol, danois, allemand). On a ensuite testé notre prompt de synthèse sur plusieurs modèles de langage de grande capacité (LLM) et on a évalué chaque résultat à l'aide de critères concrets, comme ceux ci-dessous :

On a testé neuf versions de la consigne. C'est la combinaison la plus rentable qui est livrée avec le produit. En plus de ces évaluations « quantitatives », on a passé de nombreuses heures à faire des analyses qualitatives : on a lu les résultats et peaufiné les consignes, ce qui est plus difficile à quantifier mais tout aussi important.

On est bien conscients des limites de cette technologie. C'est pour ça que le produit s'appuie sur le jugement humain et que l'expert est toujours impliqué dans le processus.

« Human-in-the-loop » veut dire que, même si on s'appuie sur des modèles avancés pour l'analyse, ce sont toujours les humains qui prennent les décisions et qui valident les résultats. Concrètement :

Tu peux le voir directement dans l'interface :

C'est quand elle est associée à l'expertise des personnes qui gèrent le projet que la technologie donne le meilleur d'elle-même.