La participación solo funciona si la gente confía en ella. Cuando un vecino se toma la molestia de compartir una idea, responder a una encuesta o dar su opinión sobre un plan, está depositando su confianza —en su administración y en las herramientas que esta utiliza para escuchar—.

Por eso, nuestro trabajo se basa en la convicción de que debemos crear sistemas en los que confíen los ciudadanos a los que nuestros gobiernos prestan servicio y con los que consultan. Esto influye en cada decisión que tomamos sobre el papel que desempeña la IA en nuestro software: para qué la usamos, en qué modelos confiamos, a qué datos tienen acceso y dónde está la línea divisoria entre lo que hace la máquina y lo que decide una persona.

En esta página te explicamos cómo funciona actualmente la IA dentro de la plataforma Go Vocal. Es un documento en constante evolución y lo seguiremos actualizando según sea necesario.

Hay cinco compromisos que marcan la forma en que hemos integrado la IA en la plataforma:

La IA hace posible un conjunto específico de funciones. El modelo que hay detrás de cada uno se elige en función del trabajo, así que los proveedores varían según el servicio:

Contamos con dos proveedores de infraestructura, cada uno de los cuales aloja los mejores modelos de terceros.

AWS Bedrock aloja y procesa varios modelos de terceros exclusivamente en la infraestructura de Amazon. Estos modelos no los crea Amazon; están disponibles gracias a colaboraciones y se ejecutan en Bedrock.

Microsoft Azure OpenAI es la base de nuestras funciones avanzadas de resumen, respuesta a preguntas y del etiquetado automático de algunos análisis de IA. Microsoft tiene un acuerdo de colaboración con OpenAI que le permite alojar los modelos de OpenAI dentro del propio entorno Azure de Microsoft. Esto es importante: la implementación está totalmente separada de los servicios para usuarios de OpenAI; no afecta a ChatGPT ni a la API pública de OpenAI.

Microsoft solo accede a los datos que se envían a la API con el fin de supervisar posibles incumplimientos de su código de conducta, no para entrenar modelos ni para ningún otro uso.

(Las versiones de los modelos que aparecen arriba reflejan lo que se fabrica actualmente y irán cambiando a medida que avance el sector.)

Nuestros proveedores de IA solo reciben el contenido textual que un residente ha escrito en una aportación: ya sea una idea o una respuesta a una encuesta. Esto ocurre cuando un administrador o un gestor de proyectos abre la página de resultados de una encuesta o decide iniciar un análisis de IA en un proyecto de generación de ideas.

No enviamos la información que está guardada en el perfil de un usuario: ni el correo electrónico, ni el nombre de usuario, ni la foto, ni los datos demográficos. En principio, no enviamos información de carácter personal (PII) a estos proveedores. A veces, un usuario puede incluir datos personales en el texto de su propia aportación, y ese texto es el que se analiza. En los resúmenes de comentarios, se anonimizan todas las menciones con «@» antes de procesar el texto.

Tanto Microsoft como AWS nos permiten especificar la región de procesamiento, y dirigimos a cada cliente a la región más cercana a él. Ahora mismo, nuestras funciones de Azure OpenAI se utilizan en dos regiones —Europa (Suecia) y Este de EE. UU.—, mientras que AWS Bedrock se ejecuta en un conjunto más amplio de implementaciones regionales.

Seguimos de cerca la disponibilidad regional de los modelos de gama alta, ya que los modelos más nuevos no siempre están disponibles en todas las regiones a la vez. Eso nos obliga a veces a ajustar nuestra selección de modelos para encontrar el equilibrio entre la ubicación de los datos y el rendimiento.

No. Ambos subencargados del tratamiento afirman explícitamente que no usan los datos que les enviamos para entrenar o mejorar sus modelos. En el caso de Azure OpenAI, el único motivo por el que Microsoft tiene acceso a esos datos es para supervisar posibles incumplimientos de su código de conducta.

Todos los proveedores tratan los datos siguiendo unas estrictas condiciones de privacidad: los datos se tratan en la región que configuramos, no se conserva nada más allá de lo necesario para prestar el servicio, el tratamiento se limita a la finalidad solicitada y nuestros acuerdos cumplen con las normas del RGPD y la CCPA. Cada vez que añadimos o cambiamos un subencargado del tratamiento, cumplimos con nuestros acuerdos de tratamiento de datos y comunicamos el cambio.

Rendimiento: En nuestro trabajo, la precisión y la fiabilidad son imprescindibles, y los modelos de vanguardia del sector siguen siendo líderes en ambos aspectos. Hemos probado a fondo las alternativas —los modelos GPT de OpenAI, Llama, Gemini de Google, Mistral y otros— utilizando Promptfoo como marco de evaluación comparativa, con múltiples conjuntos de datos del mundo real. Los mejores modelos abiertos siguen sin alcanzar el nivel más avanzado según nuestra puntuación.

Coste y alojamiento: los modelos abiertos más potentes son muy grandes y caros de alojar por tu cuenta, lo que te empuja a recurrir a proveedores de alojamiento externos más pequeños y menos consolidados —justo lo contrario de la fiabilidad que buscamos— en lugar de los precios basados en el uso que ofrecen los modelos comerciales más innovadores.

Lo «abierto» suele serlo solo en parte: muchos modelos etiquetados como de código abierto se publican bajo una licencia abierta y, en el mejor de los casos, con un documento técnico, pero muy pocos de los que funcionan bien son transparentes en cuanto a sus datos de entrenamiento. Podría decirse que ese corpus, junto con el ajuste fino y los datos de seguridad que lo respaldan, es lo más importante para entender cómo se comporta realmente un modelo. Mistral, por ejemplo, solo publica en código abierto sus modelos más pequeños, y solo el resultado final; sus mejores modelos también son de código cerrado.

Seguimos de cerca este sector y no estamos atados a ningún proveedor. El día que haya un modelo abierto que valga la pena para este trabajo, estaremos encantados de cambiarnos a él. Si un cliente potencial o un cliente quiere hablar sobre un modelo de código abierto o alternativo para su implementación, nos encantaría tener esa conversación: ponte en contacto con tu persona de contacto en Go Vocal y te explicaremos las posibilidades.

No entrenamos nuestros propios modelos, así que nuestra influencia en el comportamiento del modelo principal es limitada: solo hay un puñado de modelos de vanguardia en todo el mundo. Lo que sí podemos controlar a fondo es cómo los usamos, y eso lo comprobamos minuciosamente.

En lo que respecta específicamente a la síntesis, hemos creado 11 conjuntos de datos extraídos de encuestas reales y proyectos de ideación llevados a cabo por nuestros clientes, utilizando datos anonimizados de residentes y que abarcan varios idiomas (inglés, neerlandés, francés, español, danés y alemán). A continuación, probamos nuestra indicación de resumen en varios modelos de lenguaje grande (LLM) y evaluamos cada resultado según criterios concretos como los que te muestro a continuación:

Probamos nueve versiones de la indicación. La combinación que da más puntos es la que viene en el producto. Además de estas evaluaciones «objetivas», hemos dedicado muchas horas a un análisis cualitativo: leyendo los resultados y ajustando las instrucciones de forma que, aunque sea más difícil de cuantificar, tiene la misma importancia.

Somos muy conscientes de los límites de la tecnología. Por eso el producto se basa en el criterio humano y en que el experto siempre esté al tanto de todo.

«Human-in-the-loop» significa que, aunque nos apoyamos en modelos avanzados para el análisis, las personas siguen siendo quienes toman las decisiones y las validan. En concreto:

Puedes verlo directamente en la interfaz:

La tecnología da lo mejor de sí misma cuando se combina con la experiencia de la gente que lleva el proyecto.