Partizipation funktioniert nur, wenn die Menschen ihr vertrauen. Wenn sich ein Bürger die Zeit nimmt, eine Idee einzubringen, an einer Umfrage teilzunehmen oder zu einem Plan Stellung zu nehmen, schenkt er damit ein Stück Vertrauen – seiner Regierung und den Instrumenten, mit denen diese ihm Gehör schenkt.

Aus diesem Grund lässt sich unsere Arbeit von der Überzeugung leiten, dass wir Systeme schaffen müssen, denen die Bürger, denen unsere Regierungen dienen und mit denen sie sich beraten, vertrauen. Dies prägt jede Entscheidung, die wir hinsichtlich der Rolle treffen, die KI in unserer Software spielt: wofür wir sie einsetzen, auf wessen Modelle wir uns verlassen, welche Daten ihr zur Verfügung stehen und wo die Grenze zwischen dem liegt, was die Maschine tut, und dem, was ein Mensch entscheidet.

Auf dieser Seite wird erläutert, wie die KI derzeit innerhalb der Go Vocal-Plattform funktioniert. Es handelt sich um ein fortlaufend überarbeitetes Dokument, das wir bei Bedarf weiterhin aktualisieren werden.

Fünf Grundsätze dienen als Leitlinien für die Integration von KI in die Plattform:

Künstliche Intelligenz bildet die Grundlage für eine Reihe spezifischer Funktionen. Das jeweilige Modell wird gezielt für die jeweilige Aufgabe ausgewählt, sodass die Anbieter je nach Funktion variieren:

Wir stützen uns auf zwei Infrastrukturanbieter, die jeweils erstklassige Modelle von Drittanbietern bereitstellen.

AWS Bedrock hostet und verarbeitet verschiedene Modelle von Drittanbietern ausschließlich auf der Infrastruktur von Amazon. Diese Modelle werden nicht von Amazon entwickelt; sie werden im Rahmen von Partnerschaften bereitgestellt und laufen innerhalb von Bedrock.

Microsoft Azure OpenAI bildet die Grundlage für unsere fortschrittlichen Funktionen zur Zusammenfassung, zur Beantwortung von Fragen sowie für bestimmte automatische Kennzeichnungen bei KI-Analysen. Microsoft unterhält eine Partnerschaft mit OpenAI, die es dem Unternehmen ermöglicht, die Modelle von OpenAI in der eigenen Azure-Umgebung zu hosten. Dies ist wichtig: Die Bereitstellung ist vollständig von den Endkundendiensten von OpenAI entkoppelt – sie hat keinerlei Auswirkungen auf ChatGPT oder die öffentliche OpenAI-API.

Microsoft greift auf die an die API übermittelten Daten ausschließlich zum Zweck der Überwachung auf Verstöße gegen seinen Verhaltenskodex zu – nicht zum Trainieren von Modellen und auch nicht für sonstige Zwecke.

(Die oben aufgeführten Modellversionen entsprechen dem aktuellen Produktionsstand und werden sich mit den Fortschritten auf diesem Gebiet ändern.)

Unsere KI-Anbieter erhalten ausschließlich den Textinhalt, den ein Bewohner in einem Beitrag verfasst hat – sei es eine Idee oder eine Antwort auf eine Umfrage. Dies geschieht, wenn ein Administrator oder Projektleiter eine Seite mit Umfrageergebnissen öffnet oder bewusst eine KI-Analyse für ein Ideenfindungsprojekt startet.

Wir geben keine im Profil eines Nutzers gespeicherten Informationen weiter – weder E-Mail-Adresse, Benutzername, Bild noch demografische Daten. Grundsätzlich übermitteln wir keine personenbezogenen Daten (PII) an diese Anbieter. Es kann vorkommen, dass ein Nutzer personenbezogene Daten in den Text seines eigenen Beitrags einfügt, und genau dieser Text wird analysiert. Bei Zusammenfassungen von Kommentaren pseudonymisieren wir alle @-Erwähnungen, bevor der Text verarbeitet wird.

Sowohl Microsoft als auch AWS ermöglichen es uns, die Verarbeitungsregion festzulegen, und wir leiten jeden Kunden an die Region weiter, die für ihn am nächsten liegt. Derzeit nutzen unsere Azure OpenAI-Funktionen zwei Regionen – Europa (Schweden) und US-Ost –, während AWS Bedrock in einer größeren Anzahl von regionalen Bereitstellungen ausgeführt wird.

Wir beobachten weiterhin die regionale Verfügbarkeit der Spitzenmodelle, da die neuesten Modelle nicht immer in jeder Region gleichzeitig erhältlich sind. Dies erfordert gelegentlich, dass wir unsere Modellauswahl anpassen, um einen Ausgleich zwischen Datenspeicherort und Leistung zu schaffen.

Nein. Beide Unterauftragsverarbeiter erklären ausdrücklich, dass sie die von uns übermittelten Daten nicht zum Trainieren oder Verbessern ihrer Modelle verwenden. Im Falle von Azure OpenAI hat Microsoft ausschließlich zu dem Zweck Zugriff auf diese Daten, um diese im Hinblick auf Verstöße gegen den Verhaltenskodex zu überwachen.

Alle Anbieter verarbeiten Daten gemäß strenger Datenschutzbestimmungen: Die Daten werden in der von uns festgelegten Region verarbeitet, es werden keine Daten über das für die Erbringung der Dienstleistung erforderliche Maß hinaus gespeichert, die Verarbeitung beschränkt sich auf den angeforderten Zweck, und unsere Vereinbarungen entsprechen den Standards der DSGVO und des CCPA. Wann immer wir einen Unterauftragsverarbeiter hinzufügen oder wechseln, halten wir uns an unsere Datenverarbeitungsvereinbarungen und teilen die Änderung mit.

Leistung: Bei unserer Arbeit sind Genauigkeit und Zuverlässigkeit unverzichtbar, und die kommerziellen Spitzenmodelle sind nach wie vor in beiden Bereichen führend. Wir haben die Alternativen – die GPT-Modelle von OpenAI, Llama, Gemini von Google, Mistral und andere – unter Verwendung von Promptfoo als Benchmarking-Framework anhand mehrerer realer Datensätze umfassend getestet. Selbst die besten Open-Source-Modelle liegen in unserer Bewertung noch hinter dem aktuellen Stand der Technik zurück.

Kosten und Hosting: Die leistungsstärksten offenen Modelle sind sehr umfangreich und im Eigenbetrieb kostspielig, was Sie dazu zwingt, auf kleinere, weniger etablierte Drittanbieter für Hosting zurückzugreifen – das Gegenteil der von uns angestrebten Zuverlässigkeit –, anstatt die nutzungsabhängige Preisgestaltung zu nutzen, die die innovativen kommerziellen Modelle bieten.

„Offen“ bedeutet oft nur teilweise offen: Viele als Open Source bezeichnete Modelle werden unter einer offenen Lizenz und bestenfalls zusammen mit einem Whitepaper veröffentlicht – doch nur sehr wenige der leistungsstarken Modelle legen ihre Trainingsdaten offen. Dieser Datensatz sowie die damit verbundenen Feinabstimmungs- und Sicherheitsdaten sind wohl der wichtigste Faktor, um zu verstehen, wie sich ein Modell tatsächlich verhält. Mistral beispielsweise stellt lediglich seine kleineren Modelle als Open Source zur Verfügung, und zwar nur das Endergebnis; auch seine besten Modelle sind nicht offen zugänglich.

Wir verfolgen die Entwicklungen in diesem Bereich aufmerksam und sind nicht an einen bestimmten Anbieter gebunden. An dem Tag, an dem ein offenes Modell für diese Aufgabe gut genug ist, werden wir gerne umsteigen. Sollte ein Interessent oder Kunde ein Open-Source- oder alternatives Modell für seine Implementierung besprechen möchten, freuen wir uns über ein solches Gespräch – wenden Sie sich bitte an Ihren Ansprechpartner bei Go Vocal, und wir werden gemeinsam die Möglichkeiten erörtern.

Da wir keine eigenen Modelle trainieren, ist unser Einfluss auf das Verhalten der Kernmodelle begrenzt – weltweit gibt es nur eine Handvoll „Frontier“-Modelle. Was wir jedoch streng kontrollieren können, ist die Art und Weise, wie wir sie einsetzen, und dies prüfen wir gründlich.

Speziell für die Zusammenfassung haben wir 11 Datensätze erstellt, die auf realen Umfrage- und Ideenfindungsprojekten unserer Kunden basieren und anonymisierte Daten von Einwohnern umfassen, wobei mehrere Sprachen (Englisch, Niederländisch, Französisch, Spanisch, Dänisch, Deutsch) abgedeckt werden. Anschließend haben wir unsere Zusammenfassungsanweisung über mehrere LLMs hinweg durchlaufen lassen und jede Ausgabe anhand konkreter Kriterien wie den folgenden bewertet:

Wir haben neun Varianten der Eingabeaufforderung getestet. Die Kombination mit der höchsten Punktzahl ist diejenige, die im Produkt enthalten ist. Neben diesen „harten“ Bewertungen haben wir viele Stunden mit qualitativen Überprüfungen verbracht – wir haben die Ergebnisse gelesen und die Eingabeaufforderungen so angepasst, dass dies zwar schwerer zu quantifizieren ist, aber ebenso wichtig ist.

Wir sind uns der Grenzen dieser Technologie durchaus bewusst. Aus diesem Grund basiert das Produkt auf menschlichem Urteilsvermögen und der ständigen Einbindung von Experten.

„Human-in-the-Loop“ bedeutet, dass wir uns zwar bei der Analyse auf fortschrittliche Modelle stützen, die Menschen jedoch weiterhin die Entscheidungsträger und Prüfer sind. Konkret:

Dies können Sie direkt in der Benutzeroberfläche sehen:

Die Technologie entfaltet ihr volles Potenzial erst dann, wenn sie mit dem Fachwissen der Projektverantwortlichen kombiniert wird.