Veraltete GOV.UK-Seiten füttern KI-Übersichten mit falschen Daten

Künstliche Intelligenz (KI) basierte Übersichten von Suchmaschinen wie Google verbreiten fehlerhafte Informationen über britische Regierungsdienste. Dies geschieht, weil diese Systeme auf veraltete Seiten von GOV.UK zugreifen, wie Content-Designer des Department for Business and Trade (DBT) berichten.

Giorgio Di Tunno, Senior Content Designer, und Neil Starr, Content Operations Lead des DBT, erklärten in einem Blogpost, dass nicht mehr gepflegte Seiten nun aktiv von KI-Systemen zur Beantwortung von Nutzeranfragen genutzt werden. Ein Beispiel zeigt, dass eine Google-Suche nach den Kosten für die Gründung einer Wohltätigkeitsorganisation in Großbritannien eine KI-Übersicht lieferte, die von einem veralteten Eintrag stammte. Die dort genannten Kosten von 13 Pfund online oder 40 Pfund per Post für die Eintragung bei Companies House sind falsch. Die tatsächlichen Kosten liegen bei 100 Pfund online oder 124 Pfund per Post.

Das Problem liegt nicht in der Absicht der Regierung, Nutzer in die Irre zu führen, sondern in der inkonsistenten Informationslage, die durch KI entsteht. Dies untergräbt das Vertrauen in staatliche Dienstleistungen. Während früher veraltete Seiten kaum mehr aufgerufen wurden, werden sie heute durch agentische Suchprozesse der generativen KI aktiv zur Beantwortung spezifischer Anfragen herangezogen.

Als Reaktion darauf hat das DBT eine Überprüfung von GOV.UK-Seiten durchgeführt, die seit fünf Jahren nicht aktualisiert wurden, weniger als elf Aufrufe in diesem Zeitraum hatten und keinen aktiven Verantwortlichen besaßen. Darunter fielen auch Seiten des ehemaligen Department for Business, Energy and Industrial Strategy. Das DBT identifizierte und korrigierte 150 dieser Seiten, indem sie entweder auf archivierte Versionen, aktuelle GOV.UK-Seiten oder relevante Gesetzestexte umgeleitet wurden.

Zusätzlich testet das Ministerium nun sechsmonatige Überprüfungszyklen für Inhalte, wobei das Datum der letzten und nächsten Überprüfung auf jeder Seite angezeigt wird. Diese Maßnahme soll das Vertrauen der Nutzer in die Aktualität der bereitgestellten Informationen stärken.

Die Herausforderung der KI-gesteuerten Zusammenfassungen betrifft auch andere Regierungsstellen. Mark Edwards, Head of Design beim Department for Education, wies darauf hin, dass diese Übersichten oft zu enge oder unvollständige Antworten liefern. Er betonte die Notwendigkeit, Inhalte so zu gestalten, dass sie auch dann ihre Integrität bewahren, wenn sie von externen Systemen atomisiert, zusammengefasst oder neu interpretiert werden.