Was soll Ihr Agent eigentlich tun?

Stellen Sie sich einen Agenten im technischen Kundendienst vor. Er soll Wartungsanfragen zusammenfassen und eine Antwort vorbereiten. Beginnen Sie beim heutigen Ablauf: Eine Anfrage kommt an, jemand ordnet sie einer Anlage zu, eine Fachkraft prüft sie und antwortet. Markieren Sie nun, welchen Schritt der Agent übernehmen soll. Wer entscheidet weiterhin? Was kommt am Ende heraus? Dieses Beispiel ist erfunden, lässt sich aber mit einem eigenen Vorgang durchgehen.

„Kundenservice automatisieren“ lässt vieles offen. „Eine Wartungsanfrage mit Quellenhinweisen für die Fachkraft vorbereiten“ beschreibt eine erkennbare Aufgabe. Schreiben Sie daneben, was ausgeschlossen bleibt: Der Entwurf geht noch nicht an den Kunden, bestätigt keinen Termin und enthält keine verbindliche Leistungszusage. Verlangt der Fachbereich später selbstständiges Versenden, verändert er die Aufgabe. Diese Änderung sollte wieder auf dem Tisch liegen, bevor jemand die zusätzliche Verbindung einschaltet.

Microsoft beschreibt, wie Sie in Copilot Studio einen Agenten in natürlicher Sprache anlegen und vor der Veröffentlichung prüfen.¹

Die kurze Beschreibung im Produkt lässt sich aus dem vereinbarten Auftrag ableiten. Halten Sie Zweck, Daten und Zuständigkeit zusätzlich so fest, dass auch ein Kollege ohne Zugang zum Agenten versteht, was geplant ist.¹

Listen Sie die Quellen für das Wartungsbeispiel auf: Kundenanfrage, Anlagenstammdaten, Wartungshistorie und interne Anleitung. Notieren Sie bei jeder Quelle, welche Felder nötig sind, wer darauf zugreifen darf und wohin die Ausgabe geht. Denken Sie auch an die Personen im Text. Eine technische Anfrage kann Kontaktdaten von Kunden und Beschäftigten enthalten. Der Begriff „Anlagendaten“ macht diese Angaben nicht unsichtbar.

Dust trennt den Datenzugriff eines Agenten von der Berechtigung, ihn zu benutzen. Glean sagt, dass Quellenrechte bei jedem Lesen und Schreiben gelten.^2,3

Prüfen Sie deshalb beides: Wer darf den Agenten aufrufen, und welche Informationen darf er für diese Person verwenden? Bereiten Sie für eine Vorführung erfundene Anlagen mit unterschiedlichen Rechten vor. Vereinbaren Sie das erwartete Ergebnis für eine gesperrte Anlage: keine vertraulichen Einzelheiten und kein daraus erzeugter Antwortentwurf. Lassen Sie denselben Vorgang mit einem eingeschränkten Konto zeigen. Eine erfolgreiche Suche als Administrator sagt wenig darüber aus, was andere Beschäftigte sehen.^2,3

Im Beispiel schreibt der Agent einen Entwurf; die Fachkraft prüft und versendet ihn. Machen Sie diesen Übergang sichtbar. Die entscheidende Person sollte Anfrage, zugeordnete Anlage, Quellen, vorgeschlagenen Text und offene Punkte nebeneinander sehen können. Ein Knopf mit der Aufschrift „Freigeben“ hilft wenig, wenn die Person dazu erst die ursprüngliche Anfrage suchen muss. Besprechen Sie auch, ob sie den Text ändern oder nur zustimmen und ablehnen kann.

Nexus beschreibt die Weitergabe unsicherer Fälle mit dem nötigen Kontext. Glean dokumentiert Zustimmung vor der Ausführung von Aktionen.^4,5

Das sind unterschiedliche Regeln. Eine unklare Anlagenzuordnung soll zu einer Rückfrage führen. Das Versenden kann immer Zustimmung brauchen, auch wenn der Agent sicher ist. Schreiben Sie für das Beispiel auf, dass eine fehlende Antwort nicht als Zustimmung gilt. Ändert der Kunde seine Anfrage, während der Entwurf wartet, muss der neue Sachverhalt geprüft werden. Lassen Sie den Anbieter erklären und zeigen, wie er genau diese Fälle behandelt.^4,5

Fassen Sie den Auftrag auf einem Einsatzblatt zusammen: Zweck, Nutzer, betroffene Personen, Quellen, erlaubte Ergebnisse, ausgeschlossene Aktionen, Freigabepunkt und zuständiger Fachverantwortlicher. Für unser Beispiel steht dort: Der Agent bereitet einen internen Antwortentwurf vor; die Fachkraft prüft und versendet ihn. Termin- und Leistungszusagen bleiben ausgeschlossen. Ergänzen Sie offene Fragen direkt neben dem Punkt, den sie betreffen. So verschwinden sie nicht in einem getrennten Gesprächsprotokoll.

Geben Sie das Blatt an IT, Datenschutz und die zuständigen Kollegen für die rechtliche Prüfung. Bitten Sie sie, fehlende Informationen zu benennen und den beschriebenen Einsatz zu beurteilen. Dieser Leitfaden nimmt keine Einstufung nach dem EU AI Act vor. Für jede offene Einordnungsfrage sollten eine zuständige Person und die noch benötigten Unterlagen feststehen. Ein Produktname allein löst die Frage nicht.

Lassen Sie vor der Angebotsrunde einen unbeteiligten Kollegen erklären, was der Agent tun darf und wer eingreift. Stimmen seine Erklärung, die des Fachbereichs und die des Anbieters überein? Falls nicht, korrigieren Sie das Blatt vor der Vorführung. Leiten Sie anschließend die Abnahmefälle daraus ab. Der Prüfer sollte dieselbe Aufgabe vor sich haben, die der Anbieter bauen soll, einschließlich der ausdrücklich ausgeschlossenen Aktionen.