Agentische Workflows: Aufgabentreue (Vorschau)

Stellen Sie sicher, dass Ihre KI-Agents konsistent mit Benutzeranweisungen und Aufgabenzielen übereinstimmen. Das Signal zur Einhaltung von Aufgaben identifiziert Diskrepanzen, z. B. falsch ausgerichtete Toolaufrufe, falsche Werkzeugeingaben oder -ausgaben im Verhältnis zu Benutzerabsichten und Inkonsistenzen zwischen Antworten und Kundeneingaben. Diese Funktionalität ermöglicht Systementwicklern, fehlgerichtete Aktionen proaktiv zu verhindern, indem sie sie blockieren oder das Problem zur Eskalation für menschlichen Eingriff bringen.

Die wichtigsten Ziele des Features "Aufgabentreue" sind:

  • So erkennen Sie Toolaktionen, die mit Benutzerzielen oder Eingabeabsicht falsch ausgerichtet sind, oder falsche Tooleingabe/-ausgabe relativ zu Benutzerabsichten oder Inkonsistenzen zwischen Agentantworten und Kundeneingaben.
  • Um eine Begründung bereitzustellen, wenn Werkzeugaufrufe nicht ordnungsgemäß ausgerichtet sind.
  • Um ein Signal für das Blockieren von nachgelagerten Toolaufrufen und die Eskalation zur Überprüfung durch Menschen im Prozess (HITL) zu geben, wenn die Ausrichtung der Aufgaben gefährdet ist.
  • Um das Vertrauen der Benutzer in agentische Systeme zu fördern, indem die Verhaltenskonsistenz, Transparenz und Kontrolle gestärkt werden.

Voraussetzungen

  • Ein Azure-Abonnement – Create one for free
  • Sobald Sie Ihr Azure-Abonnement haben, erstellen Sie eine Inhaltssicherheitsressource im Azure-Portal, um Ihren Schlüssel und Endpunkt abzurufen. Geben Sie einen eindeutigen Namen für Ihre Ressource ein, wählen Sie Ihr Abonnement aus, und wählen Sie eine Ressourcengruppe, Region und unterstützte Preisstufe aus. Wählen Sie dann "Erstellen" aus.
    • Das Bereitstellen der Ressource dauert ein paar Minuten. Wählen Sie nach Abschluss Zur Ressource wechseln aus. Wählen Sie im linken Bereich unter "Ressourcenverwaltung" den Eintrag "Abonnementschlüssel" und "Endpunkt" aus. Der Endpunkt und eine der Schlüssel werden zum Aufrufen von APIs verwendet.
  • cURL installiert.

Anfrage

Hinweis

Ein Eingabeaufforderungsschildbeispiel finden Sie unter Eingabeaufforderungsschilde.

API-Version:2024-12-15-preview

Felder in der URL

Namen Erforderlich Beschreibung Typ
Endpunkt Ja Die Basis-URL für die Inhaltssicherheits-API. Ersetzen Sie <endpoint> durch den Endpunkt, der für Ihren Azure Dienst bereitgestellt wurde. Schnur
API-Version Ja Die version der zu verwendenden API. Für dieses Feature ist die Version 2024-12-15-preview. Beispiel: <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview Schnur

Parameter im Anforderungstext

Namen Erforderlich Beschreibung Typ
Werkzeuge Ja Eine Liste der Tools, die Funktionen definieren, die in der Aufgabe verwendet werden sollen. Jedes Tool enthält einen Typ (z. B. "Funktion") und Details zur Funktion, einschließlich name und Beschreibung. Array von JSON-Objekten
Nachrichten Ja Eine Liste der Nachrichten, die zwischen Dem Benutzer, Assistenten und Tools ausgetauscht werden. Jede Nachricht enthält die Quelle (z. B. "Eingabeaufforderung", "Abschluss"), Rolle (z. B. "Benutzer", "Assistent", "Tool"), Inhalt (Nachrichtentext) und optional toolCalls oder toolCallId. Array von JSON-Objekten

Beispiel für das Anforderungstextschema

Die folgenden Tabellen sind Beschreibungen der Schlüsselfelder im Anforderungstext:

Feld "Tools"
Namen Erforderlich Beschreibung Typ
Typ Ja Der Typ des verwendeten Tools. Für dieses Feature ist es "Funktion" Schnur
function.name Ja Der Name der Funktion. Beispiel: "read_emails" Schnur
function.description Ja Eine kurze Beschreibung der Funktion. Beispiel: "Liest die E-Mails des Benutzers" Schnur
Nachrichtenfeld
Namen Erforderlich Beschreibung Typ
Quelle Ja Der Ursprung der Nachricht. Mögliche Werte: "Prompt", "Vervollständigung" Schnur
Rolle Ja Die der Nachricht zugeordnete Rolle. Mögliche Werte: "Nutzer", "Assistent", "Werkzeug" Schnur
Inhalt Ja Der Inhalt der Nachricht. Beispiel: "Meine E-Mails zusammenfassen" Zeichenfolge oder Matrix
toolCalls Nein Eine Liste von Toolaufrufen des Agents, einschließlich Typ (z. B. "Funktion"), function.name, function.arguments und einer eindeutigen ID. Array von JSON-Objekten
toolCallId Nein (Für Toolnachrichten) Die ID des Toolaufrufs, auf den geantwortet wird. Entspricht der ID, die im Toolaufruf des Agents angegeben wird. Schnur

API-Antwort

Nachdem Sie Ihre Anforderung übermittelt haben, erhalten Sie JSON-Daten, die die Analysen widerspiegeln, die von Task Adherence durchgeführt wurden. Diese Daten kennzeichnen potenzielle Sicherheitsrisiken innerhalb Ihres Agentworkflows. So sieht eine typische Ausgabe aus:

{
  "taskRiskDetected": true,
  "details": "Agent attempts to share a document externally without user request or confirmation."
}
Namen Beschreibung Typ
AufgabenrisikoErkannt Enthält Ergebnisse der Risikoerkennung für die Eingabe Boolean
Details Gibt die Begründung zurück, wenn ein Risiko erkannt wird Schnur

Ein Wert von true für taskRiskDetected bedeutet die Angabe eines erkannten Risikos. In diesem Fall empfehlen wir eine Überprüfung und entsprechende Maßnahmen, z. B. das Blockieren der Anforderung zur Tool-Ausführung oder eine Mensch-in-der-Schleife-Eskalation vorzunehmen.

Voraussetzungen

Ein Azure Konto. Wenn Sie keins haben, können Sie eine kostenlos erstellen. Eine Azure KI-Ressource.

Einrichten und Verwenden der Aufgabeneinhaltung

Führen Sie die folgenden Schritte aus, um die Seite "Inhaltssicherheit ausprobieren " zu verwenden:

  1. Wechseln Sie zu Azure AI Foundry , und navigieren Sie zu Ihrem Projekt/Hub. Wählen Sie dann auf der linken Navigationsleiste die Registerkarte "Guardrails + controls " aus, und wählen Sie die Registerkarte "Ausprobieren" aus.
  2. Auf der Seite "Ausprobieren " können Sie mit verschiedenen Guardrails & Controls-Features wie Text und Bildinhalten experimentieren, indem Sie anpassbare Schwellenwerte verwenden, um nach schädlichen Inhalten zu filtern.
  3. Navigieren Sie zu "Agentischer Workflow" , und wählen Sie " Aufgabentreue" aus.
  4. Sie können eines der Beispiele mit ausgerichteten oder falsch ausgerichteten Agententool-Aufrufen auswählen oder eigene erstellen, um die Aufgabeneinhaltung zu testen.
  5. Wählen Sie "Test ausführen" aus. Die Einhaltung der Aufgabe gibt die Risikokennzeichnung für jedes Beispiel zurück, und wenn ein Risiko erkannt wird, wird ein Grund zurückgegeben.

Benutzerszenarien

Kundensupport

Szenario: Ein in eine Unternehmensplattform integriertes Kundensupport-Assistent hilft Benutzern, die Datennutzung zu überprüfen, Probleme zu beheben und Kontoeinstellungen zu verwalten. Um die präzise Automatisierung aufrechtzuerhalten, umfasst das System die Aufgabeneinhaltung zur Validierung von Agentenplänen, bevor Backend-Toolaufrufe durchgeführt werden.

Benutzer: Endbenutzer, Supportmitarbeiter und Kundenerfahrungsteams.

Aktion: Ein Benutzer sagt dem Chatbot: "Können Sie überprüfen, wie viele Daten ich in diesem Monat verwendet habe?" Der Assistent plant, ein change_data_plan() Tool aufzurufen. Die Einhaltung der Aufgabe erkennt eine Fehlausrichtung zwischen der Absicht des Benutzers (Informationsanforderung) und der vorgeschlagenen Aktion (Abonnementänderung). Der Aufruf des Tools kann blockiert werden, und das System hält entweder die Ausführung an oder fordert den Benutzer zur Überprüfung auf.

Personalwesen

Szenario: Ein Unternehmensassistent automatisiert routinemäßige HR-bezogene Workflows wie Buchungsurlaub, Übermittlung von Ausgaben und Überprüfen von Richtliniendetails. Durch die Einhaltung der Aufgaben wird sichergestellt, dass Agentaktionen innerhalb des erwarteten Bereichs bleiben und keine unbeabsichtigten Abkürzungen durchführen.

Benutzer: Mitarbeiter, HR-Geschäftspartner und Workflowautomatisierungs-Teams.

Aktion: Ein Mitarbeiter gibt folgendes ein: "Ich möchte wissen, wie viel Jahresurlaub ich noch habe." Der Agent plant, aufzurufen apply_leave(). Die Aufgabeneinhaltung identifiziert einen Aufgabenfehler – der Benutzer hat nach Informationen gefragt, nicht, um einen Prozess zu starten. Die Ausführung wird blockiert; der Agent formuliert um oder fordert zur Bestätigung auf.

Produktivitätstools

Szenario: Ein in eine E-Mail-Plattform eingebetteter Produktivitätsassistent hilft Fachleuten, eine Verbindung mit Datenbanken herzustellen und Nachrichten zu entwerfen, zu überprüfen und zu senden. Die Aufgabentreue wird verwendet, um zwischen dem Schreiben eines Entwurfs und dem Ausführen eines Sendebefehls zu unterscheiden, insbesondere in Fällen, in denen die Benutzerabsicht mehrdeutig ist.

Benutzer: Wissensarbeiter, Leitende Assistenten und IT-Compliance-Teams.

Aktion: Der Benutzer fordert Folgendes auf: "Schreiben Sie eine E-Mail an den Client über den verpassten Stichtag.". Der Agent generiert eine Nachricht und plant, aufzurufen send_email(). Die Aufgabentreue kennzeichnet den Plan als potenziell vorzeitig; es gibt keine explizite Anweisung zum Senden. Das System blockiert stattdessen den vorgesehenen Toolaufruf und fordert die Benutzerüberprüfung auf.

Aufgabenbefolgung: Richtige vs. falsche Werkzeugnutzung

Das Api-Signal zur Einhaltung von Aufgaben hilft Entwicklern und Plattformbesitzern zu verstehen, wann der Toolaufruf eines Agents übereinstimmt oder von der Absicht des Benutzers abweicht.

Beispiele

Klassifizierung Beschreibung Beispiel
Ausgerichtet Der Agent ruft angeforderte Informationen ab, ohne unbeabsichtigte Aktionen auszuführen. Benutzer: "Können Sie mir meine letzten Kalenderereignisse anzeigen?"
Geplantes Tool:get_calendar_events()
✅ Der Agent ruft Ereignisse wie angefordert ab.

Ausgabe:
{ "taskRiskDetected": false }
Fehl ausgerichtet Der Agent versucht, Die Benutzereinstellungen zu ändern, wenn nur eine Informationsanforderung gestellt wurde. Benutzer: "Können Sie mir meine letzten Kalenderereignisse anzeigen?"
Geplantes Tool:clear_calendar_events()
❌ Der Agent bereitet sich auf das Löschen von Daten vor.

Ausgabe:
{ "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."}
Ausgerichtet Der Agent beginnt einen Dokumenterstellungsablauf nach Benutzeranforderungen zum Generieren eines neuen Dokuments. Benutzer: "Erstellen Eines neuen Projektvorschlagsdokuments für den Kunden."
Geplantes Tool:create_document()
✅ Entspricht der Aufgabenanforderung des Benutzers.

Ausgabe:
{ "taskRiskDetected": false}
Fehl ausgerichtet Agent teilt das Dokument mit externen Mitarbeitern ohne Benutzeranweisung. Benutzer: "Erstellen Eines neuen Projektvorschlagsdokuments für den Kunden."
Geplantes Tool:share_document()
❌ Keine Benutzeranweisung zur Freigabe.

Ausgabe:
{ "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."}

Einschränkungen

Verfügbarkeit der Sprache

Die Aufgabentreue wurde auf Text in Englisch getestet; Das Feature kann jedoch in vielen anderen Sprachen funktionieren, obwohl die Qualität variieren kann. In allen Fällen empfehlen wir tests für Ihren Anwendungsfall und Ihre Anwendung, um sicherzustellen, dass sie für Ihre Szenarien funktioniert.

Textlängenbeschränkung

Derzeit hat die Api zur Aufgabenbefolgung Einschränkungen bei der Eingabelänge. Die maximale Textlänge beträgt 100.000 Zeichen. Wenn die Eingabelänge diese Einschränkung überschreitet, wird eine Fehlermeldung angezeigt.

Verfügbarkeit von Regionen und Datenverarbeitung

Während die Task-Adherence in allen Azure KI Inhaltssicherheit Regionen aktiviert werden kann, können Daten möglicherweise in anderen US- und EU-geografischen Regionen außerhalb der spezifizierten Regionen weitergeleitet und verarbeitet werden.

Verwandte Inhalte

  • Last updated on