Was ist Microsoft Foundry Control Plane?

Microsoft Foundry Control Plane ist eine einheitliche Verwaltungsschnittstelle, die Sichtbarkeit, Governance und Kontrolle für KI-Agents, Modelle und Tools in Ihrem Foundry-Unternehmen bietet. Foundry Control Plane zentralisiert die Verwaltung Ihrer KI-Agent-Flotte von Build zu Produktion.

Da Sich Ihre Organisation von isolierten Copiloten zu autonomen Multi-Agent-Flotten entwickelt, benötigen Sie eine einheitliche Aufsicht. Foundry Control Plane bietet die zentrale Verwaltung, die Sie benötigen, um zuverlässig zu skalieren.

Dieser Artikel richtet sich an Unternehmensadministratoren und KI-Entwickler, die KI-Agents über mehrere Projekte hinweg verwalten. Sie erfahren, was Foundry Control Plane bietet, einschließlich Flottenmanagement, Observierbarkeit, Compliance-Durchsetzung und Sicherheitsfunktionen.

Voraussetzungen

Um die Foundry Control Plane zu erkunden, benötigen Sie Folgendes:

• Ein Azure Konto mit einem aktiven Abonnement. Wenn Sie kein Konto haben, erstellen Sie ein free Azure Konto, das ein kostenloses Testabonnement enthält.

• Ein Foundry-Projekt. Wenn Sie kein Projekt haben, erstellen Sie ein Projekt.

• Ein KI-Gateway, das für erweiterte Governancefeatures konfiguriert ist.
• Geeignete Azure rollenbasierte Zugriffssteuerungsberechtigungen (RBAC) für Ihr Abonnement.

Verwendung der Foundry Control Plane

Erwägen Sie die Verwendung der Foundry Control Plane, wenn Ihre Organisation:

• Verwaltet mehrere KI-Agents in verschiedenen Projekten oder Teams.
• Erfordert eine zentrale Sichtbarkeit der Compliance und die Durchsetzung von Richtlinien in einer KI-Flotte.
• Integriert Microsoft Defender und Microsoft Purview für KI-Governance und Bedrohungsschutz.
• Betreibt Agents von mehreren Plattformen, einschließlich Foundry, Microsoft und Nicht-Microsoft-Quellen.
• Muss Kosten, Tokennutzung und Ressourcenverbrauch in einer gesamten KI-Umgebung nachverfolgen.

Ohne Foundry Control Plane verwalten Sie Agents, Modelle und Compliance über einzelne Azure Portalblätter und separate Projektansichten. Foundry Control Plane fügt projektübergreifende Sichtbarkeit, einheitliche Compliance-Erzwingung und integrierte Sicherheitssignale in einer einzigen Schnittstelle hinzu.

Foundry Control Plane-Funktionen

Foundry Control Plane konsolidiert Inventar, Überwachbarkeit, Compliance und Sicherheit in einer rollenbewussten Schnittstelle. Es ist in Microsoft Sicherheits- und Governancesysteme (Microsoft Defender, Microsoft Purview, Microsoft Entra) integriert, um Governance im großen Maßstab bereitzustellen.

Das folgende Diagramm zeigt, wie Foundry Control Plane einen einheitlichen Überblick über die Flotte bietet, mithilfe von Agenten, Modellen und Tools, die in den Projekten eines Abonnements aufgeführt sind.

Foundry Control Plane unterstützt die folgenden Aufgaben.

Verwalten Ihrer Multiplattform-Agent-Flotte

• Verfolgen Sie wichtige Leistungskennzahlen wie aktive Agenten, Abschluss von Abläufen, Compliance-Status, Kosteneffizienz und unerwünschtes Verhalten auf unterstützten Agentplattformen.

• Verwenden Sie Deep Links zu Auswertungs- und Überwachungsfunktionen zur schnellen Fehlersuche, Diagnose und Behebung.

• Visualisieren Sie die Flottengesundheit über Dashboards, die Trends und Anomalien anzeigen.

Überwachen und Verbessern der Agentleistung

• Korrelieren Sie Warnungen, Auswertungsergebnisse und Ablaufverfolgungsdaten, um Probleme schnell zu identifizieren.

• Bewerten Sie kontinuierlich die Agentenleistung, Qualität und Risikodimensionen. Zu den Risikodimensionen können die Aufgabeneinhaltung, die Intentionserkennung, der Erfolg von Toolanrufen, die Realitätsverankerung, vertrauliche Datenlecks und die Gefährdung durch Jailbreak- und domänenübergreifende Prompt-Injection-Angriffe (XPIAs) gehören.

• Verwenden Sie den AI Red Teaming Agent und die Clusteranalyse zur automatisierten Suche nach Schwachstellen und Fehlerursachenanalyse.

• Zeigen Sie Empfehlungen für Verfeinerungen der Eingabeaufforderungen, Modellversions-Upgrades und Konfigurationsänderungen an.

Durchsetzung von Compliance-Leitplanken

• Definieren Sie unternehmensweite Schutzschienenrichtlinien für Sicherheit, Compliance und Qualität.

• Wenden Sie massenweise Korrekturen an, um nicht kompatible Konfigurationen in Ihrer Flotte zu korrigieren.

Sichere Agents

• Planen Sie automatisierte Red-Teaming-Scans und Drift-Monitoring für laufende Agententests.

• Zeigen Sie Defender- und Microsoft-Purview-Benachrichtigungen direkt auf dem 'Foundry Control Plane'-Dashboard an.

• Verfolgen Sie Tariflimits, Tokennutzung und Kostenanomalien, um Ineffizienz oder Missbrauch zu verhindern.

Wichtige Features

Die zuvor beschriebenen Funktionen sind in Bereichen unterteilt, auf die Sie zugreifen, indem Sie " Arbeiten " auf der oberen rechten Symbolleiste des Findry-Arbeitsbereichs auswählen. Mit "Operate" können Sie jeden Agent, jedes Modell und jede Bereitstellung in Ihrem Abonnement überwachen, steuern und optimieren. Diese Features sind derzeit nur über das Foundry-Portal verfügbar.

Jeder Bereich innerhalb von Operate ist für einen bestimmten Auftrag konzipiert. Diese Bereiche helfen verschiedenen Rollen, von Entwicklern bis hin zu Administratoren, KI-Systeme in großem Maßstab zu verwalten.

Übersicht

Verwenden Sie den Bereich "Übersicht ", um die Integrität, Leistung und Compliance der Flotte auf einen Blick zu verstehen.

Dieses Dashboard bietet eine allgemeine Momentaufnahme Ihrer KI-Ressourcen, indem es wichtige betriebliche und Compliance-Metriken in einer Ansicht zusammenführt. Sie können:

• Zeigen Sie wichtige Statistiken wie aktive Agents, Kostentrends, Ausführungsvervollständigungsrate und verhindertes Verhalten an.
• In Anomalien oder Kostenspitzen mithilfe von Kontextdiagrammen und direkten Links zu Bestands-, Überwachungs- oder Richtlinieninformationen vertiefen.
• Identifizieren Sie potenzielle Risiken frühzeitig, indem Sie Warnungszusammenfassungen und trendbasierte Gesundheitsbewertungen verwenden.

Vermögenswerte

Verwenden Sie den Bereich "Ressourcen ", um jeden Agent, jedes Modell und jedes Tool von einem Ort aus nachzuverfolgen, zu analysieren und zu verwalten.

Dieser Bereich bietet eine einheitliche, durchsuchbare Tabelle aller KI-Ressourcen für alle Projekte innerhalb eines Abonnements. Es vereint kritische Metadaten und Gesundheitsindikatoren, sodass Sie Ihre KI-Ressourcen effizient bewerten und darauf handeln können. Sie können:

• Filtern und sortieren Sie nach Schlüsselattributen wie Version, Tags, Integritätsbewertung (Prozentsatz), Kosten, Warnungen und Tokenverwendung, um Ressourcen schnell zu finden.
• Führen Sie einen Drilldown aus jedem Eintrag in der Agenteninventurtabelle zum Tab "Auswertung" oder "Überwachung" durch, um Einblicke vor und nach der Bereitstellung zu erhalten.
• Aufzeigen von Empfehlungen zur Verbesserung von Aufforderungen und Modellen oder zur Optimierung von Konfigurationen basierend auf Leistungs- und Kostensignalen.
• Korrelieren Sie Laufzeitprotokolle mit Auswertungsergebnissen, um die Ursachen von Fehlern oder Leistungsbeeinträchtigungen aufzudecken.
• Visualisieren Sie Drift-, Latenz- und Fehlercluster über Ausgeführte oder Builds hinweg, um neue Probleme frühzeitig zu erkennen.
• Integrieren Sie den AI Red Teaming Agent, um die Erkennung von Sicherheitslücken, Regressionstests und die Reproduktion von Problemen zu automatisieren.
• Modell- und Agentenschutzschienen beobachten und ändern.

Konformität

Verwenden Sie den Compliance-Bereich, um Ihre KI-Systeme zu steuern und die richtigen Leitplanken zu setzen.

Im Bereich "Compliance " können Sie Schutzläufe und Compliancerichtlinien für Ihre KI-Ressourcen definieren, anwenden und kontinuierlich überwachen. Es bietet eine einheitliche Schnittstelle zur Operationalisierung verantwortungsvoller KI-Prinzipien und trägt dazu bei, die Sicherheit und regulierungsrechtliche Ausrichtung auf Unternehmensniveau sicherzustellen. Sie können:

• Definieren und Erzwingen von Schutzmaßnahmen durch umfassende Integrationen mit Azure Policy, Defender und Microsoft Purview. Diese Integrationen sorgen dafür, dass Identitäts-, Daten- und Bedrohungsschutz gemeinsam funktionieren.
• Wenden Sie versionsierte Richtlinien an, und verfolgen Sie Aufgaben, um die vollständige Auditierbarkeit und Rückverfolgbarkeit zwischen Agents und Umgebungen zu gewährleisten.
• Überwachen Sie den Compliance-Status in Echtzeit, sodass Sie nicht konforme Assets anzeigen und die Massenbehebung direkt über Foundry Control Plane aktivieren können.

Mit der Richtlinienverwaltung in Foundry können Administratoren und Entwickler gleichermaßen Qualitäts- und Sicherheitsanforderungen in den Entwicklungs- und Bereitstellungslebenszyklus einbetten. Diese Richtlinien tragen dazu bei, sicherzustellen, dass alle Modelle sicher funktionieren und den organisatorischen und behördlichen Standards entsprechen.

Kontingent

Verwenden Sie den Kontingentbereich , um Kontingente anzuzeigen, anzupassen und anzufordern.

Im Bereich "Kontingent" werden die Modellbereitstellungen und wie viel Kontingent jede Bereitstellung verbraucht, angezeigt. Sie bietet Einblicke in Nutzungsmuster und hilft Ihnen, Ressourcen effektiv zu verwalten.

Standardmäßig werden in der Kontingentansicht nur Modelle mit aktiven Bereitstellungen angezeigt. Aktivieren Sie die Umschaltfläche " Alle anzeigen ", um die vollständige Liste der verfügbaren Modelle und Regionen anzuzeigen, einschließlich der Modelle, die Sie noch nicht bereitgestellt haben. Verwenden Sie "Alle anzeigen ", um das verfügbare Kontingent zu erkunden, bevor Sie eine Bereitstellung erstellen, oder um zu überprüfen, welche Regionen über kapazität für ein bestimmtes Modell verfügen.

Weitere Informationen finden Sie unter Verwalten und Erhöhen von Kontingenten für Ressourcen.

Administrator

Verwenden Sie den Bereich "Administrator ", um alle Projekte, Benutzer und verbundenen Ressourcen in Ihrer Foundry-Umgebung anzuzeigen, zu organisieren und zu verwalten.

Dieser Bereich erweitert Ihre Betriebsansicht über ein einzelnes Projekt hinaus. Die meisten Arbeiten in Foundry erfolgen innerhalb eines Projektkontexts. Der Bereich Admin bietet ein Objektiv auf Unternehmensebene, um mehrere Projekte, Benutzerberechtigungen und verknüpfte Azure Ressourcen von einem Ort aus zu überwachen und zu konfigurieren.

Von Admin aus können Administratoren und Power-Benutzer:

• Erhalten Sie Einblicke in alle Projekte in ihrem Abonnement oder Mandanten, einschließlich aktiver, inaktiver und archivierter Arbeitsbereiche.
• Zeigen Sie detaillierte Projektinformationen wie Besitzer, Region, verbundene Dienste und Compliancestatus an.
• Fügen Sie Benutzer direkt aus einem Projekt hinzu, oder entfernen Sie sie, um granulare Zugriffsstufen zu definieren, die an Organisationsrollen ausgerichtet sind.
• Fügen Sie verbundene Ressourcen an und verwalten Sie diese, wie Speicherkonten, Compute-Cluster und Foundry-Tools, damit Projekte ordnungsgemäß bereitgestellt bleiben.
• Weisen Sie den Zugriff auf die übergeordnete Ebene (Abonnement oder Ressourcengruppe) zu, um eine konsistente Governance und Berechtigungsvererbung für mehrere Projekte sicherzustellen.

Erste Schritte mit Foundry Control Plane

Foundry Control Plane ist im Foundry-Portal verfügbar. Um mit der Verwendung des Foundry-Control-Plane zu beginnen, erkunden Sie die folgenden Ressourcen:

• Konfigurieren Sie ein KI-Gateway: Aktivieren Sie erweiterte Governance-Features in Ihren Foundry-Projekten.
• Konfigurieren Sie die Überwachung für Ihre Agentenflotte: Aktivieren Sie Metriken und Diagnoseinformationen mit Observability-Funktionen.
• Entdecken Sie Agents in Ihrem Abonnement: Sehen Sie, welche Agents verfügbar sind, und verwalten Sie sie zentral.
• Registrieren Sie benutzerdefinierte Agenten: Bringen Sie externe Agenten in das Register der Foundry-Steuerungsebene.
• Wenden Sie eine Schutzschienenrichtlinie für Modelle an: Erstellen und Zuweisen von Schutzschienenrichtlinien, um Sicherheitsstandards für modellübergreifende Bereitstellungen zu erzwingen.

Verwandte Inhalte

• Verwalten Sie Agents in großem Umfang: Verfolgen und verwalten Sie Agents von unterstützten Plattformen in einer einheitlichen Ansicht.
• Manage Compliance und Sicherheit in Microsoft Foundry: Erzwingen Sie verantwortungsvolle KI-Richtlinien, integrieren Sie Defender und Microsoft Purview Signale und reagieren Sie auf Compliancewarnungen.
• Erzwingen von Tokengrenzwerten: Festlegen und Verwalten von tokenbasierten Ratenlimits für die Bereitstellung von Modellen.
• Verwalten der Agent-Infrastruktur als Microsoft Entra Administrator: Verwalten der Agentenidentität und des Zugriffs aus Sicht eines Entra-Administrators.