- Démarrage
- Sécurité et conformité des données
- Organisations
- Authentification et sécurité
- Licences
- À propos des licences
- Tarification unifiée : infrastructure du plan de licence
- Activation de votre licence Enterprise
- Migrer de Test Suite vers Test Cloud
- Migration de licence
- Attribuer des licences aux locataires
- Attribuer des licences utilisateur
- Révocation des licences utilisateur
- Surveillance de l’attribution des licences
- Surallocation de licences
- Notifications d'attribution de licence
- Gestion des licences utilisateur
- Locataires et services
- Comptes et rôles
- AI Trust Layer
- À propos de AI Trust Layer
- Vérification du résumé de l'utilisation
- Affichage des journaux d'audit
- Gestion des politiques AI Trust Layer
- Masquage PII
- Gestion d’Autopilot for Everyone
- Configuration des LLM
- Restriction des appels LLM à vos propres modèles
- Configuration de OpenTelemetry
- Gouvernance des données contextuelles pour les fonctionnalités GenAI
- Applications externes
- Notifications
- Journalisation
- Exporter des données
- Test dans votre organisation
- Résolution des problèmes
- Migrer vers Test Cloud
Options de configuration LLM dans AI Trust Layer pour la connexion de grands modèles de langage personnalisés ou basés sur un abonnement aux services Test Cloud.
L'onglet Configurations LLM vous permet d'intégrer vos abonnements d'IA existants tout en maintenant le cadre de gouvernance fourni par UiPath. Vous pouvez :
- Remplacer l'abonnement LLM UiPath : remplacez les abonnements gérés par UiPath par les vôtres, à condition qu'ils correspondent à la même famille de modèles et à la même version déjà prise en charge par le produit UiPath. Cela permet d'échanger facilement des modèles gérés par UiPath avec vos modèles abonnés.
- Ajoutez votre propre LLM : utilisez n'importe quel LLM qui répond aux critères de compatibilité du produit. Pour garantir une intégration en douceur, le LLM choisi doit passer toute une série de tests initiés par un appel d'enquête avant de pouvoir être utilisé dans l'écosystème UiPath.
L'accès aux modèles gérés par UiPath et/ou aux configurations LLM dépend de la plateforme Cloud que vous utilisez. Pour des détails, reportez-vous à Disponibilité des fonctionnalités de Test Cloud.
La configuration des LLM préserve la plupart des avantages de gouvernance d'AI Trust Layer, y compris l'application de la politique via Automation Ops et les journaux d'audit détaillés. Cependant, les politiques de gouvernance du modèle sont spécifiquement conçues pour les LLM gérés par UiPath.
Cela signifie que si vous désactivez un modèle particulier via une politique AI Trust Layer, la restriction s'applique uniquement à la version gérée par UiPath de ce modèle. Vos propres modèles configurés du même type restent inchangés.
Lorsque vous exploitez l'option pour utiliser votre propre LLM ou abonnement, gardez les points suivants à l'esprit :
- Exigences de compatibilité : le LLM ou l'abonnement choisi doit s'aligner sur la famille de modèles et la version prises en charge par le produit UiPath.
- Configuration : assurez-vous de configurer et de gérer correctement tous les LLM requis dans la configuration personnalisée. Si un composant est manquant, obsolète ou configuré de manière incorrecte, votre configuration personnalisée peut cesser de fonctionner. Dans de tels cas, le système revient automatiquement à un LLM géré par UiPath pour assurer la continuité du service, à moins que les LLM UiPath ne soient désactivés par le biais d’une politique Automation Ops.
- Économies (Cost-saving) : si votre configuration LLM personnalisée est complète, correcte et répond à toutes les exigences nécessaires, vous pouvez être éligible à un taux de consommation réduit.
Licences
Les configurations LLM sont disponibles sur les plans de licence suivants :
- Unified Pricing: Community, Enterprise Platform, Standard Platform, Basic Platform, App Test Platform Enterprise, App Test Platform Standard.
- Flex : Plate-forme avancée, Plate-forme Flex.
How LLM requests are routed
Every LLM call from a UiPath product passes through the AI Trust Layer LLM gateway before it reaches the model, whether the model is UiPath-managed or your own. The diagrams below show the connectivity patterns available for your own models: a direct connection to a publicly reachable provider, a Relay-mediated connection to a model hosted in a private network, and a custom connector for a model behind your own AI gateway.
Direct connectivity through Integration Service
With direct connectivity, the product sends the request to the LLM gateway, which routes it through the Integration Service connection you created for your provider. The connection carries the request across the boundary into your provider's domain, and the response travels back along the same path.
The gateway stays in the path in both directions, so policy enforcement and audit logging apply to every call even though the model is yours.
Private network connectivity through Relay
If your model is hosted on-premises or in a private network with no public endpoint, Relay provides the connection to it. The LLM gateway and Integration Service behave the same as in direct connectivity. The UiPath relay infrastructure then forwards the request through the outbound tunnel that a Relay client inside your network keeps open, and the client calls your model locally.
For this connectivity pattern, the model endpoint must be registered under a Relay Group with Private selected as the connection type when creating the Integration Service connection. For details, refer to Using Relay.
AI gateway connectivity through a custom connector
If your model sits behind your own AI gateway, or exposes an API that no built-in connector supports, a custom Integration Service connector bridges the two formats. The LLM gateway sends and receives the standard request and response format, and the connector translates between that format and the one your gateway expects, in both directions. For details, refer to Connecting custom LLMs through AI Trust Layer.
Définir une configuration LLM
La configuration LLM repose sur Integration Service pour établir la connexion à vos propres modèles. Vous pouvez créer des connexions vers les fournisseurs suivants :
- Azure OpenAI
- OpenAI
- Amazon Web Services
- Anthropic Claude
- Google Vertex
- LLM conforme à OpenAI V1 - Utilisez cette option pour vous connecter à n'importe quel fournisseur LLM dont l'API suit la norme OpenAI V1.Pour des détails, reportez-vous à la documentation du connecteur LLM conforme à OpenAI V1.
Remarque :
Pour utiliser les connexions Integration Service, vous devez ajouter les plages d'adresses IP sortantes Integration Service à votre liste d'autorisation.
Pour configurer une nouvelle connexion, procédez comme suit :
1. Créer la connexion Integration Service
- Dans Integration Service, créez une connexion à votre fournisseur LLM.
- Choisissez le dossier dans lequel la connexion sera stockée.
- Terminez l'authentification tel que requis par le connecteur sélectionné.
Remarque :
Le dossier que vous choisissez contrôle à la fois la sécurité et la visibilité. Pour empêcher tout accès non autorisé, créez la connexion Integration Service dans un dossier privé non partagé. Cependant, notez que la visibilité du modèle est déterminée par l’accès à ce dossier. Si un administrateur n'y a pas accès, la configuration de modèle associée n'apparaîtra pas dans la liste.
2. Ajouter une nouvelle configuration LLM
- Accédez à Admin > AI Trust Layer > Configurations LLM.
- Sélectionnez le Locataire.
- Sélectionnez Ajouter une configuration.
- Choisissez le produit (par exemple, Agents) et la fonctionnalité (par exemple, conception, évaluation et déploiement).
- Sélectionnez le dossier Connexions.
3. Configurer le modèle
Dans la section Configuration du modèle , remplissez les champs suivants :
- Nom LLM : ce champ prend en charge deux options de configuration, selon votre cas d'utilisation :
- Sélectionner un modèle dans la liste – le choix d'un modèle dans la liste prédéfinie remplace l'abonnement LLM géré par UiPath par votre propre abonnement pour ce même modèle. Ce scénario est appelé Apporter votre propre abonnement (BYOS).
- Ajouter un alias personnalisé - L'entrée d'un nom personnalisé vous permet de configurer un modèle qui n'est pas inclus dans la liste prédéfinie des modèles recommandés pour ce produit. Ce scénario est appelé Bring Your Own Model (BYOM).
Remarque :
L'option Ajouter un alias personnalisé est disponible uniquement pour les produits qui prennent en charge des modèles personnalisés. Pour connaître les produits qui prennent en charge les modèles personnalisés, consultez le tableau ci-dessous.
- Type d'API : le point de terminaison de l'API pris en charge par le LLM. Cela doit correspondre au point de terminaison exposé par votre fournisseur.
- Connecteur : le connecteur Integration Service (par exemple, Microsoft Azure OpenAI, Amazon Web Services).
- If you have access to custom connectors for AI Trust Layer (currently available upon request for enterprise customers), you can also select Create custom connector to use a predefined template through Connector Builder. For details, refer to Connecting custom LLMs through AI Trust Layer.
- Connexion : la connexion Integration Service spécifique créée précédemment. Si aucune connexion n’est disponible, créez-en une dans Integration Service.
- Identifiant LLM : l’identifiant du modèle exactement tel qu’il apparaît dans votre abonnement LLM.
- Pour les modèles hébergés sur Azure : saisissez le nom/l'identifiant du déploiement du modèle.
- Pour l'inférence inter-régions AWS Bedrock : saisissez l'ID du profil d'inférence. Vous devez ajouter l'ID du modèle à votre code de région, par exemple :
eu.anthropic.claude-3-5-sonnet-20240620-v1:0. - Pour les autres fournisseurs : utilisez le nom du modèle tel que défini dans votre abonnement.
Lors de la configuration de votre propre LLM, vous pouvez éventuellement restreindre le nombre de modèles LLM disponibles pour une utilisation dans votre organisation. Si vous voulez vous assurer que seuls vos modèles personnalisés sont utilisés, vous pouvez désactiver les modèles tiers gérés par UiPath en appliquant une politique AI Trust Layer. Consultez la section Modèles de la documentation des politiques AI Trust Layer.
4. Valider et enregistrer
-
Sélectionnez Configuration de test pour vérifier que le point de terminaison est accessible.
- La plateforme valide la connectivité.
- S'assurer que le bon modèle est configuré reste de votre responsabilité.
-
Si la validation réussit, sélectionnez Enregistrer pour activer la configuration.
Gestion des connexions LLM existantes
Vous pouvez effectuer les actions suivantes sur vos connexions existantes :
- Vérifier le statut : vérifiez le statut de votre connexion Integration Service. Cette action garantit que la connexion est active et fonctionne correctement.
- Edit : modifiez tous les paramètres de votre connexion existante.
- Désactiver : suspendez temporairement la connexion. Lorsqu'elle est désactivée, la connexion reste visible dans votre liste, mais n'achemine aucun appel. Vous pouvez réactiver la connexion si nécessaire.
- Supprimer : supprimez définitivement la connexion de votre système. Cette action désactive la connexion et la supprime de votre liste.
Configurer des LLM pour votre produit
Chaque produit prend en charge des modèles LLM et des versions spécifiques. Utilisez le tableau ci-dessous pour identifier les modèles et les versions pris en charge pour votre produit.
Vous pouvez connecter votre propre LLM à l’aide de l’un des fournisseurs suivants : Amazon Web Services, Google Vertex, Microsoft Azure OpenAI ou OpenAI V1 Conliant. Suivez les étapes décrites dans la section précédente pour créer une connexion.
Prise en charge des fichiers : certaines fonctionnalités du produit s'appuient sur le point de terminaison LLM configuré pour traiter les fichiers téléchargés. Lors de l'utilisation de configurations LLM personnalisées, la prise en charge des formats de fichier dépend du fournisseur, de la famille de modèles, de la version du modèle et du type d'API. Vérifiez que le modèle sélectionné prend en charge les formats de fichier requis avant d'activer les fonctionnalités basées sur les fichiers. Pour connaître les exigences spécifiques au produit, reportez-vous à la documentation pertinente du produit ; par exemple, Analyser les fichiers pour les agents.
Le nombre de modèles que vous devez configurer dépend du produit et de la fonctionnalité :
- Pour les fonctionnalités avec un modèle sélectionnable, où vous choisissez le modèle à utiliser, vous pouvez configurer un ou plusieurs modèles ; les modèles non configurés continuent d'utiliser les abonnements gérés par UiPath.
- Pour les fonctionnalités avec un ensemble de modèles fixe, c'est-à-dire où la fonctionnalité utilise un ensemble de modèles prédéterminé, tous les modèles doivent être configurés pour que la fonctionnalité fonctionne ; la configuration partielle n'est pas valide.
| Produit | Prend en charge les modèles personnalisés | Fonctionnalités | LLM | Main LLM versions |
|---|---|---|---|---|
| Agents 1 | Oui (Yes) | Concevoir, évaluer et déployer | OpenAI |
|
| Anthropic |
| |||
| ||||
| Autopilot | Oui (Yes) | Messagerie | OpenAI |
|
| Anthropic |
| |||
| ||||
| Fireworks AI |
| |||
| Génération |
| |||
| Autopilot pour tout le monde | Oui (Yes) | Messagerie | Anthropic |
|
| OpenAI |
| |||
| Agents codés | Oui (Yes) | Call LLMs | OpenAI |
|
| Anthropic |
| |||
| ||||
| Ancrage dans le contexte | Oui (Yes) | Ingestion avancée |
| |
| Transformation par lots |
| |||
| Transformation de lot avec recherche Web |
| |||
| Deep RAG |
| |||
| Intégrations |
| |||
| Activités GenAI | Oui (Yes) | Créer, tester et déployer | Anthropic |
|
| OpenAI |
| |||
| ||||
| Healing Agent | Oui (Yes) | Workflow recovery |
| |
| OpenAI |
| |||
| Automatisation de l'interface utilisateur | Non (No) | ScreenPlay | Anthropic |
|
| ||||
| OpenAI |
| |||
| Sélecteurs sémantiques |
| |||
| Activités sémantiques |
| |||
| OpenAI |
| |||
| Test Manager | Oui (Yes) | Recherche d’Autopilot | Anthropic |
|
| OpenAI |
| |||
| ||||
| Rechercher des tests obsolètes | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Générer des cas de test | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Importer des cas de test | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Générer des rapports | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| Évaluation des prérequis | Anthropic |
| ||
| OpenAI |
| |||
| ||||
| IXP | Oui (Yes) | Documents complexes et non structurés | OpenAI |
|
| ||||
| ScreenPlay | Oui (Yes) | Screen Play | OpenAI |
|
| ||||
| Anthropic |
| |||
| Activités sémantiques |
| |||
| OpenAI |
| |||
| Sélecteurs sémantiques |
|
1 Exigences des agents :
- Assurez-vous que votre LLM prend en charge les éléments suivants :
- Appel d'outil (fonction) – Le modèle doit pouvoir appeler des outils ou des fonctions pendant l'exécution.
- Désactivation des appels d'outils parallèles – Si cette option est prise en charge par votre fournisseur, le modèle doit offrir la possibilité de désactiver les appels d'outils parallèles.
- Lors de l'utilisation de modèles personnalisés, les agents utilisent par défaut une limite de 4 096 jetons, quelle que soit la capacité réelle du modèle, car UiPath ne peut pas déduire des limites de jetons pour les déploiements définis par le client.
- Licences
- How LLM requests are routed
- Direct connectivity through Integration Service
- Private network connectivity through Relay
- AI gateway connectivity through a custom connector
- Définir une configuration LLM
- 1. Créer la connexion Integration Service
- 2. Ajouter une nouvelle configuration LLM
- 3. Configurer le modèle
- 4. Valider et enregistrer
- Gestion des connexions LLM existantes
- Configurer des LLM pour votre produit