- Passerelles IA
- Lecture seule
Cloudflare AI Gateway et Qastel
Voyez ce que font vos propres applications d'IA : quels modèles elles appellent, combien elles consomment et ce que cela coûte.
Pourquoi l'IA développée en interne est l'angle mort
L'IA que vous avez construite est la moitié du parc que personne n'inventorie. Pas de page éditeur, pas de connexion à détecter : juste une application qui appelle un modèle, et une facture qui grossit. Quand ces appels passent par Cloudflare AI Gateway, Qastel les transforme en un système IA gouverné, avec son usage et son coût.
Personne n'a acheté l'assistant interne de tri des demandes de support. Un ingénieur l'a branché sur un modèle et l'a mis en production. Il n'a ni fiche fournisseur, ni revue de sécurité, ni entrée dans aucune liste, mais il traite de vraies données chaque jour et coûte de l'argent bien réel chaque mois.
La passerelle, là où tout devient visible
C'est à la passerelle que tout cela devient visible. Chaque appel qui la traverse enregistre le modèle utilisé, le volume consommé, la durée, le succès ou l'échec, et le coût.
Ce que vous obtenez
Découvrir, évaluer, contrôler, prouver.
Ce que Cloudflare AI Gateway apporte à Qastel, à chacune des quatre étapes.
Découvrir
L'IA construite par vos propres équipes, révélée par le trafic qu'elle génère plutôt que par un questionnaire que personne ne remplit.
Évaluer
Usage et dépenses par modèle : les plus coûteux et les plus sollicités sautent immédiatement aux yeux.
Contrôler
Échecs et taux d'erreur affichés à côté du coût qu'ils continuent de générer.
Prouver
L'IA développée en interne a un responsable, une évaluation des risques et une trace de son traitement des données, comme tout outil acheté.
Du trafic à un système gouverné
Qastel en fait quelque chose que vous pouvez gouverner : un système IA nommé, avec un responsable, une évaluation des risques, son usage et ses dépenses, y compris pour des services internes qui, sinon, n'apparaîtraient que comme une adresse anonyme sur une facture.
Ce que Qastel lit
Depuis Cloudflare AI Gateway
- Chaque requête qui traverse la passerelle
- Son fournisseur, son modèle et ses jetons
- Coût, durée et statut
Lecture seule. Rien n'est écrit en retour.
Connecter Cloudflare AI Gateway
Se connecte avec un jeton Cloudflare en lecture seule, l'ID de votre compte et le nom de la passerelle. Qastel vérifie qu'il fonctionne avant de l'enregistrer et ne modifie jamais la configuration de votre passerelle.
Ce qu'il vous faut avant de commencer
- Une Cloudflare AI Gateway qui reçoit du trafic
- L'ID de votre compte Cloudflare et celui de la passerelle, et le droit de créer un jeton d'API
Dans Qastel, ouvrez les connecteurs et choisissez Cloudflare AI Gateway.
Suivez le lien Créer un jeton, qui ouvre Cloudflare avec l'autorisation AI Gateway (lecture) déjà sélectionnée, et copiez le jeton.
Collez le jeton, l'ID de votre compte et l'ID de la passerelle, puis lancez la connexion.
Voyez ce que Cloudflare AI Gateway sait déjà de votre IA.
En lecture seule, en quelques minutes. Rien n'est jamais écrit en retour.