Keuze van agenthost

Wanneer u operationele kwaliteit, betrouwbaarheid en kosten evalueert, moet u rekening houden met de keuze van de agenthost, zoals Microsoft 365 Copilot (declaratieve agents), Copilot Studio (aangepaste agents) of Azure. Houd deze beslissing gescheiden van de agentauteursmethode. Waar een agent draait of wordt gehost, bepaalt de orkestratiemogelijkheden, modeltoegang en operationele functies. Deze functies zijn rechtstreeks van invloed op de responskwaliteit, prestaties en de kosten voor het uitvoeren van de oplossing op schaal.

Dit artikel legt uit hoe agent-hostplatforms de mogelijkheden van oplossingen beïnvloeden. U leert hoe verschillende ontwerpmethoden agents op hetzelfde hostplatform kunnen maken en tegelijkertijd consistente kwaliteit en gedrag kunnen behouden, hoe een enkele ontwerpmethode agents op verschillende platforms kan maken met verschillende kwaliteits- en gedragsresultaten en hoe de host het kostenprofiel van de oplossing vormgeeft.

Kosten als operabiliteitsoverweging

Kosten behandelen als een stabiel operationeel kenmerk, niet als een eenmalige vraag over een inkoop. Twee oplossingen kunnen identieke antwoorden produceren, terwijl ze verschillen met een orde van grootte in kosten, omdat de kosten worden aangestuurd door de manier waarop de agent wordt uitgevoerd, niet alleen wat deze retourneert. Het hostplatform corrigeert grotendeels de hendels die voor u beschikbaar zijn:

• Tokenverbruik per interactie. Elke instructie, kennisfragment en hulpprogrammadefinitie die door het model op een bepaalde beurt wordt verwerkt, wordt op die beurt gefactureerd. Permanente context die voor elke interactie wordt geladen, wordt betaald voor elke interactie, ongeacht of deze relevant is.
• Aantal modelbeurten. De orchestrator bepaalt hoe vaak het model wordt aangeroepen om een taak te voltooien. Meer lussen met toolaanroepen en meer herplanning betekenen meer inferentie.
• Modelselectie. Grotere redeneringsmodellen kosten meer per token en voegen latentie toe. De host bepaalt welke modellen beschikbaar zijn en of u verschillende stappen naar verschillende modellen kunt routeren.
• Determinisme. Werk dat deterministisch is, heeft helemaal geen modeldeductie nodig. Als u deze verplaatst naar code of acties, worden zowel de tokenkosten als de variabiliteit verwijderd.

In de secties die volgen, worden de besturingselementen onderverdeeld die de meeste invloed hebben op de kosten: het orchestration-harnas, de modelkeuze en hoe u instructies en deterministische acties ontwerpt.

Microsoft 365 Copilot hosting

Microsoft 365 Copilot biedt een beheerde hostingomgeving voor declaratieve agents met ingebouwde governance-, beveiligings- en nalevingsmogelijkheden. Dit platform biedt consistente prestatiekenmerken, ongeacht de schrijfmethode die je gebruikt om de agent te maken.

U kunt bijvoorbeeld declaratieve agents maken met behulp van de functie Agent Builder in Microsoft 365 Copilot, Copilot Studio of de Microsoft 365 Agents Toolkit. De agent host bepaalt de mogelijkheden voor orkestratie, catalogus en taalmodel die beschikbaar zijn voor de ontwikkelaar. Deze opties zijn de grootste beïnvloeders van de kwaliteit van de respons. Authoring- en creatieplatforms zouden het secundaire criterium moeten zijn voor een oplossing in de operationele stationaire fase.

Verschillende authoringplatforms bieden verschillende niveaus van operationele mogelijkheden die aansluiten bij uiteenlopende organisatorische behoeften en ontwikkelingsfasen. Zolang Microsoft 365 Copilot (declaratieve agents) de onderliggende agenthost blijft, zal de kwaliteit consistent blijven terwijl u gebruik maakt van verschillende ontwerpplatforms om aan uw operationele behoeften te voldoen.

De volgende tabel vat overwegingen samen voor welk auteursplatform te gebruiken is voor declaratieve agenten als illustratief voorbeeld.

Wanneer een agent bijvoorbeeld gebruikmaakt van Werk-IQ voor context, ophalen of acties, wordt dat gebruik variabel gefactureerd, waarbij de kredietkosten worden geschaald naar de complexiteit van het scenario, inclusief contextgrootte, redeneringsdiepte en aantal stappen.

Houd rekening met andere factoren zoals developer lift en debuggingtools (niet weergegeven in de tabel). Houd er rekening mee dat deze factoren sterk worden beïnvloed door de beveiligingspositie van je organisatie en de capaciteit voor een bepaald ontwikkelplatform.

Promoot declaratieve agents van Microsoft 365 Copilot die zijn ontwikkeld in Agent Builder naar een declaratieve agent die is ontwikkeld met de Microsoft 365 Agents Toolkit. Deze strategie onderhoudt Microsoft 365 Copilot als orchestrator om consistent agentgedrag te garanderen. Als een experimentele aangepaste agent gebouwd in Copilot Studio voldoet aan de evaluatiecriteria voor proofs-of-concept en broncodebeheer vereist is voor bedrijfsactiviteiten, promoveert u de agent naar een beheerde pipeline in Power Platform. Deze aanpak zorgt ervoor dat de Copilot Studio-orchestrator het primaire mechanisme blijft voor het onderhouden van agentgedrag.

Indeling en het agentharnas

De orchestrator of harness is de runtimelus die stappen plant, hulpprogramma's selecteert en aanroept, het contextvenster beheert en bepaalt wanneer een taak is voltooid. Het is de enige grootste driver van zowel de kwaliteit van de reactie als de operationele kosten, omdat het bepaalt hoeveel modelwisselingen plaatsvinden, hoeveel context er op elke beurt wordt verzameld en hoe de resultaten van het hulpprogramma worden teruggegeven aan het model.

Omdat het hostplatform de orchestrator levert, lost de hostbeslissing uw kosten- en latentievelop grotendeels op:

• Microsoft 365 Copilot biedt een beheerde orchestrator. U krijgt voorspelbare, licentie-inbegrepen kosten en consistent gedrag, met beperkte controle over de lus zelf.
• Copilot Studio biedt configureerbare indeling (bijvoorbeeld onderwerpen en generatieve indeling). Kosten variëren van licentie tot verbruik, afhankelijk van hoeveel generatief werk u delegeert aan het model.
• Azure en pro-code geven u volledige controle over de lus. Evalueer de kosten van codeonderhoud in vergelijking met het gebruik van een goed onderhouden harness of SDK, zoals Copilot SDK.

Wanneer de host deze zichtbaar maakt, zijn dit de belangrijkste stuurmechanismen:

• Budget wijzigen. Beperk of pas het aantal plannings- en toolaanroepiteraties aan dat de orchestrator uitvoert voordat deze een resultaat retourneert.
• Parallel versus sequentiële hulpprogramma-aanroepen. Voer onafhankelijke hulpprogrammaaanroepen gelijktijdig uit om de latentie te verminderen. Voeg waar mogelijk oproepen samen om het aantal beurten te verminderen.
• Contextbeheer. Kort het gesprek in, vat het samen of beperk het tot een venster om te voorkomen dat de context onbeperkt groeit, zodat de tokenkosten per beurt gelijk blijven in plaats van op te lopen.
• Caching. Hergebruik in de cache opgeslagen promptvoorvoegsels tussen interacties of sessies om te voorkomen dat stabiele context opnieuw in rekening wordt gebracht.

Modelkeuze

Het model dat u kiest, is van invloed op de kosten en latentie per token en is grotendeels onafhankelijk van de ontwerpmethode. Grotere redeneringsmodellen leveren resultaten van hogere kwaliteit op complexe taken, maar kosten meer per token en reageren langzamer. Zorg ervoor dat het model overeenkomt met de taakproblemen in plaats van standaard de meest geschikte optie voor elke taak te gebruiken.

Architect voor modelroutering wanneer de host deze ondersteunt:

• Bewaar frontier-redeneermodellen voor echt moeilijke stappen, zoals ambiguïteit in de redenering, synthese of generatie met open einde.
• Leid deterministische of eenvoudige subtaken zoals classificatie, extractie, opmaak en routeringsbeslissingen naar kleinere, goedkopere en snellere modellen.
• Combineer modellen binnen één agent wanneer de orchestrator ondersteuning biedt voor modelselectie per stap, dus elke stap betaalt alleen voor de mogelijkheid die nodig is.

Het hostplatform bepaalt welke modellen zich in de catalogus bevinden, of u per stap kunt routeren, het maximale contextvenster (grotere vensters zorgen voor meer context, maar kosten per beurt) en of promptcaching beschikbaar is. Valideer deze mogelijkheden als onderdeel van de beslissing van de host, omdat ze bepalen welke kostenoptimalisatie op modelniveau u later kunt uitvoeren.

Ontwerpen voor kostenoptimalisatie

Naast het kiezen van een host, orchestrator en model, hoe u de instructies en acties van een agent structureren, heeft een directe, terugkerende kostenimpact. Twee principes begeleiden kostenefficiënt ontwerp:

1. Betaal geen modeldeductie voor werk dat deterministisch is. Bundel deterministische acties in scripts, acties of connectors in plaats van ze te beschrijven als instructies in natuurlijke taal die het model tijdens elke uitvoering moet interpreteren. Code wordt eenmaal uitgevoerd, goedkoop, met voorspelbare uitvoer, geen tokenkosten en minder variabiliteit. Het gebruik van natuurlijke taal voor dezelfde procedure kost deductie elke keer en kan inconsistente resultaten opleveren.

2. Betaal geen vaste tokenkosten voor instructies die u zelden gebruikt. Vooraf geladen instructies op agentniveau worden gefactureerd op elke schakel van elke interactie, zelfs wanneer ze niet relevant zijn voor de aanvraag van de gebruiker. Het laden van richtlijnen en kennis op aanvraag, alleen wanneer de taak overeenkomt, betekent dat u betaalt voor die context wanneer deze daadwerkelijk wordt gebruikt, niet continu. Dit patroon voor progressieve openbaarmaking houdt de basiskosten van elke interactie laag.

De volgende tabel geeft een overzicht van wanneer u instructies vooraf in de agent moet laden versus wanneer u werk beter kunt onderbrengen in deterministische scripts of hulpmiddelen op aanvraag.

Een kosteneffectieve agent beperkt zijn permanent actieve instructies tot een minimum en spitst ze toe op identiteit en veiligheid. Het verwerkt vaste procedures als scripts of acties en biedt gespecialiseerde kennis en taakspecifieke richtlijnen als on-demand resources die alleen worden geladen wanneer relevant. Deze aanpak verlaagt de tokenkosten voor elke interactie, maakt gedrag voorspelbaarder en houdt de kernprompt kleiner en gemakkelijker te onderhouden zonder dat dit ten koste gaat van de mogelijkheid.

Volgende stap

Leer hoe je de kwaliteit van agenten kunt meten, prestaties valideert in diverse scenario's en operationele gereedheid kunt waarborgen vóór inzet door gebruik te maken van evaluatiekaders.