Forespørselsrate

Forespørselsrate er hastigheten hvor en tjeneste mottar forespørsler over tid. Den beskrives vanligvis i forespørsler per sekund (RPS) eller per minutt og brukes som en nøkkelmetrik for å vurdere belastning, ytelse og kapasitet i applikasjoner, API-er og infrastruktur.

Forespørselsrate kan måles ved å telle antall mottatte forespørsler i et valgt tidsvindu og deretter dele på vinduet lengde. Vanlige kilder for data inkluderer serverlogger, omvendte proxier og lastbalensere, samt overvåkingsverktøy. Det skiller mellom øyeblikkelig rate (momentr rate) og glattet/aggregert rate over et tidsvindu, noe som er viktig for å unngå støy i målingen.

Bruk og betydning inkluderer kapasitet- og belastningsplanlegging, dermed beslutninger om automatisk skalering, implementering av rate-limiting for å beskytte tjenester, og oppfyllelse av serviceavtaler (SLA). Forespørselsraten påvirker og avhenger av andre ytelsesfaktorer som latency og gjennomstrømning, samt effekten av caching og innholdslevering via CDN. Høye toppbelastninger kan kreve spesielt designede løsninger som køsystemer eller back-end-kapasitetsøkning.

Relasjoner og betraktninger: en høy rate trenger ofte flere samtidige forbindelser og bedre kapasitet, men kan også føre til økt latens hvis infrastrukturen ikke møter etterspørselen. Brukere bør sette rammer og varsler for normale nivåer, og vurdere variasjon og burst-adferd når man definerer grenseverdier.

Verktøy og praksis: vanlige verktøy inkluderer Prometheus, Grafana, Datadog og andre overvåkingsplattformer. Beste praksis er å måle over passende tidsvinduer, dokumentere SLO-er og responstider ved forskjellige belastninger, og periodisk evaluere nødvendigheten av rate-limiting og autoskalering.