Lastbalanserere
Lastbalanserere er systemer som fordeler innkommende trafikk på tvers av flere servere for å øke tilgjengelighet og kapasitet. De fungerer som et mellomledd mellom klienter og en gruppe bakendenheter, og kan operere som enten et omvendt proxy eller en distribuert tjeneste slik at ingen enkeltserver blir overbelastet. Hovedformålet er å jevne belastningen, redusere svartid og sikre at tjenesten forblir tilgjengelig selv om en eller flere backends feiler.
Lastbalanserere kan være hardware-baserte eller programvarebaserte og kan operere på lag 4 (transport) eller lag 7
Helsesjekker overvåker kontinuerlig backend-tjenestenes tilstand ved hjelp av HTTP(S) og/eller TCP-tikk, og kan fjerne en feilsyk
Bruksområder omfatter nettsider, API-er og mikrotjenesteplattformer, der lastbalanserere står foran en serverklynge for å distribuere trafikk