API-taristu ja taustasüsteemide arendus

Eesti

Viitestsenaariumid

Arhitektuurilised viitestsenaariumid ja rakendusmustrid

Kaheksa korduvat taristuprobleemi ja mustrid, mida nende lahendamiseks kasutame. Iga stsenaarium kirjeldab tõrkeviisi, tehnilist lähenemist ja seda, kuidas edu mõõdetakse.

MärkusJärgnevad viitestsenaariumid illustreerivad väljakujunenud arhitektuurimustreid, süsteemidisaini meetodeid ja tehnilisi sihttasemeid suure samaaegsusega taristu kitsaskohtade lahendamiseks.

01

Suure läbilaskevõimega servamarsruutimine ja ühenduste kogumid

API-lüüsid ja servataristu
Diagramm: Suure läbilaskevõimega servamarsruutimine ja ühenduste kogumid

Arhitektuuriline kitsaskoht

Äkilised samaaegsed webhooki pursked tõstavad p99-latentsuse eelarvest kaugele üle. Iga päring avab uue ühenduse taustateenusega, nii et TCP- ja TLS-kätlused, lühiajaliste portide nappus ja blokeeriv töötlus kuhjuvad just liiklusetipus.

Tehniline lähenemine

  1. Lõpeta klientühendused asünkroonses servaproksis ja hoia iga taustateenuse suunas sooje keep-alive-kogumeid, mis on mõõdetud tipusamaaegsuse järgi.
  2. Kasuta HTTP/2 multipleksimist taustateenustega, mis seda toetavad, et pursked jagaksid ühendusi uute avamise asemel.
  3. Marsruudi päiste järgi sisu puhverdamata; piira sisu suurust marsruudi kaupa ja voogedasta sisu edasi.
  4. Piira järjekordi ja sea marsruudipõhised ajalõpud, et ülekoormus lükataks varakult tagasi vastusega 503 ja Retry-After, mitte ei jääks süsteem seisma.

Kuidas edu mõõdetakse

  • Serva p95/p99-latentsus marsruudi kaupa kokkulepitud eelarve piires sünteetilistes purskekatsetes
  • Taustaühenduste taaskasutuse määr ja uute kätluste osakaal pursete ajal
  • Sihtpurske suuruse juures ei katke ega lähtestu ühtegi ühendust
  • Serva järjekorraaeg esitatakse taustateenuse ajast eraldi
02

Monoliidi järkjärguline lammutamine (strangler fig)

Pärandsüsteemide moderniseerimine
Diagramm: Monoliidi järkjärguline lammutamine (strangler fig)

Arhitektuuriline kitsaskoht

Tihedalt seotud PHP-monoliit segab äriloogikat ja andmebaasi juurdepääsu. Iga juurutus puudutab kõike, ühe mooduli regressioon võib kogu süsteemi maha võtta ja ühtegi osa ei saa eraldi skaleerida.

Tehniline lähenemine

  1. Paiguta monoliidi ette marsruutiv fassaad, et üksikuid marsruute saaks ümber lülitada ilma klientides muudatusi tegemata.
  2. Kirjelda praegune käitumine karakteriseerimistestidega enne võimekuse eraldamist.
  3. Eralda korraga üks piiritletud valdkond oma konteinerisse ja hoia seansi- ja andmelepingud ülemineku ajal ühilduvad.
  4. Käivita esmalt varjurežiimis, seejärel nihuta liiklust marsruudi kaupa järk-järgult ja kustuta vana kood, kui uus rada on end tõestanud.

Kuidas edu mõõdetakse

  • Iga eraldatud teenuse juurutussagedus monoliidist sõltumatult
  • Eraldatud konteinerite iseseisev horisontaalne skaleerumine koormuse all
  • Katkestusteta üleminek iga migreeritud marsruudi puhul, kinnitatud varjuvõrdluse tulemustega
  • Tegelikult eemaldatud vana kood ja tabelid
03

Olekuta voogpõhine XML-i ja struktureeritud andmete parsimine

Suuremahulised andmetorud
Diagramm: Olekuta voogpõhine XML-i ja struktureeritud andmete parsimine

Arhitektuuriline kitsaskoht

Suurte ja sügavalt pesastatud XML- ning ISO 20022 sõnumite DOM-põhine parsimine laadib terved dokumendid mällu. Püsiva läbilaske korral jõuavad töötajaprotsessid mälupiirideni, protsessor küllastub ja üks vigane fail võib peatada terve partii.

Tehniline lähenemine

  1. Loe dokumente karastatud pull-parseriga (DTD-d ja välised olemid keelatud) ja töötle korraga ühte kirjet.
  2. Valideeri iga kirje vastu selles deklareeritud skeemiversiooni, kasutades eelkompileeritud valideerijaid.
  3. Eemalda duplikaadid lühiajalise hajusa lukuga sõnumi identifikaatori järgi, näiteks Redise SET NX koos TTL-iga.
  4. Normaliseeri kanoonilisse mudelisse, avalda edasi ja pane tagasi lükatud kirjed karantiini masinloetava aruandega.

Kuidas edu mõõdetakse

  • Stabiilne mälukasutus töötaja kohta sõltumata faili suurusest
  • Püsiv sõnumite arv sekundis sihtmahu juures
  • Deterministlik valideerimine: sama sisend annab alati sama heakskiidu või tagasilükkamise
  • Allasurutud duplikaatide osakaal ja karantiini maht saatja kaupa
04

Zero trust töökoormuse identiteet ja saatjaga seotud tokenid

Teenustevaheline turve
Diagramm: Zero trust töökoormuse identiteet ja saatjaga seotud tokenid

Arhitektuuriline kitsaskoht

Sisemised teenused usaldavad võrku ja autendivad staatiliste API-võtmete või pikaealiste JWT-dega. Lekkinud tokenit saab uuesti kasutada ning üks kompromiteeritud töökoormus võib liikuda külgsuunas mis tahes sisemise API juurde.

Tehniline lähenemine

  1. Väljasta igale teenusele lühiajaline X.509 töökoormuse identiteet (SPIFFE ID) ja vaheta seda automaatselt.
  2. Nõua kogu ida-lääne liikluselt vastastikust TLS-i, liikudes lubavast režiimist rangesse nimeruumi kaupa.
  3. Seo juurdepääsutokenid lüüsis DPoP abil kliendi võtmetega ja kasuta tõendite identifikaatorite jaoks jagatud kordusvahemälu.
  4. Lisa töökoormuse identiteedi kaupa autoriseerimisreeglid, mis vaikimisi keelavad.

Kuidas edu mõõdetakse

  • Vastastikuse TLS-iga kaetud ida-lääne liikluse osakaal (siht: kogu liiklus)
  • Sertifikaatide vahetusintervall ja uuendamise tõrgete osakaal
  • Sidumata, aegunud või korduvate tokenite tagasilükkamine automaattestides
  • Autoriseerimisreeglite keelud üle vaadatud ja selgitatud
05

Kohanduv päringupiiramine ja käitumispõhine anomaaliate filtreerimine servas

Liikluse juhtimine ja serva töökindlus
Diagramm: Kohanduv päringupiiramine ja käitumispõhine anomaaliate filtreerimine servas

Arhitektuuriline kitsaskoht

Automaatne kraapimine, paroolide massproovimine ja pursketaoline mitteinimlik liiklus jõuavad päritoluserverini filtreerimata. Andmebaasi töötajad küllastuvad, päris kasutajad saavad ajalõppe ja mahtu kulub päringutele, mis poleks tohtinud üldse kohale jõuda.

Tehniline lähenemine

  1. Tuvasta päringud servas sõrmejälje alusel (kliendi identiteet, võrk, käitumine) ja hoia loendureid jagatud mälupõhises hoidlas.
  2. Kasuta pursete talumiseks token bucketeid ja rangete perioodipiirangute jaoks libisevaid aknaid kliendi, konto ja marsruudi kaupa.
  3. Vasta piirangut ületavale liiklusele koodiga 429 ja Retry-After ning kahtlasele, kuid ebaselgele liiklusele lisakontrolliga.
  4. Näita kõigile külastajatele sama sisu; filter otsustab ainult, kas päring lastakse läbi.

Kuidas edu mõõdetakse

  • Servas peatatud ja päritoluni lastud päringute suhe tipukoormuse ajal
  • Piirangu hindamise lisakulu p99 juures (siht: alla millisekundi)
  • Päritoluandmebaasi protsessorikoormuse stabiilsus liikluse tippudes
  • Valepositiivsete osakaal, mõõdetuna läbitud kontrollide ja tugipöördumiste kaudu
06

Mitme regiooni active-active tõrkesiire ja automaatne taastamine

Kõrgkäideldavus ja tegevuskerksus
Diagramm: Mitme regiooni active-active tõrkesiire ja automaatne taastamine

Arhitektuuriline kitsaskoht

Taastamine sõltub sellest, et keegi märkab katkestust ja muudab DNS-i käsitsi. Regionaalse võrgujaotuse või tsooni halvenemise korral venib taasteaeg kaugele üle selle, mida äri suudab aktsepteerida.

Tehniline lähenemine

  1. Hoia mõlemad regioonid aktiivsena ja mõõda kumbki nii, et see suudaks üksi kanda kogu tipukoormust.
  2. Replikeeri olekut asünkroonselt ja jälgi replikatsiooni viivitust pidevalt kokkulepitud RPO suhtes.
  3. Kontrolli mõlemat regiooni sünteetiliste tehingutega ja suuna liiklus automaatselt tervisekontrolliga DNS-i või anycasti kaudu.
  4. Harjuta regiooni kaotust kaosõppustel ja hoia olekuga komponentide ülendamiseks käivitatavaid juhendeid.

Kuidas edu mõõdetakse

  • Replikatsiooni viivitus püsib RPO piirist allpool ja ületamisest antakse häire
  • Tõrkesiirde koguaeg õppustel võrreldes RTO-ga
  • Sünteetiliste testide nähtud veamäär tõrkesiirde ajal
  • Juhendi sammud täidetakse ilma improviseerimata
07

Transactional outbox ja idempotentne sündmuste voogedastus

Hajusandmete järjepidevus
Diagramm: Transactional outbox ja idempotentne sündmuste voogedastus

Arhitektuuriline kitsaskoht

Teenused kirjutavad PostgreSQL-i ja avaldavad sõnumimaaklerisse kahe eraldi sammuna. Krahh või maakleri katkestus nende vahel kaotab sündmusi või teatab muudatustest, mida kunagi ei salvestatud, ning allavoolu olek triivib lahku.

Tehniline lähenemine

  1. Kirjuta olekumuudatus ja outbox-rida samas andmebaasitehingus.
  2. Avalda outbox-read asünkroonse releega (päringud või muudatusandmete püüdmine), partitsioneerituna agregaadi võtme järgi, et säiliks olemi järjekord.
  3. Muuda iga tarbija idempotentseks sisendkasti tabeliga, kuhu salvestatakse töödeldud sündmuste identifikaatorid.
  4. Saada korduvalt ebaõnnestuvad sündmused dead letter-teemasse koos piisava kontekstiga nende uuesti esitamiseks.

Kuidas edu mõõdetakse

  • Oleku ja sündmuste vahel puudub triiv pärast simuleeritud maaklerikatkestusi
  • Relee viivitus, mõõdetuna vanima avaldamata rea vanusena
  • Tarbijate vahele jäetud duplikaadid loendatud ja häiretega kaetud
  • Dead letter-järjekorra maht ja lahendamise aeg
08

Latentsustundlik automaatskaleerimine ja mitmekeelne servavahemälu

Pilveorkestreerimine ja jõudlus
Diagramm: Latentsustundlik automaatskaleerimine ja mitmekeelne servavahemälu

Arhitektuuriline kitsaskoht

Protsessorilävedel põhinev automaatskaleerimine reageerib alles siis, kui päringud juba järjekorras ootavad. Latentsuskriitilistes mitmekeelsetes keskkondades kasvatavad äkilised tõusud esimese baidi aega enne, kui uued podid on valmis, ning ilma keeleta vahemäluvõtmed ei taba vahemälu või pakuvad vale keelt.

Tehniline lähenemine

  1. Skaleeri päringujärjekorra sügavuse ja p95-latentsuse järgi sündmuspõhise skaleerimisega (KEDA), mitte ainult protsessorikoormuse järgi.
  2. Hoia sõlmedes vaba mahtu, et uued podid ajastataks kohe, ja seo valmisolek soojenemisega.
  3. Lisa keel selgesõnaliselt servavahemälu võtmetesse kõigi kuue toetatud keele jaoks, ühtsete Vary reeglitega.
  4. Eemalda latentsuskriitilistelt podidelt ranged protsessoripiirangud, et vältida drosseldamist.

Kuidas edu mõõdetakse

  • Esimese baidi aja (TTFB) stabiilsus p95 juures sünteetiliste liikluse tõusude ajal
  • Aeg järjekorra kasvust valmis podideni
  • Servavahemälu tabamuste määr keele kaupa
  • Latentsuskriitiliste podide protsessori drosseldamine (siht: puudub)

Kas teil on süsteem, mis peab skaleeruma või muutuma turvalisemaks?

Rääkige meile arhitektuurist, kitsaskohast või tähtajast. Vastame e-postiga ja lepime kokku aja ulatuse kohtumiseks.

Broneeri konsultatsioon