Streaming movies, Web-series , sports has been the current market trend . Google ‘world cup streaming’ and you can find n number of streaming platforms . Considering the current market trend & customers expectation of flawless streaming, setting up the technology platform has become a challenge. We have multiple tools options to handle the workload but filtering those and implementing one of those is another big challenge at the same time a real fun filled journey which includes planning, design, implement & monitoring .
For one of the streaming platform customer , the expectation set to technical team was to ensure that the platform needs to autoscale / have elasticity and ensure the dynamic work loads are being handled . Based on the teams which play , their statistics , the number of audiences / transaction per second ( tps ) / request per second ( rps ) are being decided . For instance if there is a match between India | Pakistan , the number of viewers will be way too high and to add a cherry top , if the match goes very interesting beyond winner prediction , we can see a huge increase in tps . So how do we handle such increase in workload .
The Java applications are running in Kubernetes environment .
3 Master nodes and 100+ worker nodes . Based on the previous metrics , min/max pod are being decided . Team ensures that we have enough CPU , Memory on the nodes to handle the max pod .
But the bigger question is , can containers scale at the pace of dynamic huge increase of workload / tps . In seconds , the incoming transactions will reach 5k — 10k — 15k . So , will the POD spin up real quick in seconds and handle such big loads ? Practically speaking the answer is NO . PODs take atleast 2 to 3 mins to spin and get into running status , then take the incoming traffic . To avoid this delay and to ensure smooth online streaming without interruption , we did prescaling of the k8s pod .
Step 1
Took last 6 months metrics and anlysed the peak load , how much min / max POD has been set . Understand the CPU , Memory utilisation
Step 2
Understand the approximate transaction per second / load from the product owner for the event
Step 3
Request to perform a load testing with predicted TPS
Step 4
Devops team to perform the prescaling with min , max POD , setup anti affinity parameters according to the requirement to meet high availability , check node resources quota.
Reason for prescaling : K8S Autoscaling is a good option but not for the dynamic load which gets shooted up in few seconds
Step 5
During the load test , monitor below metrics
CPU Utilisation of POD , Containers, Node
Memory utilisation of POD , Containers, Node
Node resource utilisation metrics
POD Scaling
Node Scaling
K8S Control plane — Ensure the control plane is able to handle the load of node autoscaling , saving details to ETCD, fetching up templates from ETCD to spin up PODs as per requirement
Transaction per second
Request per second
Network traffic
Disk I/O pressure
Heap Memory
Step 6
Based on the observation , decide on setting up the min / max POD , Node autoscaling readiness which includes changing the NODE instance type ( aws example : r5.x large to r5.2x large instance )
Step 7
Perform the prescaling before match starts and scale down post match
This time , we couldn’t find a better option other than prescaling Kubernetes platform rather allow the default auto scaling to do its job. Prescaling worked perfect and we scale down post every match . Lets see how technology evolves and how we adapt to the right tools to perform autoscaling at this peak load increase .
Stay Tuned : How does AWS , Kubernetes costing impact us during autoscaling / prescaling .
Follow us for more details — cubensquare.com
Точно важные новинки подиума.
Абсолютно все эвенты известнейших подуимов.
Модные дома, лейблы, высокая мода.
Самое лучшее место для трендовых людей.
https://fashionvipclub.ru/
Несомненно трендовые события моды.
Важные события всемирных подуимов.
Модные дома, торговые марки, высокая мода.
Лучшее место для модных хайпбистов.
https://sneakero.ru/
Самые трендовые события мира fashion.
Все новости самых влиятельных подуимов.
Модные дома, лейблы, haute couture.
Самое приятное место для стильныех людей.
https://sneakersgo.ru/
Наиболее актуальные новости мировых подиумов.
Абсолютно все мероприятия мировых подуимов.
Модные дома, бренды, высокая мода.
Новое место для модных людей.
https://sneakerside.ru/
Actual horlogerie news and events. New collections, models. Actual news about legendary watch houses.
https://chrono.luxepodium.com/
Очень свежие новости моды.
Актуальные новости известнейших подуимов.
Модные дома, торговые марки, гедонизм.
Самое лучшее место для трендовых хайпбистов.
https://ulmoda.ru/
Очень важные новинки подиума.
Исчерпывающие новости мировых подуимов.
Модные дома, бренды, haute couture.
Новое место для модных людей.
https://paris.luxepodium.com/
Очень стильные новинки мировых подиумов.
Абсолютно все мероприятия самых влиятельных подуимов.
Модные дома, лейблы, гедонизм.
Самое приятное место для трендовых хайпбистов.
https://luxury.superpodium.com/
Fashion, luxe, hedonism
Perfect fashion application for hypebeasts and stylish people.
Style news, events. Fresh collections, collaborations, drops.
https://dubai.luxepodium.com/
Fashion, luxe, hedonism
Perfect style portal for hypebeasts and cute people.
Fashion news, events. Best collections, collaborations, drops.
https://watch.lepodium.net/
Style, luxe, lifestyle
First fashion website for hypebeasts and cute people.
Style news, events. Latest collections, collaborations, drops.
https://london.luxepodium.com/
Абсолютно трендовые события моды.
Исчерпывающие мероприятия самых влиятельных подуимов.
Модные дома, торговые марки, haute couture.
Самое приятное место для трендовых людей.
https://richlifestyle.ru/
Style, luxury, lifestyle
Good fashion site for hypebeasts and cute people.
Style news, events. Best collections, collaborations, limited editions.
https://lepodium.in/
Избранные трендовые новости мира часов – трендовые коллекции именитых часовых домов.
Все модели часов от доступных до супер премиальных.
https://podium24.ru/
Несомненно трендовые события подиума.
Актуальные события мировых подуимов.
Модные дома, торговые марки, высокая мода.
Свежее место для модных хайпбистов.
https://furluxury.ru/
Точно стильные новинки подиума.
Актуальные события лучших подуимов.
Модные дома, бренды, haute couture.
Интересное место для стильныех людей.
https://fe-style.ru/
Наиболее важные новости мира fashion.
Исчерпывающие эвенты самых влиятельных подуимов.
Модные дома, лейблы, высокая мода.
Самое лучшее место для стильныех хайпбистов.
https://balenciager.ru/
Абсолютно трендовые новости подиума.
Важные события всемирных подуимов.
Модные дома, бренды, haute couture.
Приятное место для стильныех хайпбистов.
https://outstreet.ru/
Избранные трендовые события часового мира – актуальные модели известных часовых домов.
Точно все коллекции часов от недорогих до супер гедонистических.
https://bitwatch.ru/
Точно актуальные новости мировых подиумов.
Актуальные эвенты мировых подуимов.
Модные дома, бренды, высокая мода.
Лучшее место для стильныех людей.
https://luxe-moda.ru/
LeCoupon: свежие новинки для любителей модного шоппинга
Лента новостей, события, модные образы, эвенты, дропы, подиум.
https://qrmoda.ru/
LeCoupon: интересные новости для любителей модного шоппинга
Лента новостей, события, актуальные луки, мероприятия, дропы, показы.
https://qrmoda.ru/
Очень важные события мировых подиумов.
Все мероприятия лучших подуимов.
Модные дома, бренды, гедонизм.
Лучшее место для трендовых хайпбистов.
https://fashion5.ru/
Очень трендовые события модного мира.
Абсолютно все мероприятия мировых подуимов.
Модные дома, торговые марки, гедонизм.
Свежее место для модных людей.
https://rfsneakers.ru
Абсолютно трендовые новинки мира fashion.
Актуальные мероприятия самых влиятельных подуимов.
Модные дома, бренды, высокая мода.
Свежее место для модных людей.
https://whitesneaker.ru/
Точно стильные новости подиума.
Важные эвенты самых влиятельных подуимов.
Модные дома, бренды, гедонизм.
Самое лучшее место для трендовых хайпбистов.
https://modavmode.ru
Несомненно актуальные новости моды.
Важные мероприятия мировых подуимов.
Модные дома, лейблы, гедонизм.
Приятное место для трендовых людей.
https://urban-moda.ru/
Абсолютно актуальные события индустрии.
Актуальные новости самых влиятельных подуимов.
Модные дома, торговые марки, гедонизм.
Самое приятное место для стильныех хайпбистов.
https://miramoda.ru
Несомненно трендовые новинки мира fashion.
Актуальные новости лучших подуимов.
Модные дома, лейблы, haute couture.
Приятное место для модных людей.
https://sofiamoda.ru
Абсолютно актуальные события мировых подиумов.
Актуальные события всемирных подуимов.
Модные дома, торговые марки, haute couture.
Лучшее место для трендовых хайпбистов.
https://worldsfashion.ru/
Точно свежие события подиума.
Актуальные мероприятия известнейших подуимов.
Модные дома, лейблы, haute couture.
Приятное место для модных людей.
https://fashionsecret.ru
Наиболее трендовые новости индустрии.
Исчерпывающие мероприятия известнейших подуимов.
Модные дома, лейблы, гедонизм.
Самое приятное место для трендовых хайпбистов.
https://km-moda.ru/style/525-parajumpers-istoriya-stil-i-assortiment/
Точно трендовые новинки индустрии.
Абсолютно все новости лучших подуимов.
Модные дома, торговые марки, высокая мода.
Интересное место для трендовых хайпбистов.
https://luxe-moda.ru/chic/356-rick-owens-buntar-v-chernyh-tonah/
I was studying some of your posts on this site and I believe this site is very instructive!
Retain putting up.Raise blog range
Абсолютно стильные новинки мира fashion.
Все эвенты мировых подуимов.
Модные дома, лейблы, haute couture.
Лучшее место для стильныех хайпбистов.
https://modastars.ru/
Абсолютно свежие новости модного мира.
Все события известнейших подуимов.
Модные дома, лейблы, высокая мода.
Приятное место для модных людей.
https://donnafashion.ru/