Вступ
У цій статті я хочу розглянути технічні труднощі, які стоять перед тими, хто намагається вирішити проблему низької затримки в розподілених SaaS-додатках. І як ці труднощі можна вирішити частково.
Критерії успіху — це стейтфул додатки з найменшою можливою затримкою, яка поділяється між групою користувачів, які знаходяться географічно близько один до одного. Додаток повинен бути розміщений у SaaS-провайдера з двох причин — перевірка обчислень провайдером і висока доступність для всіх учасників.
Проблема
Як ви можете уявити, ця проблема вирішується кількома способами: використанням хмарних провайдерів для обчислень у кількох густонаселених районах, мереж доставки контенту (CDN) для направлення з’єднання в більш віддалені місця та використанням локальних інфраструктур, які не покривають хмарні провайдери.
Однак підключення та керування такою системою — це складна операція, яку беруть на себе лише найбільші компанії, як Valve. Але, ймовірно, це зміниться найближчим часом, і я розповім, як саме.
Мережі
Суворе обмеження для аудиторії додатків з низькою затримкою — це фізичні мережі. Хоча CDN чудово підходять для надання з’єднань між багатьма різними провайдерами, аудиторії все одно часто працюють «самі по собі» — багато пересканувань трафіку додають затримку та від’єднують аудиторію від якісного досвіду. Це суворе обмеження — для деяких географічних регіонів лише нові інфраструктурні проекти на землі та під водою можуть вирішити ці проблеми. Революційні технології, такі як Starlink, надають підключення в набагато більш віддалених районах, але їх затримка все ще заважає для додатків з низькою затримкою.
М’яке обмеження — це завдання — з’єднання трафіку між різними хмарними провайдерами, CDN і обладнанням. Це обмеження вже подолано і є ~легко доступним.
Обчислення та постачання
Щоб подолати жорстке обмеження швидкості мережі та підключення, нам доведеться організувати хостинг SaaS-додатків якнайближче до їхніх користувачів. Це потребує витрат і запитання, як контролювати таку інфраструктуру.
Універсальним рішенням може бути кластер Kubernetes з вузлами в різних місцях. Згідно з цими бенчмарками, Контейнери працювали лише на 0,12% повільніше за рідні процеси.
Щоб організувати вузли за запитом, потрібно використовувати таке рішення, як Terraform, для виклику API хмарних провайдерів (AWS, GCP, Azure), дата-центрів із VMware і інших гіпервізорів. Величезна частина роботи буде присвячена підтримці цього рішення.
Керування та рахунки
Досягненням, яке тепер вважається стандартом від хмарних провайдерів, є модель оплати по факту використання (Pay-As-You-Go). Ви можете почати використовувати віртуальну машину в AWS, як тільки прикріпите свою кредитну картку. Ніяких зобов'язань.
Проте багато класичних дата-центрів все ще відстають в наданні своєї інфраструктури через приватні хмарні інструменти. Одним із великих порогів є продуктивність цих машин і вимірювання вартості. Проте проведення пілотного проекту завжди є найкращим способом отримати бенчмарк для вашого робочого навантаження.
Висновок
Отже, організація постачання на запит і резервної потужності по всьому світу є найбільшим порогом для справді популярних додатків з низькою затримкою. Оскільки економія на масштабах великих хмарних провайдерів слідує за грошима, історичні потужності вже розташовані у всіх правильних місцях. Хоча багато команд працюють над рішеннями з низькою затримкою, це лише питання часу, коли стандарт постачання обчислень стане основним і захопить ринок.
Оскільки Kubernetes вже взяв на себе управління обчислювальною інфраструктурою.
DoiT пропонує інтелектуальні технології та досвід у роботі з багатьма хмарами, щоб допомогти організаціям зрозуміти та використовувати публічні хмари, такі як Amazon Web Services (AWS), Google Cloud (GCP) і Microsoft Azure, для сприяння бізнес-росту. Ви можете ознайомитись з пропозиціями DoiT на doit.com.
Перекладено з: Technical Blueprint — Low-Latency SaaS Infrastructure