Пулінг з’єднань: Створення масштабованої архітектури мікросервісів — Повний посібник

У сучасному світі мікросервісів ефективне управління підключеннями до бази даних та комунікаціями між сервісами може стати вирішальним фактором для продуктивності вашого застосунку. Давайте детально розглянемо пулінг з'єднань, вивчаючи його реалізацію в різних мовах програмування та його важливу роль в архітектурі мікросервісів.

Що таке пулінг з'єднань?

Пулінг з'єднань можна порівняти з управлінням командою ефективних працівників. Замість того, щоб наймати (створювати з'єднання) та звільняти (закривати з'єднання) працівників для кожного завдання, ви підтримуєте пул працівників, готових обробити вхідні запити. Такий підхід значно знижує накладні витрати та покращує продуктивність застосунку.

Реалізація пулу з'єднань

Розглянемо надійну реалізацію пулу з'єднань у JavaScript/TypeScript:

class ConnectionPool {  
 constructor(options = {}) {  
 this.maxSize = options.maxSize || 1000;  
 this.minSize = options.minSize || 10;  
 this.timeoutMS = options.timeoutMS || 30000;  
 this.pool = new Map();  
 this.waitingRequests = [];  
 }  

 async acquire() {  
 // Перевірка на наявність доступного з'єднання  
 const availableConnection = this.getIdleConnection();  
 if (availableConnection) {  
 return this.activateConnection(availableConnection);  
 }  

 // Створити нове, якщо кількість з'єднань менша за maxSize  
 if (this.pool.size < this.maxSize) {  
 return this.createNewConnection();  
 }  

 // Додати запит до черги  
 return new Promise((resolve, reject) => {  
 const timeout = setTimeout(() => {  
 this.waitingRequests = this.waitingRequests  
 .filter(req => req.resolve !== resolve);  
 reject(new Error('Час очікування на з'єднання вичерпано'));  
 }, this.timeoutMS);  

 this.waitingRequests.push({  
 resolve: (connection) => {  
 clearTimeout(timeout);  
 resolve(connection);  
 },  
 timestamp: Date.now()  
 });  
 });  
 }  

 async createNewConnection() {  
 // Ініціалізація з'єднання відповідно до ваших потреб  
 // Це може бути підключення до бази даних, HTTP клієнт тощо  
 const connection = {  
 id: this.generateId(),  
 status: 'active',  
 lastActive: Date.now(),  
 client: await this.initializeClient()  
 };  

 this.pool.set(connection.id, connection);  
 return connection;  
 }  

 release(connection) {  
 if (this.waitingRequests.length > 0) {  
 const nextRequest = this.waitingRequests.shift();  
 nextRequest.resolve(this.activateConnection(connection));  
 return;  
 }  

 if (this.pool.size > this.minSize) {  
 this.closeConnection(connection);  
 } else {  
 connection.lastActive = Date.now();  
 connection.status = 'idle';  
 }  
 }  

 maintenance() {  
 const now = Date.now();  
 for (const [id, conn] of this.pool.entries()) {  
 if (conn.status === 'idle' &&   
 now - conn.lastActive > this.timeoutMS) {  
 this.closeConnection(conn);  
 }  
 }  
}

Кращі мови та бібліотеки для пулінгу з'єднань

Java

• HikariCP: Найпопулярніший пул з'єднань для Java застосунків

HikariConfig config = new HikariConfig();  
config.setJdbcUrl("jdbc:mysql://localhost:3306/mydb");  
config.setUsername("user");  
config.setPassword("password");  
config.setMaximumPoolSize(10);  

HikariDataSource dataSource = new HikariDataSource(config);

Python

• SQLAlchemy: Забезпечує надійний пулінг з'єднань для баз даних

from sqlalchemy import create_engine  
from sqlalchemy.pool import QueuePool  

engine = create_engine('postgresql://user:password@localhost/mydb',  
 poolclass=QueuePool,  
 pool_size=5,  
 max_overflow=10,  
 pool_timeout=30)

Node.js

• pg-pool: Чудово підходить для підключень до PostgreSQL

const { Pool } = require('pg')  
const pool = new Pool({  
 user: 'dbuser',  
 host: 'database.server.com',  
 database: 'mydb',  
 password: 'secretpassword',  
 port: 5432,  
 max: 20,  
 idleTimeoutMillis: 30000,  
 connectionTimeoutMillis: 2000,  
})

Підключення до мікросервісів

1.

Інтеграція пошуку сервісів

class ServicePool extends ConnectionPool {  
 constructor(serviceRegistry, options) {  
 super(options);  
 this.serviceRegistry = serviceRegistry;  
 }  

 async createNewConnection() {  
 const serviceEndpoint = await this.serviceRegistry  
 .discover('service-name');  
 return this.connectToService(serviceEndpoint);  
 }  
}

2. Реалізація перевірки стану здоров'я

class HealthAwarePool extends ConnectionPool {  
 async healthCheck() {  
 for (const [id, conn] of this.pool.entries()) {  
 try {  
 await conn.ping();  
 } catch (error) {  
 this.closeConnection(conn);  
 }  
 }  
 }  
}

1. Управління життєвим циклом з'єднання

class LifecycleAwarePool extends ConnectionPool {  
 async shutdown() {  
 for (const [id, conn] of this.pool.entries()) {  
 await this.closeConnection(conn);  
 }  
 }  

 async warmup() {  
 const warmupConnections = Math.min(this.minSize, 5);  
 for (let i = 0; i < warmupConnections; i++) {  
 const conn = await this.createNewConnection();  
 conn.status = 'idle';  
 }  
 }  
}

Моніторинг продуктивності

class MonitoredPool extends ConnectionPool {  
 constructor(options) {  
 super(options);  
 this.metrics = {  
 acquisitions: 0,  
 failures: 0,  
 avgAcquisitionTime: 0  
 };  
 }  

 async acquire() {  
 const startTime = Date.now();  
 try {  
 const connection = await super.acquire();  
 this.metrics.acquisitions++;  
 this.metrics.avgAcquisitionTime =   
 (this.metrics.avgAcquisitionTime + (Date.now() - startTime)) / 2;  
 return connection;  
 } catch (error) {  
 this.metrics.failures++;  
 throw error;  
 }  
 }  
}

Висновок

Пулінг з'єднань є необхідним для створення масштабованих мікросервісів. Реалізуючи правильний пулінг з'єднань з використанням відповідної мови програмування та бібліотек, ви значно покращите продуктивність і надійність вашого застосунку. Не забувайте:

• Вибирати правильну бібліотеку для пулінгу з'єднань для вашої мови
• Реалізувати правильний моніторинг та перевірки стану здоров'я
• Управляти життєвим циклом з'єднання
• Використовувати розмикання ланцюгів (circuit breakers) та балансування навантаження для стійкості
• Налаштовувати розміри пулу відповідно до потреб вашого застосунку

Незалежно від того, чи будуєте ви малий застосунок, чи великомасштабну архітектуру мікросервісів, ці шаблони та практики допоможуть підтримувати ефективні та надійні комунікації між сервісами.

Перекладено з: Connection Pooling: Building Scalable Microservices Architecture — A Complete Guide