Pool de Conexões

O pool de conexões, quando implementado por um serviço de proxy, faz com que o proxy mantenha um conjunto pronto para uso de conexões persistentes com os servidores backend upstream, reduzindo o overhead de estabelecimento de conexão e melhorando o uso de recursos. Esse mecanismo permite que várias requisições de clientes reutilizem conexões já estabelecidas com os serviços de backend, atenuando o impacto de desempenho causado pela abertura e pelo fechamento frequentes de conexões.

Fundamentos do Pool de Conexões

Um pool de conexões é um cache de conexões de banco de dados ou de rede mantido por uma aplicação ou serviço. Em vez de abrir uma nova conexão para cada requisição e fechá-la logo em seguida, o serviço solicita uma conexão ao pool. Se houver uma conexão ociosa disponível, ela é entregue ao serviço. Caso contrário, uma nova conexão é estabelecida, até o máximo configurado. Ao terminar, a conexão volta para o pool para ser reutilizada.

Por que usar pool de conexões?

O overhead de estabelecer uma nova conexão TCP, executar handshakes TLS ou autenticar em um serviço de backend (por exemplo, um banco de dados) pode ser considerável. Esse overhead inclui:
* Latência: idas e voltas de rede para o handshake de três vias do TCP e para a negociação TLS.
* Consumo de recursos: ciclos de CPU para operações criptográficas e memória para o estado da conexão.
* Carga no backend: cada nova conexão consome recursos no servidor backend.

O pool de conexões resolve esses problemas assim:

Como os pools de conexões funcionam

Um pool de conexões típico gerencia as conexões por meio de vários estados e parâmetros:
* Inicialização: o pool pode pré-estabelecer um número mínimo de conexões na inicialização.
* Empréstimo: quando um serviço precisa de uma conexão, ele a solicita ao pool.
* Criação: se não houver conexões ociosas disponíveis e o tamanho máximo do pool ainda não tiver sido atingido, uma nova conexão é estabelecida.
* Devolução: após o uso, a conexão retorna ao pool, normalmente marcada como ociosa.
* Validação: as conexões podem ser validadas periodicamente (por exemplo, com um comando PING ou uma verificação simples de integridade) para garantir que continuam ativas e saudáveis.
* Remoção: conexões obsoletas, quebradas ou ociosas por tempo excessivo são retiradas do pool.

Os principais parâmetros operacionais são:
* Tamanho mínimo do pool: o número de conexões que o pool tenta manter abertas o tempo todo.
* Tamanho máximo do pool: o limite superior do total de conexões ativas e ociosas.
* Idle timeout: por quanto tempo uma conexão ociosa pode permanecer no pool antes de ser fechada.
* Tempo de vida da conexão: a idade máxima de qualquer conexão, após a qual ela é fechada e recriada, independentemente da atividade.
* Timeout de aquisição: o tempo máximo que uma requisição espera até que uma conexão fique disponível.

Proxies e pool de conexões

Um serviço de proxy normalmente atua como intermediário, recebendo requisições dos clientes e encaminhando-as para os servidores backend upstream. Nessa arquitetura, o próprio proxy se torna um cliente dos serviços de backend e pode usar pool de conexões para otimizar suas interações com esses backends.

O proxy como cliente upstream

Quando um cliente se conecta a um proxy, o proxy estabelece ou reutiliza uma conexão com o backend de destino. Se o proxy implementa pool de conexões, ele mantém o próprio pool de conexões para cada servidor upstream configurado ou grupo de servidores.

Por exemplo, um proxy reverso HTTP que atende requisições para vários servidores de aplicação de backend mantém pools de conexões separados para cada endpoint de backend distinto. Isso permite que o proxy atenda com eficiência um grande número de requisições de clientes reutilizando as próprias conexões com os servidores de aplicação.

Considere um cenário em que um proxy está configurado para rotear requisições para um serviço de backend:

# Trecho de configuração do proxy para um serviço upstream
upstream_service:
  hosts:
    - backend-server-1:8080
    - backend-server-2:8080
  connection_pool:
    max_connections: 100
    min_connections: 10
    idle_timeout_seconds: 60
    max_lifetime_seconds: 300

Nessa configuração, o proxy gerencia um pool de até 100 conexões com backend-server-1:8080 e outro pool de até 100 conexões com backend-server-2:8080.

Multiplexação de conexões e roteamento de requisições

Uma vantagem central do pool de conexões de um proxy é a capacidade de multiplexar as requisições dos clientes sobre um conjunto menor e persistente de conexões com o backend. Em protocolos como HTTP/1.1 com keep-alive, uma única conexão do pool com um backend pode atender várias requisições sequenciais de clientes. Em protocolos como HTTP/2 ou gRPC, uma única conexão TCP subjacente pode transportar vários fluxos de requisições simultâneos.

A lógica interna do proxy gerencia o mapeamento das requisições recebidas dos clientes para as conexões disponíveis no pool. Quando uma requisição chega:
1. O proxy identifica o backend de destino.
2. Ele obtém uma conexão disponível no pool do backend correspondente.
3. A requisição é encaminhada.
4. Assim que o backend responde, a conexão é liberada de volta para o pool, pronta para outra requisição.

Essa multiplexação reduz o número total de conexões ativas necessárias nos servidores backend, melhorando a escalabilidade deles e diminuindo o consumo de recursos.

Gerenciamento do pool e saúde do backend

O pool de conexões de um proxy se integra aos mecanismos gerais de verificação de integridade e de balanceamento de carga.
* Health checks: o proxy monitora continuamente a saúde dos servidores backend. Se um backend for considerado não saudável, as conexões com ele no pool podem ser marcadas como inválidas, drenadas ou fechadas proativamente. Novas conexões não são estabelecidas com backends não saudáveis.
* Balanceamento de carga: quando há vários backends saudáveis, o algoritmo de balanceamento de carga do proxy determina qual backend recebe a próxima requisição. O pool de conexões garante que o backend escolhido tenha uma conexão disponível ou que uma nova possa ser estabelecida com eficiência.
* Remoção de conexões: o gerenciador do pool do proxy cuida da remoção de conexões com base nos timeouts de ociosidade ou nas configurações de tempo de vida máximo. Isso evita que as conexões fiquem obsoletas ou retenham recursos desnecessariamente. Também ajuda a renovar conexões, mitigando problemas com conexões de longa duração (por exemplo, vazamentos de memória nos servidores backend ou timeouts de equipamentos de rede).

Parâmetros de configuração e boas práticas

Um pool de conexões eficaz exige o ajuste cuidadoso dos parâmetros conforme as características do backend, as condições de rede e os padrões de tráfego esperados.

Principais parâmetros de pooling