Usando proxies em Python com o Playwright

Usando proxies em Python com o Playwright

Playwright e proxies

Playwright é um framework de automação de navegador da Microsoft, com suporte a Chromium, Firefox e WebKit. A versão Python do Playwright tem suporte nativo a proxy no nível do navegador e para contextos individuais.

Instalação

pip install playwright
playwright install  # baixa os navegadores

Configuração básica de proxy

Proxy HTTP

from playwright.sync_api import sync_playwright

with sync_playwright() as p:
    browser = p.chromium.launch(
        proxy={
            "server": "http://proxy_ip:port"
        }
    )
    page = browser.new_page()
    page.goto("https://httpbin.org/ip")
    print(page.content())
    browser.close()

Com autenticação

from playwright.sync_api import sync_playwright

with sync_playwright() as p:
    browser = p.chromium.launch(
        proxy={
            "server": "http://proxy_ip:port",
            "username": "user",
            "password": "pass"
        }
    )
    page = browser.new_page()
    page.goto("https://httpbin.org/ip")
    print(page.content())
    browser.close()

Proxy SOCKS5

browser = p.chromium.launch(
    proxy={"server": "socks5://proxy_ip:port"}
)

Modo assíncrono

import asyncio
from playwright.async_api import async_playwright

async def main():
    async with async_playwright() as p:
        browser = await p.chromium.launch(
            proxy={
                "server": "http://proxy_ip:port",
                "username": "user",
                "password": "pass"
            }
        )
        page = await browser.new_page()
        await page.goto("https://httpbin.org/ip")
        content = await page.content()
        print(content)
        await browser.close()

asyncio.run(main())

Proxies no nível do contexto

O Playwright permite definir proxies diferentes para contextos (perfis) diferentes dentro de um único navegador:

from playwright.sync_api import sync_playwright

with sync_playwright() as p:
    browser = p.chromium.launch()

    # Contexto 1 — proxy dos EUA
    context1 = browser.new_context(
        proxy={
            "server": "http://us_proxy:port",
            "username": "user",
            "password": "pass"
        }
    )

    # Contexto 2 — proxy da Alemanha
    context2 = browser.new_context(
        proxy={
            "server": "http://de_proxy:port",
            "username": "user",
            "password": "pass"
        }
    )

    page1 = context1.new_page()
    page2 = context2.new_page()

    page1.goto("https://httpbin.org/ip")
    page2.goto("https://httpbin.org/ip")

    print("US:", page1.content())
    print("DE:", page2.content())

    browser.close()

Esse é um recurso poderoso: um navegador, vários contextos com proxies e fingerprints diferentes.

Ignorando o proxy para domínios específicos

browser = p.chromium.launch(
    proxy={
        "server": "http://proxy_ip:port",
        "bypass": "localhost,*.local,example.com"
    }
)

Os domínios da lista bypass são acessados diretamente, sem passar pelo proxy.

Modos headless e headed

# Headless (sem GUI) — para scraping
browser = p.chromium.launch(headless=True, proxy={"server": "http://proxy:port"})

# Headed (com GUI) — para depuração
browser = p.chromium.launch(headless=False, proxy={"server": "http://proxy:port"})

Trabalhando com diferentes navegadores

O Playwright suporta três engines:

# Chromium
browser = p.chromium.launch(proxy=proxy_config)

# Firefox
browser = p.firefox.launch(proxy=proxy_config)

# WebKit (Safari)
browser = p.webkit.launch(proxy=proxy_config)

Os três suportam proxies de forma idêntica.

Stealth mode e evasão de anti-bots

O Playwright é detectado por sistemas anti-bot. Para contornar:

playwright-stealth

pip install playwright-stealth

from playwright.sync_api import sync_playwright
from playwright_stealth import stealth_sync

with sync_playwright() as p:
    browser = p.chromium.launch(proxy={"server": "http://proxy:port"})
    page = browser.new_page()
    stealth_sync(page)  # aplica os patches de stealth
    page.goto("https://target-site.com")

Recomendações de evasão

1. Use proxies residenciais ou móveis
2. Defina um User-Agent realista
3. Configure o tamanho da viewport
4. Adicione atrasos entre as ações
5. Simule movimentos do mouse e rolagem

Screenshots e PDFs via proxy

page.goto("https://example.com")
page.screenshot(path="screenshot.png", full_page=True)
page.pdf(path="page.pdf")

Interceptando requisições

def handle_route(route):
    # Modificando as requisições
    headers = route.request.headers
    headers["X-Custom-Header"] = "value"
    route.continue_(headers=headers)

page.route("**/*", handle_route)
page.goto("https://example.com")

Exemplo prático: scraping com rotação

import asyncio
from playwright.async_api import async_playwright
import random

PROXIES = [
    {"server": "http://proxy1:port", "username": "u", "password": "p"},
    {"server": "http://proxy2:port", "username": "u", "password": "p"},
    {"server": "http://proxy3:port", "username": "u", "password": "p"},
]

async def scrape_page(playwright, url):
    proxy = random.choice(PROXIES)
    browser = await playwright.chromium.launch(proxy=proxy)
    page = await browser.new_page()
    try:
        await page.goto(url, timeout=30000)
        title = await page.title()
        return title
    except Exception as e:
        return f"Error: {e}"
    finally:
        await browser.close()

async def main():
    urls = [f"https://example.com/page/{i}" for i in range(10)]
    async with async_playwright() as p:
        tasks = [scrape_page(p, url) for url in urls]
        results = await asyncio.gather(*tasks)
        for url, result in zip(urls, results):
            print(f"{url}: {result}")

asyncio.run(main())

Conclusão

O Playwright é uma ferramenta poderosa para trabalhar com proxies em Python. O suporte a proxy no nível do contexto permite rodar várias sessões com IPs diferentes dentro de um único navegador. Combinado com patches de stealth e proxies residenciais, o Playwright é eficaz para o scraping de sites protegidos.