Engenheiro de Dados Pleno GCP/DBT

🌍 Remoto📍 Remoto

Descrição da Vaga

A Leega Consultoria busca um Engenheiro de Dados Pleno com foco em GCP e DBT para atuar na análise, planejamento, design e desenvolvimento de pipelines de ELT/ETL. O profissional será responsável por otimizar performance e custo, garantir a segurança e governança de dados, além de monitorar e documentar a arquitetura e os processos. A atuação será em um projeto com duração prevista até dezembro de 2026, com possibilidade de prorrogação.

Responsabilidades

Avaliar a arquitetura e os requisitos do Data Warehouse.
Mapear dados, transformações e processos utilizando serviços GCP (Cloud Storage, BigQuery, Dataproc).
Definir a estratégia de migração de dados (full load, incremental, CDC).
Elaborar um plano de arquitetura de dados no GCP.
Projetar esquemas de tabelas no BigQuery, considerando performance, custo e escalabilidade.
Definir estratégias de particionamento e clustering para BigQuery.
Modelar as zonas de dados no Cloud Storage (Bronze, Silver e Gold).
Criar rotinas de transformação de dados usando Dataproc (Spark) ou Dataflow para carregar dados para o BigQuery.
Traduzir a lógica de negócios e as transformações existentes no GCP.
Implementar mecanismos de validação e qualidade de dados.
Otimizar consultas no BigQuery para reduzir custos e melhorar o desempenho.
Ajustar e otimizar jobs Spark no Dataproc.
Monitorar e otimizar o uso de recursos GCP para controlar custos.
Implementar e garantir a segurança dos dados em trânsito e em repouso.
Definir e aplicar políticas de IAM para controlar o acesso aos dados e recursos.
Garantir a conformidade com as políticas de governança de dados.
Solucionar problemas de desempenho e funcionalidade dos pipelines de dados e recursos GCP.
Documentar a arquitetura, os pipelines de dados, os modelos de dados e os procedimentos operacionais.
Comunicar-se de forma eficaz com membros da equipe, stakeholders e outras áreas da empresa.
Garantir a comunicação clara entre as definições de arquitetura e componentes de software, evolução e a qualidade dos desenvolvimentos da equipe.

Requisitos

✓Conhecimento comprovado em DBT (mínimo de 3 anos)
✓Domínio de models (staging, intermediate, marts)
✓Domínio de ref() e source()
✓Domínio de macros (Jinja)
✓Domínio de seeds e snapshots
✓Domínio de tests (not null, unique, custom)
✓Organização em camadas: Staging → Transform → Mart (Data Warehouse)
✓Profundo conhecimento em BigQuery (modelagem de dados, otimização de consultas, particionamento, clustering, carga de dados - streaming e batch, segurança e governança de dados)
✓Experiência em Cloud Storage (gerenciamento de buckets, classes de armazenamento, políticas de ciclo de vida, controle de acesso - IAM e segurança de dados)
✓Habilidade em Dataproc (provisionamento, configuração e gerenciamento de clusters Spark/Hadoop, otimização de jobs, e integração com outros serviços GCP)
✓Conhecimento em ferramentas de orquestração e processamento de dados para pipelines ELT/ETL (Dataflow/Composer/DBT)
✓Experiência com Cloud IAM (Identity and Access Management) para implementação de políticas de segurança e controle de acesso granular
✓Entendimento de VPC, Networking e Security (redes, sub-redes, regras de firewall e melhores práticas de segurança na nuvem)
✓Conhecimento em Python e PySpark (essencial para scripts de automação, desenvolvimento de pipelines de dados e integração com APIs GCP)
✓Conhecimento avançado em SQL (para BigQuery, DBT e transformações de dados)
✓Conhecimento em Shell Scripting (para automação de tarefas)
✓Experiência com Controle de Versão (Git/GitHub/Bitbucket)
✓Conhecimento em metodologias ágeis, seus ritos e proficiência com a ferramenta Jira

Benefícios

✓Convênio Médico Porto Seguro (com possibilidade de incluir cônjuge e filhos)
✓Convênio Odontológico Porto Seguro (para você e seus dependentes)
✓Participação nos Lucros e Resultados (PLR)
✓Auxílio Creche
✓Vale Alimentação e Refeição Alelo
✓Auxílio Home Office
✓Parcerias com Instituições de Ensino (descontos e incentivos em cursos e graduações)
✓Incentivo para Certificações (incluindo Cloud: GCP, Azure, AWS)
✓Pontos Livelo
✓TotalPass (planos de academia com desconto para colaboradores e familiares)
✓Mindself (incentivo à qualidade de vida através de meditação e Mindfulness)

Categorias

Data Science / Analytics

Sobre a Empresa

Mais vagas na Leega Consultoria →

Na Leega, não entregamos apenas linhas de código ou dashboards. Transformamos desafios tecnológicos complexos em impacto real. Com mais de 15 anos de estrada, unimos a profundidade da experiência humana à velocidade da Inteligência Artificial para criar soluções que mudam negócios e, acima de tudo,...[Ver Mais]