Engenheiro de Dados Sênior GCP/DBT

🌍 Remoto📍 Remoto

Descrição da Vaga

A Leega Consultoria busca um Engenheiro de Dados Sênior com foco em Google Cloud Platform (GCP) e DBT para atuar na análise, planejamento, design e desenvolvimento de pipelines de dados. O profissional será responsável por projetar arquiteturas de dados, modelar esquemas no BigQuery, criar rotinas de transformação de dados utilizando Dataproc (Spark) ou Dataflow, e garantir a segurança e governança dos dados.

Responsabilidades

Avaliar a arquitetura e os requisitos do Data Warehouse.
Mapear dados, transformações e processos nos serviços GCP (Cloud Storage, BigQuery, Dataproc).
Definir a estratégia de migração de dados (full load, incremental, CDC).
Elaborar um plano de arquitetura de dados no GCP.
Projetar esquemas de tabelas no BigQuery, considerando performance, custo e escalabilidade.
Definir estratégias de particionamento e clustering para BigQuery.
Modelar as zonas de dados no Cloud Storage (Bronze, Silver e Gold).
Criar rotinas de transformação de dados usando Dataproc (Spark) ou Dataflow para carregar dados para o BigQuery.
Traduzir a lógica de negócios e as transformações existentes no GCP.
Implementar mecanismos de validação e qualidade de dados.
Utilizar ferramentas de IaC (Terraform) para provisionar e gerenciar recursos GCP.
Configurar e otimizar clusters Dataproc para diferentes cargas de trabalho.
Gerenciar redes, segurança (IAM) e acessos no GCP.
Otimizar consultas no BigQuery para reduzir custos e melhorar o desempenho.
Ajustar e otimizar jobs Spark no Dataproc.
Monitorar e otimizar o uso de recursos GCP para controlar custos.
Implementar e garantir a segurança dos dados em trânsito e em repouso.
Definir e aplicar políticas de IAM para controlar o acesso aos dados e recursos.
Garantir a conformidade com as políticas de governança de dados.
Solucionar problemas de desempenho e funcionalidade dos pipelines de dados e recursos GCP.
Documentar a arquitetura, os pipelines de dados, os modelos de dados e os procedimentos operacionais.
Comunicar-se de forma eficaz com membros da equipe, stakeholders e outras áreas da empresa.
Garantir a comunicação clara entre as definições de arquitetura e componentes de software, evolução e a qualidade dos desenvolvimentos da equipe.

Requisitos

✓Profundo conhecimento em BigQuery (modelagem de dados, otimização de consultas, particionamento, clustering, carga de dados, segurança e governança).
✓Experiência em Cloud Storage (gerenciamento de buckets, classes de armazenamento, políticas de ciclo de vida, controle de acesso e segurança de dados).
✓Habilidade em Dataproc (provisionamento, configuração e gerenciamento de clusters Spark/Hadoop, otimização de jobs, e integração com outros serviços GCP).
✓Conhecimento em Dataflow/Composer/DBT para orquestração e processamento de dados em pipelines ELT/ETL.
✓Conhecimento comprovado de no mínimo 3 anos em GCP.
✓Conhecimento comprovado de no mínimo 3 anos em DBT.
✓Conhecimento comprovado de no mínimo 3 anos em Pyspark.
✓Conhecimento comprovado em GitFlow.
✓Experiência em Cloud IAM (Identity and Access Management) para implementação de políticas de segurança e controle de acesso granular.
✓Entendimento de VPC, Networking e Security (redes, sub-redes, regras de firewall e melhores práticas de segurança na nuvem).
✓Conhecimento em Python e PySpark para scripts de automação, desenvolvimento de pipelines de dados e integração com APIs GCP.
✓SQL avançado para BigQuery, DBT e transformações de dados.
✓Shell Scripting para automação de tarefas.
✓Experiência com Controle de Versão (Git/GitHub/Bitbucket).
✓Conhecimento em metodologias ágeis, seus ritos e proficiência com a ferramenta Jira.

Benefícios

✓Convênio Médico Porto Seguro (com possibilidade de incluir cônjuge e filhos)
✓Convênio Odontológico Porto Seguro
✓Participação nos Lucros e Resultados (PLR)
✓Auxílio Creche
✓Vale Alimentação e Refeição Alelo
✓Auxílio Home Office
✓Parcerias com Instituições de Ensino
✓Incentivo para Certificações (GCP, Azure, AWS)
✓Pontos Livelo
✓TotalPass (desconto para colaboradores e familiares)
✓Mindself (meditação e Mindfulness)

Categorias

Data Science / Analytics

Sobre a Empresa

Mais vagas na Leega Consultoria →

Na Leega, não entregamos apenas linhas de código ou dashboards. Transformamos desafios tecnológicos complexos em impacto real. Com mais de 15 anos de estrada, unimos a profundidade da experiência humana à velocidade da Inteligência Artificial para criar soluções que mudam negócios e, acima de tudo,...[Ver Mais]