Grupo FCamara

Senior Data Engineer [CET time zone]

Publicada em

Ver 1.308 vagas de Data Science / Analytics →
🌍 Remoto📍 Remoto
PUBLICIDADE

Descrição da Vaga

A FCamara Europe está em busca de um(a) Engenheiro(a) de Dados Sênior para atuar como referência técnica na plataforma de dados Databricks. O profissional será responsável por projetar e executar pipelines confiáveis, automatizar a entrega através de DataOps e CI/CD, e estabelecer a governança para manter os dados seguros, rastreáveis e prontos para modelos de IA utilizados por clientes globais. Esta é uma posição remota, considerando candidatos de Portugal e um conjunto limitado de países da UE.

Responsabilidades

  • Projetar, construir e otimizar pipelines de lote e streaming no Databricks (PySpark, Spark SQL, Delta Lake, Delta Live Tables / Lakeflow).
  • Evoluir a arquitetura Lakehouse (camadas bronze, silver e gold) para ingerir dados operacionais, comportamentais e HSE de múltiplos clientes e formatos.
  • Garantir o desempenho e a eficiência de custos de clusters, jobs e SQL Warehouses.
  • Entregar conjuntos de dados confiáveis para equipes de ciência de dados, IA e produto.
  • Implementar pipelines de CI/CD para código de dados usando Databricks Asset Bundles, Git e Azure DevOps ou GitHub Actions.
  • Automatizar testes de dados (unidade, integração e qualidade) e promoção entre dev, staging e produção.
  • Provisionar infraestrutura como código (Terraform) e padronizar modelos de pipeline.
  • Monitorar pipelines, definir SLAs e alertas, e liderar revisões de incidentes.
  • Implementar e administrar o Unity Catalog: catálogos, permissões, linhagem e auditoria.
  • Definir políticas para segurança, controle de acesso, mascaramento de dados e isolamento de dados por cliente.
  • Garantir a conformidade com LGPD, GDPR e os requisitos contratuais de clientes globais.
  • Estabelecer padrões de metadados, contratos de dados e métricas de qualidade.
  • Atuar como referência técnica, revisando código e mentorando engenheiros de nível médio e júnior.
  • Fazer parceria com equipes de produto, ciência de dados e consultores para transformar necessidades de negócios em soluções de dados.
  • Documentar arquitetura, padrões e melhores práticas.
PUBLICIDADE

Requisitos

  • ✓Mais de 6 anos de experiência em engenharia de dados, incluindo mais de 3 anos com Databricks em produção.
  • ✓Conhecimento sólido em Python, PySpark e SQL avançado.
  • ✓Experiência sólida com Delta Lake e arquitetura Lakehouse (medallion).
  • ✓Experiência prática em DataOps: testes automatizados, observabilidade e versionamento de pipeline.
  • ✓Experiência em governança de dados, idealmente com Unity Catalog (acesso, linhagem, auditoria).
  • ✓Experiência prática em CI/CD para dados (Git, Azure DevOps ou GitHub Actions, Databricks Asset Bundles ou similar).
  • ✓Experiência em nuvem, idealmente Azure (ADLS, Data Factory, Key Vault, Entra ID).
  • ✓Experiência com codificação agentic.
  • ✓Infraestrutura como código com Terraform.
  • ✓Inglês fluente para trabalhar com equipes e clientes globais (mínimo B2+).
  • ✓Graduação em Ciência da Computação, Engenharia, Sistemas de Informação ou área relacionada.
  • •Certificações Databricks (Data Engineer Professional) ou Azure (DP-203 / DP-700).
  • •Experiência com plataformas SaaS multi-tenant e isolamento de dados por cliente.
  • •Conhecimento em MLOps (MLflow, Feature Store, Model Serving) e pipelines de dados para IA generativa / RAG.
  • •Experiência com Microsoft Purview.
  • •Ferramentas de qualidade de dados (Great Expectations, Lakehouse Monitoring, dbt).
  • •Streaming com Kafka, Event Hubs ou Structured Streaming.
  • •Experiência com dados de HSE, operações industriais ou gerenciamento de riscos.

Somos um ecossistema de tecnologia e inovação que potencializa o futuro de negócios integrando visão estratégica com execução inteligente, lado a lado com nossos clientes, para proporcionar experiências transformadoras.[Ver Mais]

Informações Adicionais

Selecionamos as principais informações da posição. Para conferir o descritivo completo, clique em "acessar"
PUBLICIDADE
Candidatar-se a esta vaga →

Você será redirecionado para o site da empresa