Senior Data Engineer [CET time zone]
Publicada em
Ver 1.308 vagas de Data Science / Analytics →Descrição da Vaga
A FCamara Europe está em busca de um(a) Engenheiro(a) de Dados Sênior para atuar como referência técnica na plataforma de dados Databricks. O profissional será responsável por projetar e executar pipelines confiáveis, automatizar a entrega através de DataOps e CI/CD, e estabelecer a governança para manter os dados seguros, rastreáveis e prontos para modelos de IA utilizados por clientes globais. Esta é uma posição remota, considerando candidatos de Portugal e um conjunto limitado de países da UE.
Responsabilidades
- Projetar, construir e otimizar pipelines de lote e streaming no Databricks (PySpark, Spark SQL, Delta Lake, Delta Live Tables / Lakeflow).
- Evoluir a arquitetura Lakehouse (camadas bronze, silver e gold) para ingerir dados operacionais, comportamentais e HSE de múltiplos clientes e formatos.
- Garantir o desempenho e a eficiência de custos de clusters, jobs e SQL Warehouses.
- Entregar conjuntos de dados confiáveis para equipes de ciência de dados, IA e produto.
- Implementar pipelines de CI/CD para código de dados usando Databricks Asset Bundles, Git e Azure DevOps ou GitHub Actions.
- Automatizar testes de dados (unidade, integração e qualidade) e promoção entre dev, staging e produção.
- Provisionar infraestrutura como código (Terraform) e padronizar modelos de pipeline.
- Monitorar pipelines, definir SLAs e alertas, e liderar revisões de incidentes.
- Implementar e administrar o Unity Catalog: catálogos, permissões, linhagem e auditoria.
- Definir políticas para segurança, controle de acesso, mascaramento de dados e isolamento de dados por cliente.
- Garantir a conformidade com LGPD, GDPR e os requisitos contratuais de clientes globais.
- Estabelecer padrões de metadados, contratos de dados e métricas de qualidade.
- Atuar como referência técnica, revisando código e mentorando engenheiros de nível médio e júnior.
- Fazer parceria com equipes de produto, ciência de dados e consultores para transformar necessidades de negócios em soluções de dados.
- Documentar arquitetura, padrões e melhores práticas.
Requisitos
- ✓Mais de 6 anos de experiência em engenharia de dados, incluindo mais de 3 anos com Databricks em produção.
- ✓Conhecimento sólido em Python, PySpark e SQL avançado.
- ✓Experiência sólida com Delta Lake e arquitetura Lakehouse (medallion).
- ✓Experiência prática em DataOps: testes automatizados, observabilidade e versionamento de pipeline.
- ✓Experiência em governança de dados, idealmente com Unity Catalog (acesso, linhagem, auditoria).
- ✓Experiência prática em CI/CD para dados (Git, Azure DevOps ou GitHub Actions, Databricks Asset Bundles ou similar).
- ✓Experiência em nuvem, idealmente Azure (ADLS, Data Factory, Key Vault, Entra ID).
- ✓Experiência com codificação agentic.
- ✓Infraestrutura como código com Terraform.
- ✓Inglês fluente para trabalhar com equipes e clientes globais (mínimo B2+).
- ✓Graduação em Ciência da Computação, Engenharia, Sistemas de Informação ou área relacionada.
- •Certificações Databricks (Data Engineer Professional) ou Azure (DP-203 / DP-700).
- •Experiência com plataformas SaaS multi-tenant e isolamento de dados por cliente.
- •Conhecimento em MLOps (MLflow, Feature Store, Model Serving) e pipelines de dados para IA generativa / RAG.
- •Experiência com Microsoft Purview.
- •Ferramentas de qualidade de dados (Great Expectations, Lakehouse Monitoring, dbt).
- •Streaming com Kafka, Event Hubs ou Structured Streaming.
- •Experiência com dados de HSE, operações industriais ou gerenciamento de riscos.
Sobre a Empresa
Mais vagas na Grupo FCamara →Somos um ecossistema de tecnologia e inovação que potencializa o futuro de negócios integrando visão estratégica com execução inteligente, lado a lado com nossos clientes, para proporcionar experiências transformadoras.[Ver Mais]
Informações Adicionais
Você será redirecionado para o site da empresa
Vagas Relacionadas
Cientista de Dados Sênior
Vetta
Engenharia de Dados SR
Sicredi
Engenheiro(a) de Dados (AWS) Sênior
Luby
Senior Clinical Data Engineer (LATAM)
Precision for Medicine
Engenheiro(a) de Dados Sênior
Maxxi
Python Data Science
Compass.UOL