Descrição da Vaga
A Jump está buscando um(a) Engenheiro(a) de Dados Sênior para liderar tecnicamente a migração de cargas e estruturas de dados do Teradata para o Databricks. O profissional será responsável por garantir a qualidade, desempenho, escalabilidade, segurança e aderência aos padrões de engenharia definidos para a nova plataforma, atuando na otimização e redesenho de processos de dados complexos.
Responsabilidades
- Avaliar processos, workloads, tabelas e dependências do ambiente Teradata.
- Definir, em conjunto com a arquitetura, a estratégia técnica de migração para cada domínio ou conjunto de cargas.
- Projetar e desenvolver pipelines complexos utilizando Databricks, Spark SQL, PySpark e Delta Lake.
- Converter e otimizar consultas, stored procedures, macros e transformações oriundas do Teradata.
- Redesenhar processos quando a simples conversão técnica não for adequada à arquitetura distribuída.
- Definir estratégias de carga completa, incremental, reprocessamento, tratamento de históricos e recuperação de falhas.
- Atuar na otimização de desempenho, considerando particionamento, organização dos dados, paralelismo, consumo de recursos e custo computacional.
- Definir e implementar mecanismos de reconciliação entre origem e destino.
- Garantir que regras de negócio e resultados analíticos sejam preservados durante a migração.
- Estabelecer padrões de desenvolvimento, testes, observabilidade, tratamento de erros e documentação.
- Realizar revisões técnicas e apoiar o desenvolvimento dos profissionais plenos.
- Diagnosticar problemas complexos de dados, processamento e desempenho.
- Apoiar decisões relacionadas à implantação, estabilização e desativação gradual de componentes legados.
- Interagir com áreas técnicas, funcionais, de segurança, governança e operação.
Requisitos
- ✓Experiência sólida em engenharia de dados e construção de plataformas analíticas.
- ✓Domínio avançado de SQL e experiência com otimização de consultas em grandes volumes.
- ✓Experiência avançada com Apache Spark, PySpark e Spark SQL.
- ✓Experiência prática com Databricks e Delta Lake.
- ✓Conhecimento de arquitetura Lakehouse e padrões de organização de dados em camadas.
- ✓Experiência com pipelines batch e incrementais.
- ✓Conhecimento de modelagem relacional, dimensional e analítica.
- ✓Experiência com qualidade de dados, observabilidade, linhagem e tratamento de falhas.
- ✓Conhecimento de práticas de CI/CD, versionamento e automação aplicadas a engenharia de dados.
- ✓Capacidade de analisar sistemas legados, dependências técnicas e impactos de migração.
- ✓Experiência em revisão de código e liderança técnica.
- •Experiência aprofundada com Teradata, incluindo otimização, distribuição de dados e análise de planos de execução.
- •Conhecimento de Unity Catalog, Databricks Workflows, Delta Live Tables ou Lakeflow.
- •Experiência com governança, segurança e controle de acesso em ambientes de dados.
- •Conhecimento de padrões de integração com ferramentas de BI, analytics e ciência de dados.
- •Experiência em programas de migração de dados de larga escala.
- •Vivência em instituições financeiras ou ambientes regulados e de alta criticidade.
- •Conhecimento de FinOps aplicado a plataformas de dados.
Categorias
Sobre a Empresa
Mais vagas na Jump →A Jump é uma empresa que oferece soluções personalizadas para todos os segmentos. Impulsionamos a transformação digital de empresas e organizações, moldando seus processos, serviços e modelos de negócio com estratégias e tecnologias inovadoras.[Ver Mais]
Informações Adicionais
Você será redirecionado para o site da empresa
Vagas Relacionadas
Forward Deployed Engineer SR (FDE)
Dataside
Engenheiro(a) de Dados AWS Sênior
ICON Solutions do Brasil
Senior data analyst
Pipefy
Engenheiro de IA SR
Insi
Senior Data Scientist
EPAM
Engenheiro de Dados e Plataforma de Agentes Sênior (GCP)
Leega Consultoria