Descrição da Vaga
Estamos em busca de uma pessoa Engenheira de IA Sênior para atuar na construção e evolução da plataforma que sustenta o uso de agentes e LLMs no desenvolvimento de software. A posição exige uma combinação sólida entre engenharia de software e IA aplicada em produção. O desafio vai além da criação de prompts: envolve estruturar harnesses, orquestração de agentes, avaliações automatizadas, gates de qualidade, telemetria e mecanismos que tornem o uso de IA previsível, mensurável e escalável para todo o time.
Responsabilidades
- Projetar e evoluir harnesses para execução e controle de agentes de IA
- Estruturar padrões de orquestração, uso de ferramentas e contexto
- Criar e versionar prompts com critérios claros de qualidade
- Desenvolver testes de regressão para comportamentos baseados em LLM
- Construir avaliações automatizadas (evals) para medir a qualidade das saídas
- Implementar telemetria e acompanhamento de performance e custos
- Transformar critérios de qualidade em gates automatizados
- Estruturar ferramentas reutilizáveis para os times de engenharia
- Investigar falhas e comportamentos inesperados dos modelos
- Contribuir para a evolução contínua da qualidade da frota de agentes
Requisitos
- ✓Conhecimento em Automação de validações capazes de bloquear entregas fora do padrão
- ✓Conhecimento em Desenvolvimento de ferramentas reutilizáveis para outros times
- ✓Experiência de 5+ anos em Engenharia de Software
- ✓Experiência de 1+ ano construindo aplicações baseadas em LLM em produção
- ✓Conhecimento em Orquestração de agentes
- ✓Conhecimento em Tool use
- ✓Conhecimento em RAG
- ✓Conhecimento em Design e gerenciamento de contexto
- ✓Conhecimento em Prompt Engineering estruturada e disciplinada
- ✓Conhecimento em Versionamento de prompts
- ✓Conhecimento em Testes e regressão
- ✓Conhecimento em Avaliação sistemática de alterações
- ✓Conhecimento em Construção de avaliações automatizadas (evals)
- ✓Conhecimento em Telemetria de aplicações baseadas em IA
- ✓Conhecimento em Monitoramento da qualidade das respostas
- ✓Conhecimento em Controle e acompanhamento de custo de tokens
- ✓Conhecimento em Construção de gates automatizados
- ✓Conhecimento em Tradução de critérios de qualidade em verificações objetivas
Benefícios
- ✓Wellhub
- ✓Starbem
- ✓Avus (extensível para até 4 dependentes)
- ✓Clube iFood
- ✓Recesso remunerado conforme acordado
- ✓Premiação mensal por desempenho e resultados via iFood Benefícios
Categorias
Sobre a Empresa
Mais vagas na Fmx Solucoes Em Tecnologia Ltda →A FMX é uma empresa com sede em Araçatuba-SP e braços de atuação na capital Paulista, a qual oferece soluções em TI de forma personalizada para a necessidade de cada cliente. A empresa alcançou crescimento exponencial nos últimos cinco anos, sendo direcionada pela meta de ser reconhecida como referê...[Ver Mais]
Informações Adicionais
Você será redirecionado para o site da empresa
Vagas Relacionadas
Work From Home Senior ML Engineer / Ref. 0129E
BairesDev
Trabalhe de Casa Analista de M&A Sênior / Ref. 0386P
BairesDev
Trabalhe de Casa Advogado Sênior / Ref. 0566P
BairesDev
Trabalhe de Casa Desenvolvedor Front-End Sênior (React) / Ref. 0169P
BairesDev
Trabalhe de Casa Desenvolvedor Drupal Sênior / Ref. 0072P
BairesDev