Descrição da Vaga
A Luby está em busca de um(a) Engenheiro(a) de Aprendizado por Preferência (RLHF) de nível sênior para atuar de ponta a ponta no ciclo de feedback de agentes de IA em uma plataforma de saúde. Este profissional será responsável pela infraestrutura de coleta de sinais de preferência humana, pipelines de transformação desses sinais em dados de treinamento e infraestrutura de reward modeling para moldar o comportamento dos agentes. O trabalho será realizado em um ambiente regulado, com dados sensíveis de saúde (PHI) e implicações diretas de segurança clínica.
Responsabilidades
- Projetar e manter a infraestrutura de coleta de dados de preferência: UIs de revisão humana, fluxos de trabalho para revisores clínicos e pipelines de anotação de pares de preferência.
- Construir e manter a infraestrutura de reward modeling: datasets de preferência, pipelines de treino de reward models e metodologia de avaliação, incluindo detecção de reward hacking.
- Assumir o loop de aprendizado RLHF/RLAIF dos agentes principais: automação de inbox, criação de prontuário, documentação clínica e acompanhamento de encaminhamentos.
- Definir e manter a hierarquia de sinais de qualidade: quais sinais de feedback exigem revisão de especialista clínico, quais podem ser tratados por revisão de apoio e quais podem ser automatizados via RLAIF.
- Construir pipelines de RLAIF onde a anotação humana não escala: abordagens de Constitutional AI, calibração de LLM-as-judge contra ground truth clínico e geração automatizada de pares de preferência.
- Atuar em parceria com a engenharia da camada de inteligência na estratégia de fine-tuning: quando aplicar fine-tuning, prompt engineering ou RAG, e como o aprendizado por preferência interage com cada caminho.
- Garantir conformidade com PHI em todos os pipelines de feedback: interfaces de anotação que não expõem PHI bruto, requisitos de residência de dados (PIPEDA/PHIPA) e acesso de revisores logado e auditável.
Requisitos
- ✓Mestrado em Ciência da Computação, Ciência de Dados ou experiência equivalente.
- ✓Pelo menos 8 anos de experiência em Ciência de Dados ou Engenharia de ML.
- ✓No mínimo 3 anos de experiência em aprendizado por preferência, RLHF ou <i>reward modeling</i> em produção.
- ✓Experiência prática (hands-on) com RLHF/RLAIF: pipelines de aprendizado por preferência já colocados em produção, com vivência real de <i>reward hacking</i> e desenho de soluções para contorná-lo.
- ✓Expertise em <i>reward modeling</i>: construção de datasets de preferência, treino de <i>reward models</i>, metodologia de avaliação e estabilidade sob <i>distribution shift</i>.
- ✓Fundamentos sólidos de engenharia de ML: pipelines de treinamento, <i>experiment tracking</i> (MLflow ou equivalente), versionamento de modelos e <i>frameworks</i> de avaliação rodando em CI de produção.
- ✓Domínio de Python e <i>frameworks</i> de ML, com PyTorch preferencialmente, e familiaridade com <i>fine-tuning</i> eficiente (PEFT/LoRA).
- ✓Vivência em domínios regulados, compreendendo por que <i>loops</i> de feedback de IA clínica têm perfil de risco distinto do de IA de consumo e desenhando os fluxos de anotação com essas implicações em mente.
- ✓Certificação GCP Machine Learning Engineer (ou certificação equivalente em cloud ML).
- ✓Inglês fluente/avançado.
- •Experiência com fluxos de anotação em IA clínica: painéis de revisores clínicos, controle de qualidade de anotação e medição de concordância entre anotadores em domínios clínicos ambíguos.
- •Familiaridade com Constitutional AI / AI feedback em escala (abordagem de RLAIF da Anthropic ou equivalente).
- •Experiência com GCP/Vertex AI para <i>fine-tuning</i>: Vertex AI managed <i>fine-tuning</i> e Vertex AI Pipelines para orquestração de treinamento.
- •Conhecimento de <i>frameworks</i> de segurança clínica para IA: <i>model cards</i>, auditorias de viés e monitoramento de <i>distribution shift</i> para desfechos clínicos.
Benefícios
- ✓Plano de Saúde.
- ✓Plano Odontológico.
- ✓Seguro de Vida.
- ✓Wellhub (Gympass).
- ✓Descontos em cursos da FIAP.
- ✓Descontos em MBA USP Esalq.
- ✓Descontos em lojas Multilaser.
- ✓Bonificação por indicação de profissionais e negócios.
- ✓Horário adaptável.
- ✓Bônus anual.
Sobre a Empresa
Mais vagas na Luby →Somos uma consultoria global com mais de 20 anos de experiência, acelerando negócios de alto impacto e entregando soluções digitais completas para mais de 520 clientes em diversos setores.Com forte atuação em Web, Mobile, Backend/APIs, Data Science, Games, Metaverso, Web3, Cloud e QA, somos referênc...[Ver Mais]
Informações Adicionais
Você será redirecionado para o site da empresa