Engenheiro de Dados Sênior GCP/DBT

A Leega é uma empresa focada no atendimento eficiente e inovador em seus clientes. Isso não poderia ser diferente com o nosso principal combustível: as pessoas! Nossa cultura é inspiradora e nossos valores estão presentes no dia a dia: ética e transparência, excelência de qualidade, trabalho em equipe, responsabilidade econômica, social e ambiental, relações humanas e credibilidade. Buscamos profissionais inovadores que sejam movidos por desafios e focados em resultados. Se você busca uma empresa dinâmica e parceira e que investe em seus colaboradores através de capacitação constante, a Leega é o lugar para você! >> A LEEGA É PARA TODOS, ficaremos muito felizes em ter você em nosso time. Venha fazer parte da nossa história e da construção do nosso futuro. Cadastre-se agora mesmo em nossas vagas!

Buscamos um Engenheiro de Dados Sênior para atuar em uma squad de cobrança de uma instituição financeira de grande porte, construindo e evoluindo pipelines e modelos de dados em nuvem com dbt. O profissional vai além da entrega técnica: participa de uma comunidade de prática (chapter) de dados, dissemina boas práticas e apoia as áreas de negócio na evolução da maturidade no uso de dados. A atuação envolve interlocução constante com Data Science, BI, Engenharia de Dados e áreas de negócio, com autonomia para diagnosticar problemas, propor padrões e documentar soluções. Análise e Planejamento de Cargas/Pipelines: Avaliar a arquitetura e os requisitos do DW. Mapear os dados, transformações e processos os serviços GCP (Cloud Storage, BigQuery, Dataproc). Definir a estratégia de migração de dados (full load, incremental, CDC). Elaborar um plano de arquitetura de dados no GCP. Design e Modelagem de Dados no GCP: Projetar esquemas de tabelas no BigQuery, considerando performance, custo e escalabilidade. Definir estratégias de particionamento e clustering para BigQuery. Modelar as zonas de dados no Cloud Storage (Bronze, Silver e Gold). Desenvolvimento de Pipelines de ELT/ETL: Criar rotinas de transformação de dados usando Dataproc (Spark) ou Dataflow para carregar dados para o BigQuery. Traduzir a lógica de negócios e as transformações existentes no GCP. Implementar mecanismos de validação e qualidade de dados. Provisionamento e Gerenciamento de Infraestrutura: Utilizar ferramentas de IaC (Terraform) para provisionar e gerenciar recursos GCP (BigQuery datasets/tables, Cloud Storage buckets, Dataproc clusters). Configurar e otimizar clusters Dataproc para diferentes cargas de trabalho. Gerenciar redes, segurança (IAM) e acessos no GCP. Otimização de Performance e Custo: Otimizar consultas no BigQuery para reduzir custos e melhorar o desempenho. Ajustar e otimizar jobs Spark no Dataproc. Monitorar e otimizar o uso de recursos GCP para controlar custos. Segurança e Governança de Dados: Implementar e garantir a segurança dos dados em trânsito e em repouso. Definir e aplicar políticas de IAM para controlar o acesso aos dados e recursos. Garantir a conformidade com as políticas de governança de dados. Monitoramento e Suporte: Solucionar problemas de desempenho e funcionalidade dos pipelines de dados e recursos GCP. Documentação: Documentar a arquitetura, os pipelines de dados, os modelos de dados e os procedimentos operacionais. Comunicação: Comunicar-se de forma eficaz com membros da equipe, stakeholders e outras áreas da empresa. Garantir a comunicação clara entre as definições de arquitetura e componentes de software, evolução e a qualidade dos desenvolvimentos da equipe; Jira / Metodologias Ágeis: Conhecer as metodologias ágeis, seus ritos e proficiência com a ferramenta Jira.