Buscamos profissional para atuar como Engenheiro de Dados focado em projetos de dados na nuvem AWS, utilizando Apache Spark e Python. O profissional será responsável pelo desenho, desenvolvimento e manutenção de pipelines de dados eficientes, escaláveis e confiáveis, com forte integração a serviços em nuvem e ecossistemas distribuídos.
Responsabilidades e atribuições
Projetar, implementar e manter pipelines de dados (ETL/ELT) utilizando Python, PySpark e serviços AWS (S3, Glue, Athena, EMR, Lambda, Redshift).Trabalhar com processos em batch e streaming em ambientes altamente distribuídos.Modelar e estruturar arquiteturas de dados, data lakes e data warehouses.Otimizar rotinas, consultas e fluxos de dados, garantindo escalabilidade, segurança e alta disponibilidade.Colaborar com equipes multidisciplinares para entender requisitos técnicos e de negócio, propondo soluções inovadoras.Implementar boas práticas de governança, qualidade e segurança de dados.
Requisitos e qualificações
Experiência comprovada com AWS (S3, Glue, EMR, Athena, Redshift, Lambda).Domínio de Apache Spark (PySpark), incluindo processamento de dados em batch e streaming.Forte conhecimento em Python para desenvolvimento de pipelines e integrações.Experiência com bancos de dados relacionais e NoSQL (ex: DynamoDB, MongoDB).Vivência com arquitetura de Data Lake e Data Warehouse.Habilidade em modelagem, análise e integração de dados de diferentes fontes.Graduação em áreas correlatas (Computação, Sistemas, Engenharia ou similares).