Habilidades técnicas:
1. Proficiência no uso do Azure Databricks e do Spark para processamento de dados
2. A compreensão da estrutura MDMF será uma vantagem adicional
3. Experiência com SQL e gerenciamento de banco de dados.
4. Experiência com serviços de nuvem do Azure, incluindo Azure Data Lake, Banco de Dados SQL do Azure e Armazenamento de Blobs do Azure.
5. Capacidade de projetar e implementar modelos de dados complexos.
6. Fortes habilidades analíticas e de resolução de problemas.
7. Excelentes habilidades de comunicação em inglês para colaborar com equipes multifuncionais.
8. Apoie e interaja com diversas equipes em vários locais e fusos horários.
9. Interaja com uma equipe multifuncional para resolver problemas e reunir requisitos.
10. Deve ser capaz de rastrear incidentes, solicitações de serviço, solicitações de alteração para garantir que os SLAs
* Desenvolvimento de pipeline de dados: projete, desenvolva e mantenha pipelines de dados escalonáveis usando o Azure Databricks para processar e analisar grandes conjuntos de dados.
* Integração de dados: integre dados de várias fontes e garanta a qualidade e a consistência dos dados em todo o pipeline.
* Otimização de desempenho: otimize o desempenho do processamento de dados e solucione problemas no ambiente do Databricks.
* Colaboração: Trabalhe em estreita colaboração com cientistas de dados, analistas e outras partes interessadas para entender os requisitos de dados e fornecer soluções.
* Documentação: crie e mantenha a documentação para processos de dados, arquitetura e fluxos de trabalho.
* Segurança e conformidade: Garanta a segurança dos dados e a conformidade com os regulamentos e padrões relevantes.
* Monitoramento e manutenção: Implemente soluções de monitoramento para garantir a confiabilidade do pipeline de dados e realizar manutenção regular.