Resumo
O cargo de especialista em segurança busca profissionais para trabalhar na área de segurança da informação com foco em Inteligência Artificial.
Descrição do Cargo
O analista de segurança em desenvolvimento senior será responsável por garantir que os aplicativos sejam desenvolvidos, mantidos e utilizados de maneira segura e protegida contra ameaças cibernéticas.
Estratégia, Colaboração e Arquitetura Segura em IA:
* Ser o ponto focal de segurança, colaborando diretamente com times de engenharia em projetos de Inteligência Artificial;
* Participar e conduzir ativamente revisões de arquitetura para sistemas baseados em IA, desde a concepção até a fase de produção;
* Realizar threat modeling específico para identificar e mitigar vetores de ataque exclusivos de sistemas de IA;
Domínio de Riscos e Vulnerabilidades de Segurança em IA:
* Possuir profundo conhecimento em riscos de segurança e privacidade específicos de IA, incluindo o OWASP Top 10 for LLMs:
* Prompt Injection e técnicas de jailbreak;
* Insecure Output Handling e riscos de execução de código;
Capacidades Técnicas e Operacionais:
* Ciclo de Vida de LLMs: Conhecimento aprofundado em pre-training, fine-tuning, RLHF, alignment, padrões de deployment (API-based, on-premise, edge) e implicações de segurança do prompt engineering;