Fabiano Boscatto
Gerente de Inovação e Novos Produtos na Under Protection
Profissional com 15 anos de experiência em cibersegurança, atua na liderança de iniciativas estratégicas voltadas à modernização de SOCs e ao fortalecimento da inteligência de ameaças (CTI). Atualmente, é responsável por projetos de inovação e desenvolvimento de novos produtos na Under Protection, com foco na integração de tecnologias emergentes, automação e uso de inteligência artificial aplicada à segurança da informação.
Palestra: “Alice no SOC das Maravilhas: a IA está prestes a transformar seus analistas em coelhos assustados — com resultados mágicos ou fatais?”
Neste encontro, destacaremos os principais perigos da automação excessiva em SOCs, apresentando como a ausência de supervisão humana adequada pode levar a falhas graves. Discutiremos o automation bias, que leva analistas a confiarem cegamente nas decisões da IA, ignorando sinais contraditórios e negligenciando falsos negativos importantes; e o problema do out-of-the-loop, quando operadores perdem habilidade e percepção situacional ao tornarem-se meros observadores. Além disso, abordaremos como sistemas autônomos baseados em loops fechados podem “sair do controle”, agindo com base em objetivos mal definidos, vulneráveis a jogos de recompensa e a comportamentos emergentes imprevisíveis. A falta de explicabilidade (o famoso “black box”) obscurece decisões críticas, reduz a transparência e deteriora a confiança operacional. Exploraremos também os riscos de ataques direcionados à IA (como envenenamento de dados e adversarial attacks), que podem manipular resultados automatizados e comprometer a defesa do SOC.
Por fim, apresentaremos os perfis humanos essenciais no ciclo de decisão (Human-in-the-Loop): supervisão em pontos críticos, validação de alertas complexos, contextualização de decisões e controle ético das ações automatizadas. Sem esse equilíbrio humano–IA, a automação não apenas falha em proteger — ela pode se tornar um fator de risco em si.
