Self Service BI: uma jornada para times mais autônomos em relação a Dados
O que é BI?
Business Intelligence (BI) nada mais é que o processo estruturado de coleta, integração e análise de dados para suportar melhores decisões de negócio.
BI é o primeiro passo fundamental para qualquer empresa que quer se tornar mais data-driven, dado que é impossível avançar em análises preditivas e complexas sem antes compreender muito bem o histórico.
Reports automatizados, análises pontuais e dashboards de monitorameto são alguns exemplos de “produtos de BI”.
O desafio na Passei Direto
Cheguei aqui em outubro/2019 para ser Data PM com a missão de extrair o máximo de valor dos nossos dados.
Parte do meu escopo é gerenciar o backlog do time de Dados.
Assim que cheguei, abri nosso Trello, vi a quantidade de demandas e me assustei: dezenas de cards de áreas completamente distintas aguardavam meses na fila para serem executados.
Nessa época, nosso time era composto por apenas 3 pessoas além de mim: 1 líder técnico/engenheiro e 2 cientistas de dados.
Ainda que triplicássemos o time e dobrássemos nossa produtividade, não seríamos capazes de atender toda a demanda em um prazo razoável.
Logo, pensamos em dar autonomia para que os outros times pudessem executar demandas que fossem mais simples de forma independente.
Só que todo o conhecimento em relação às métricas, tabelas e ferramentas restringia-se a poucas pessoas da empresa e praticamente nada era documentado.
-
O processo de discovery
Fase 1: Entendo o problema mais a fundo
O desafio era grande e, por isso, resolvemos mergulhar mais a fundo para entender melhor quais eram as principais necessidades dos nossos clientes internos antes de pensar na solução. Fizemos 3 análises complementares:
Análise do backlog
Utilizarmos a ferramenta Corrello para extrair insights e métricas do Trello e identificamos que:
- Mais de 80% das demandas de outras áreas referiam-se a demandas simples de BI: consultas para análises pontuais, construção de novos dashboards ou alterações em gráficos de acompanhamento.
- Desde a solicitação até a entrega, 85% dos cards de 2019 levaram até 85 dias para serem executados, sendo o tempo real de execução inferior a 6 dias.
Com essa análise, confirmamos nossa hipótese de que as demandas eram relativamente simples e o gargalo realmente estava no nosso backlog.
Análise das ferramentas utilizadas
Na época, utilizávamos principalmente 3 ferramentas de BI:
- Athena: para consulta ao nosso data lake
- Google Sheets: para reports e construção da base de dados para visualização
- Klipfolio: para construção e visualização de dashboards
O Klipfolio tem um custo baixo, mas como não oferece uma integração nativa ao Athena, o processo de automação de qualquer acompanhamento nessa ferramenta envolvia o desenvolvimento de um job.
Com as ferramentas disponíveis, não conseguiríamos escalar o processo para pessoas que não tinham o know-how de programar — a maioria dos nossos clientes.
Pesquisa com os principais clientes internos
Por fim, fizemos um formulário com 6 perguntas rápidas para os líderes de cada área para ter um parâmetro objetivo em relação ao nível de autonomia, satisfação e necessidades dos times em relação a Dados.
Identificamos que, para se tornarem mais autônomos, 50% dos times sentiam a necessidade de realizar consultas de forma independente.
Esse era o nosso panorama geral em Março/20:
Fase 2: Busca de referências no mercado
Com maior clareza do problema, seguimos então para a segunda fase do Discovery.
Nessa etapa, nós utilizamos como referência:
- Artigos sobre o assunto
- Webinar sobre Self Service BI
- Relatórios da Gartner
Além dessas fontes secundárias, nós também:
- Conversamos com consultorias especializadas em BI;
- Fizemos benchmarking com outras empresas (Quinto Andar e OLX)
Entender como outras empresas estavam resolvendo esse problema na prática fez toda a diferença. Eu, o líder técnico e a engenheira recém-contratada aprendemos muito nessas conversas.
Para aproveitar ao máximo , preparamos as perguntas a serem feitas nos benchmarkings e, posteriormente, documentamos os aprendizados para dividir o conhecimento com outras pessoas da companhia.
A solução
Depois do Discovery, quebramos o problema para o desenvolvimento das soluções em 3 frentes.
1- Documentação e governança em dados
Utilzamos o Notion (ferramenta que todos já tinham acesso) para documentar as principais métricas, tabelas e ferramentas de Dados.
1.1 — Documentação
Abaixo você pode conferir um exemplo de como organizamos melhor e evoluímos em relação à documentação:
O Dicionário de métricas foi fundamental para garantir que todos times tivessem “falando a mesma língua” internamente.
Além disso, construir tabelas com as métricas já calculadas e disponibilizar as consultas no Dicionário de Métricas facilitou bastante o processo na construção de novas análises de forma independente.
1.2 — Governança
Outro ponto essencial para democratização dos dados foi estabelecer as diretrizes e processos adequados para utilização das ferramentas.
Estruturamos padrões para a nomenclatura das fontes de dados, dashboards e documentações. Estabelecemos regras e os limites na permissão de cada time para assegurar que nossos custos seriam controlados.
O suporte através do canal do slack #pd-dados também ajudou muito nesse processo rápido e colaborativo de validação de consultas para garantir que as conclusões com base nos dados estivessem corretas.
2- Implementação de uma nova ferramenta
2.1 — A avaliação de ferramentas de Self Service BI
Avaliamos e testamos 7 ferramentas diferentes ara escolher aquela que mais se enquadrava na nossa necessidade.
Escolhemos o Quicksight para substituir o Klipfolio. Os critérios que embasaram nossa decisão foram:
- Integração nativa com o Athena
- Avaliação dos clientes internos durante o piloto
- Custo Total (implementação e manutenção)
- Potencial de escalabilidade
Aprendemos que é essencial estabelecer poucos critérios mais críticos para embasar a decisão e não se perder com tanta informação
Envolver na decisão final o time de Dados (que vai implementar e manter a ferramenta) e representantes dos clientes internos (aqueles que vão utilizá-la) foi fundamental.
2.2 — O engajamento na mudança e a adoção do Quicksight
Os clientes internos mais engajados que nos ajudaram a escolher a melhor ferramenta foram os nossos principais embaixadores, incentivando outros times a aprenderem e começar a utilizar.
Para facilitar a adoção da ferramenta:
(1) criamos um vídeo de ‘onboarding’
(2) oferecemos suporte no canal #pd-dados para qualquer dúvida
(3) escutamos atentamente a todos feedbacks para oferecer a melhor solução
Desde julho nós estamos trabalhamos nessa evangelização em relação a importância do Self Service BI.
O processo de adoção foi bastante gradual e nós comemoramos cada pequena conquista — no caso, cada novo painel(dash) publicado.
Hoje, já temos mais de 20 dashboards publicados. 9 times diferentes utilizando o Quicksight e 95 pessoas (62% do total da Passei Direto) acompanhando mensalmente os dashboards lá construídos.
3- Suporte ao aprendizado e capacitação em Dados
Por fim, a última e mais importante frente que tem sido essencial nessa jornada é o preparo das pessoas para realizarem consultas, análises e construir dashboards com qualidade.
Todos Analistas e PMs aqui da Passei Direto devem saber o básico de análise de dados. Nesse sentido, nós de Dados:
(1) Criamos uma página no Notion com recomendações de cursos online para aprender SQL, Quicksight e sobre Análise de Dados;
(2) Compartilhamos noções básicas de estatísticas em treinamentos internos;
(3) Estruturamos vídeos para apresentar nossas ferramentas;
(4) Construímos um programa de mentoria em Dados;
(5) Ativamos o canal #pd-dados para compartilhar dicas e aprendizados na prática
Ainda temos muito a evoluir, mas é incrível ver a evolução que já tivemos em apenas 6 meses com essas iniciativas!
Os resultados
Agora, temos profissionais cada vez mais capacitados, seguros e aptos a analisar dados de forma independente. Como consequência, cada vez mais decisões baseadas em dados 😄
Depois de 6 de meses, essa foi a evolução que tivemos em relação à autonomia dos times:
Outra consequência positiva, foi que o time de Dados passou a ter muito mais tempo disponível para trabalhar em projetos de maior valor agregado.
O nível de satisfação com as entregas de Dados também aumentou 22% (a média saiu de 7.2 para 8.8).
Ainda estamos só no início dessa jornada e ainda temos muito a evoluir, mas ficamos muito felizes com os resultados até aqui alcançados.
Em resumo, esse foi o passo-a-passo da nossa jornada:
E aí, como funciona na sua empresa? Você também enfrenta desafios similares? :)
