Mais do que nunca em Data: the clock is ticking

Porque você está começando o seu projeto de Dados pelo lado errado

Allan Sene
Data Hackers
5 min readMar 31, 2023

--

Photo by Sandro Katalina on Unsplash

Tem tempo que eu queria escrever esse artigo… e ele é só a ponta de um iceberg de um mar de coisas que temos que sentar e discutir. Fato é:

AS MAIORES ORGANIZAÇÕES DO FUTURO VÃO SURGIR AGORA.

Sim. Galera tá com um Chat GPT na mão 💎, mas ainda não entendeu a parada…

O investimento no lado errado

Copyright Dadosfera — www.dadosfera.ai

Esses 8 “quadradinhos” são a alma-mater de uma #cloud #data #platform. Esse foi o desenho que abstraiu os #buildingblocks da Dadosfera lá em 2020, quando buscamos nossos primeiros investimentos.

Parece simples né? Mas cada uma dessas “caixinhas” exigiram um time que contou com mais de 15 certificados #aws, alguns em Snowflake e HashiCorp Terraform, milhares de horas e 12 meses de desenvolvimento, resumo: alguns milhões de reais.

Isso sem contar nos investimentos em UI/UX, Integração e outros componentes também tão importantes para uma plataforma, como Apache Airflow para orquestrar tudo. Isso sem contar com os diversos bugs, desvios e aprendizados. Isso sem contar com a rotatividade do time e a perda de conhecimento constante.

Trago Dados

Segundo a pesquisa State of Data Brazil 2022, realizada pelo Data Hackers em parceria com a Bain & Company, o salário médio dos profissionais de dados no Brasil é de R$ 9.800,00, sendo que os cargos mais altos, como gestores e líderes técnicos, podem chegar a ganhar mais de R$ 20.000,00 por mês.

O número de profissionais que atuam na área de dados tem crescido e muito! Como você deve saber, esses profissionais se dividem em diferentes papéis, como analistas de dados, cientistas de dados e engenheiros de dados, e trabalham em diversos setores da economia, como finanças, varejo, saúde e educação. Mesmo esse franco crescimento do mundo de Dados no Brasil, traz desafios

Um dos principais, para Executivos e Lideranças de Dados, é a alta rotatividade dos profissionais.

A pesquisa mostra que 42% dos respondentes trocaram de emprego nos últimos 12 meses, e que 52% pretendem mudar nos próximos 12 meses. Além disso, 65% dos profissionais estão insatisfeitos ou indiferentes com o seu atual empregador.

Esses números mostram que construir uma plataforma de dados na nuvem do zero pode ser um desafio não só técnico, mas também financeiro. Além dos custos com infraestrutura e serviços na nuvem, é preciso investir em uma equipe qualificada e motivada, que possa desenvolver e manter a plataforma com qualidade e segurança. Porém, encontrar e reter esses talentos pode ser difícil e caro, especialmente em um cenário de escassez de mão de obra e alta competitividade.

O Ponto de Inflexão

Como traz muito bem o Data Mesh da Zhamak, a realidade é que até as grandes empresas estão passando por uma fase de gargalo imensa quando o assunto é produção de valor através de Data Analytics.

Retirado do Livro Data Mesh — Zhamak Denghani

Alta-rotatividade traz perda de valor no longo-prazo. Diferentemente de Software, Software + Dados tende a degradar MUITO mais rápido, quando não há manutenção efetiva e gestão de conhecimento.

Tá tudo bem com seu modelo de recomendação, vem lá uma pandemia e PINBA, lá vai tudo por água abaixo…

Uma plataforma self-service, de com alta-abstração, facilidade de uso e COLABORATIVIDADE para as áreas não-técnicas é ESSENCIAL para a evolução analítica de qualquer organização, não só as menores.

A Falácia do Mercado

Photo by Rafaela Biazi on Unsplash

Para piorar a situação, há uma falácia no mercado, que talvez até eu ajudei a construir, de que um time ultra-qualificado em Engenharia de Dados é requisito para se extrair valor dos Dados.

A verdade é que temos um potencial absurdo de gente pronta para ser aproveitada no Brasil, formados em STEM — acrónimo em língua inglesa para “science, technology, engineering and mathematics”. A conta não bate…

Um dos desafios que nós — líderes e influenciadores no mundo de Data — Temos a OBRIGAÇÃO de lidar é a escassez de talentos qualificados para atender à demanda do mercado. A própria pesquisa do State of Data revela que 60% dos profissionais têm menos de três anos de experiência na área, e que apenas 18% possuem pós-graduação ou doutorado em áreas relacionadas a dados.

Efeito time to market

Não se engane com abstrações simples de arquiteturas que parecem simplórias. Feitas por arquitetos bons de papo e de caneta. Já diria meu tio engenheiro: Papel; aceita tudo.

Arquiteturas e Cases de empresas como PicPay, Nubank, iFood, Hotmart, Globo.com e outras #bigtech brasileiras estão de 2 a 5 anos de investimentos pesados em #tech e #data na sua frente.

Não tentem pegar tudo e replicar de bate-pronto, sem entender qual a realidade de quem tem 100 ou mais #dataspecialists e a sua, que precisa levantar rápido uma cultura data-driven com < 10 pessoas.

Imagem por Aurimas Griciūnas

E ainda tem gente querendo construir tudo em pau e pedra, esquecendo que, no fim das contas, todo o diferencial competitivo está em:

1 — DADOS de qualidade
2 — ANÁLISE de qualidade

Você JÁ ESTÁ atrasado, daqui 12 meses, quando sua plataforma for para produção e seus cientistas/analistas vão começar a usar, você estará 24 meses atrasado! 24 meses atrás, você se lembra qual era o “hype”? Eu não… Metaverso talvez?

E no mundo de #ai e #analytics, mais do que nunca: The clock is ticking.

Se você, assim como eu, acredita que sua organização precisa evoluir desse pensamento jurássico, ficarei feliz em fazer uma Demo da Dadosfera.

--

--

Allan Sene
Data Hackers

CTO | Lead Data Engineer | Co-Founder of Data Hackers and Dadosfera. Loves science, code and cats ^*^