NeurIPS 2018: relato de um cientista de dados

Há duas semanas em Montreal rolou o NeurIPS (antigamente conhecido como NIPS), a maior conferência de machine learning e inteligência artificial do mundo. Lá os principais avanços da área são publicados, então não faltou Deep Learning, GANs e Reinforcement Learning, num misto de teoria e prática. Mais de oito mil pessoas participaram, mais de mil artigos foram aceitos, e rolou algumas dezenas de workshops. Além disso, basicamente todas grandes empresas de tecnologia estavam presentes, com o objetivo principal de recrutar cientistas e pesquisadores de lá. Eu fui para o NeurIPS para apresentar o trabalho Adversarial Attacks on Variational Autoencoders no workshop LatinX in AI, desenvolvido com alguns colegas durante o meu tempo na Unicamp.

Falando de LatinX, neste ano diversidade e inclusão foram os assuntos mais quentes da conferência. Tivemos outros três workshops dedicados a isso (Black in AI, Women in ML, Queer in AI), além de palestras e encontros menores sobre o tema. Apesar disso, mais da metade dos participantes do Black in AI não conseguiram obter o visto a tempo ou foram negados, o que está tendo muitas repercussões e pode influenciar o lugar de futuras conferências. No LatinX foi anunciado o encontro latino americano em inteligência artificial, o Khipu, que deve acontecer em Montevidéu em novembro de 2019. Nós brasileiros não podemos deixar passar essa oportunidade!

A conferência teve os seus problemas: tickets se esgotaram em apenas 11 minutos; mudança de nome de última hora (e ficamos sem canecas por causa disso); sessões lotadas, com gente sendo expulsa por “risco de incêndio”; vários problemas audiovisuais (seria melhor ter visto muitas palestras de casa). Apesar disso, a experiência é única, não existe outro lugar em que você se esbarra com Geoff Hinton, Yoshua Bengio e Yann LeCun nos corredores. É claro que eles sempre vão estar cercados de admiradores e pessoas querendo tirar fotos.

Imagina que você está explicando o seu poster e o Geoff Hinton aparece atrás de você?

Apesar dessas “celebridades” estarem presentes, quem apresenta os trabalhos acadêmicos são os alunos deles. Com mais de mil artigos na conferência principal e centenas nos workshops, é difícil saber tudo o que aconteceu por lá. Eu anotei mais de 30 artigos para olhar depois com mais calma. Apesar disso ser uma quantidade grande para se ler, é muito pouco do total. Para quem quer ter um gosto do que é publicado por lá, seguem alguns exemplos:

Melhores trabalhos (de acordo com os revisores e comitê de programa):

  1. Neural Ordinary Differential Equations
  2. Non-delusional Q-learning and Value-iteration
  3. Optimal Algorithms for Non-Smooth Distributed Optimization in Networks
  4. Nearly Tight Sample Complexity Bounds for Learning Mixtures of Gaussians via Sample Compression Schemes

Melhores trabalhos (de acordo comigo):

  1. Regularization Learning Networks: Deep Learning for Tabular Datasets
  2. Bayesian Neural Network Ensembles
  3. The Everlasting Database: Statistical Validity at a Fair Price
  4. How to Start Training: The Effect of Initialization and Architecture

Além do lado mais acadêmico, o NeurIPS tem um forte lado social: festas e encontros. Tirando o encerramento oficial, as festas são patrocinadas por empresas. Eu mesmo participei de duas (Nvidia e Element AI), com comida e bebida excelentes. Rola um pouco de elitismo, eu só consegui participar dessas duas festas por conta de um amigo que trabalha junto com grandes nomes em um laboratório em Montreal. No entanto, todo dia tinha várias opções, com maior ou menor dificuldade para conseguir o ingresso.

Na minha opinião, os encontros organizados pelos próprios participantes no aplicativo da conferência foram a melhor parte da semana, pois serviram para unir pessoas com interesses similares. Eu participei do AI for Business e do AI in Production, dois temas bem relevantes para o meu trabalho como cientista de dados na Nubank. Lá é possível conhecer pessoas de diversos perfis e backgrounds mas que compartilham o mesmo interesse, sem o elitismo dessas festas exclusivas.

AI for Business lunch (eu estou de roxo no canto superior direito)

Por fim, os últimos dois dias são os workshops. Neles é possível ir bem a fundo num determinado tópico e até saber de coisas que não foram publicadas oficialmente em nenhum lugar ainda. O workshop que mais me marcou foi o AI in Financial Services. No entanto, lá teve um viés muito forte para a realidade norte-americana e europeia, basicamente só se falava de regulamentação e como se poderia fazer machine learning com essas restrições. Por exemplo, é necessário explicar as razões quando se nega um empréstimo nesses países, e como fazer isso se o risco do empréstimo é calculado por uma rede neural profunda? No entanto, muitos países como China, Índia, e o próprio Brasil não tem esse tipo de restrição, portanto nossos desafios são outros e eles foram bem pouco explorados por lá. Eu posso dizer que a Nubank está na vanguarda mundial de aplicação de machine learning em produtos financeiros.

NeurIPS é uma conferência acadêmica, lá não é o lugar para encontrar outros cientistas de dados, mas para encontrar pesquisadores de machine learning e AI. Eu recomendo a experiência para quem tem esse viés acadêmico, para quem tem o hábito de ler papers e pretende ou já publicou trabalhos na área. Caso você tenha outros interesses, há conferências e encontros que podem ser mais úteis profissionalmente e mais acessíveis, como a Strata ou o PAPIs.io. O mais importante é sair de casa, conhecer pessoas novas, ter uma experiência enriquecedora, mas também não pode se esquecer de passear um pouco e aproveitar a viagem!