Notizie dal Mondo della GenAI — Settimana #26 del 2024
💰 Notizie dal mondo degli affari 💰
Ilya Sutskever lascia OpenAI per fondare Safe Superintelligence Inc
Ilya Sutskever, cofondatore e capo scienziato di OpenAI, ha annunciato la creazione di una nuova azienda, Safe Superintelligence Inc (SSI). Questo progetto nasce dopo un periodo turbolento in OpenAI, culminato in un tentativo fallito di rimuovere il CEO Sam Altman. Sutskever, noto per il suo ruolo pionieristico nel deep learning e per il suo impegno nella sicurezza dell’AI, ha deciso di dedicarsi a un’iniziativa personale significativa. SSI si concentrerà sulla costruzione di super intelligenze sicure, affrontando una delle sfide tecniche più urgenti: allineare le AI avanzate con gli interessi umani per prevenire potenziali rischi. Sutskever ha descritto il percorso di OpenAI come “miracoloso” e ha espresso fiducia nella capacità dell’azienda di continuare a sviluppare AI sicure e benefiche.
NVIDIA: “Salutate la capolista”
Nvidia ha recentemente superato Microsoft e Apple, diventando la società più preziosa al mondo con una capitalizzazione di mercato di circa 3.3 trilioni di dollari. Questo risultato è stato alimentato dalla crescente domanda di processori avanzati per l’intelligenza artificiale (AI) generativa, come i modelli linguistici di grandi dimensioni (LLM) utilizzati in applicazioni come ChatGPT. Le azioni di Nvidia sono aumentate di oltre il 170% dall’inizio dell’anno, riflettendo la fiducia del mercato nella loro importanza strategica per le tecnologie AI. Il CEO Jensen Huang ha dichiarato che nei prossimi quattro-cinque anni saranno necessari 1 trilione di dollari per adeguare i data center globali alle esigenze dell’AI generativa. Questo investimento mira a supportare l’addestramento e l’esecuzione di nuovi modelli AI. Il boom dell’AI ha influenzato positivamente anche altre aziende tecnologiche come Broadcom, Oracle e Hewlett Packard Enterprise, dimostrando l’ampio impatto dell’AI su vari segmenti del settore tecnologico. Tuttavia, Nvidia rimane il principale beneficiario grazie alla vendita di server interi e tecnologie proprietarie che ottimizzano le prestazioni dei sistemi AI.
💻️ Notizie dal mondo della tecnologia 💻️
Anthropic annuncia Claude 3.5 Sonnet, disponibile su Amazon Bedrock e Google Vertex AI
Anthropic ha annunciato Claude 3.5 Sonnet, un modello di AI generativa avanzato di Anthropic. Claude 3.5 Sonnet supera Claude 3 Opus, GPT-4o e Gemini 1.5 Pro in benchmark cruciali di ragionamento, matematica, multi-modalità e coding, rendendolo ideale per analisi complesse e workflow multi-step. È anche 80% più economico e veloce di Claude 3 Opus. Claude 3.5 Sonnet eccelle nell’elaborazione di immagini, e genera contenuti scritti di alta qualità con un tono naturale e umano, ideale per creare contenuti coinvolgenti e migliorare le capacità di narrazione. Claude 3.5 Sonnet è disponibile oggi su Amazon Bedrock, utilizzando la stessa API conversazionale di Claude 3, e su Google Vertex AI. L’arrivo di Claude 3.5 Haiku e Claude 3.5 Opus è previsto entro fine anno.
Microsoft Lancia Florence: Nuovo Modello per la Visione Artificiale
Microsoft ha recentemente introdotto Florence, un nuovo foundation model per la visione artificiale, caratterizzato da 200 milioni e 800 milioni di parametri. Florence si distingue per le sue prestazioni in attività complesse come la classificazione di immagini zero-shot (senza esempi), il rilevamento di oggetti open-set e la risposta a domande su immagini. Utilizzando il dataset FLD-5B, che comprende 5,4 miliardi di annotazioni su 126 milioni di immagini, Florence esegue compiti di didascalia, rilevamento di oggetti, segmentazione, OCR e altro ancora. Il modello ha superato benchmark di riferimento come ImageNet e COCO, dimostrando una capacità di apprendimento multi-task e risultati di transfer learning superiori allo stato dell’arte. Florence è integrato nei servizi di visione di Azure Cognitive Services.
Amazon SageMaker introduce una piattaforma gestita per MLFlow
Amazon SageMaker ora supporta MLflow completamente gestito, semplificando la gestione degli esperimenti ML per data scientist e ingegneri. MLflow, uno strumento open-source per tracciare esperimenti ML, ora si integra senza problemi con SageMaker, eliminando la necessità di configurazioni complesse dei server di tracking. Il SDK di MLflow permette di monitorare esperimenti su vari ambienti, inclusi notebook locali, IDE in SageMaker Studio, SageMaker Training e Pipelines. Le visualizzazioni aiutano a confrontare le esecuzioni e valutare i modelli. I modelli registrati in MLflow appaiono automaticamente nel SageMaker Model Registry, semplificando la gestione e distribuzione in SageMaker Inference. MLflow è particolarmente utile nei workflow di Generative AI, consentendo di tracciare prompt, risultati e parametri, migliorando la riproducibilità e la condivisione dei risultati.
👥 Posts della community 👥
Character.ai e le 20k queries LLM al secondo
Character.AI ha ottimizzato i suoi modelli di linguaggio di grandi dimensioni (LLM) per servire 20.000 query al secondo. Questo risultato è stato raggiunto grazie a diverse tecniche avanzate. Molta attenzione è stata posta alla gestione della cache, con tecniche quali Multi-Query Attention, Cross-layer KV-sharing e Context Caching gestione migliorata degli attention layers locali e globali tramite Interleave Local Attention, ed infine utilizzando un modello già addestrato con int8 anziché quantizzato post-training, addirittura tramite dei kernel custom per moltiplicazioni di matrici e attenzione durante l’inferenza. Queste ottimizzazioni hanno permesso a Character.AI di ridurre i costi di servizio di 33 volte dal 2022. La lettura del blog è un’eccellente risorsa che copre praticamente ogni metodo di ottimizzazione di inferenza con LLM, una lettura più che consigliata.
Mantenere le Competenze nell’Era dell’AI
Nell’era dell’intelligenza artificiale, il rischio di perdere competenze è crescente. Matt Beane, autore di The Skill Code, avverte che l’AI può ostacolare lo sviluppo delle abilità umane eliminando sfide iniziali essenziali per l’apprendimento. Per evitare questo, è fondamentale mantenere connessioni umane, fare domande e collaborare con i colleghi, spingendosi oltre i propri limiti per continuare a crescere professionalmente. Mentre l’AI può aumentare l’efficienza, dobbiamo bilanciare l’automazione con lo sviluppo continuo delle competenze per evitare che capacità essenziali vengano trascurate.
Per qualsiasi commento, contattateci pure! Alla prossima newsletter, Il Team di Generative AI — Italia 🇮🇹
