Durante a conferência Cloud Next, a empresa introduziu novas funcionalidades para MLOps avançados relacionados à inteligência artificial generativa e apresentou o Ray on Vertex AI para otimizar a escalabilidade de cargas de trabalho AI de maneira eficaz.
O Google Cloud lançou recentemente o Colab Enterprise, um ambiente de notebooks de ciência de dados gerenciado, projetado para auxiliar cientistas de dados a adaptar e otimizar modelos de linguagem grandes (LLMs) de acordo com as necessidades de suas empresas.
Atualmente em fase de visualização pública, com lançamento geral previsto para setembro, a Colab Enterprise é uma plataforma baseada no Colab, um notebook Jupyter hospedado na nuvem do Google. O Google afirmou que a Colab já conta com sete milhões de usuários ativos mensais.
Segundo a empresa, o Colab Enterprise, impulsionado pelo Vertex AI, disponibiliza todos os recursos da Plataforma Vertex AI, incluindo o Model Garden e diversas ferramentas de ajuste para recursos de computação flexíveis e tipos de máquinas, voltadas para ciência de dados e ferramentas MLOps.
A empresa Colab Enterprise oferece um novo ambiente de trabalho colaborativo, chamado de BigQuery Studio, voltado para a exploração e análise de dados no BigQuery, oferecendo uma experiência similar à de um notebook.
Segundo a empresa, esse recurso possibilita que os usuários empresariais comecem a trabalhar em um caderno na BigQuery para preparação de dados e depois prossigam no mesmo caderno na Vertex AI para utilizar infraestrutura e ferramentas de inteligência artificial.
“Segundo a empresa, as equipes têm a possibilidade de acessar os dados de forma remota, além de compartilhar notebooks entre os membros e os ambientes de trabalho da equipe, o que permite eliminar eficientemente as barreiras entre os dados e as tarefas da empresa.”
O suporte para os frameworks de código aberto do Google está sendo ampliado com a inclusão do Ray no Vertex AI. Ray será integrado aos frameworks já suportados, como Tensorflow, PyTorch, scikit-learn e XGBoost.
Segundo o Google, o uso do Ray auxiliará as organizações a diminuir despesas e elevar a eficiência.
De acordo com a empresa, a integração do suporte do Ray na Vertex AI possibilita que os cientistas de dados configurem um cluster Ray e o conectem ao notebook Colab Enterprise, a fim de expandir a capacidade de treinamento de modelos. Além disso, destaca que é possível acessar e utilizar modelos de código aberto, como Llama 2, Dolly ou Falcon, diretamente no ambiente de notebooks de ciência de dados gerenciado para aprimoramento e prototipagem.
Expandindo a implementação de MLOps para Inteligência Artificial generativa.
O Google está lançando novas funcionalidades do MLOps voltadas para a IA generativa. A empresa está introduzindo um método de ajuste chamado Style Tuning para Imagen, permitindo que empresas criem imagens de acordo com suas diretrizes de marca com apenas 10 imagens de referência. Além disso, está disponibilizando o ajuste supervisionado para o PaLM 2 Text.
Outras habilidades adicionais são a inclusão de duas novas funcionalidades – Métricas Automáticas e Lado Automático por Lado – que facilitam a interação contínua e o aprimoramento dos modelos de machine learning, possibilitando que as empresas avaliem a eficácia de seus modelos de ML.
Enquanto o A Metric automático avalia um modelo com base em uma tarefa específica e um conjunto de dados, o Automatic Side by Side utiliza um modelo robusto para avaliar as saídas de diversos modelos em teste.
O Google Cloud está introduzindo uma versão atualizada do Vertex AI Feature Store para auxiliar as empresas na prevenção de dados duplicados e na manutenção das políticas de acesso aos dados.
Desenvolvida na BigQuery, a nova loja de recursos integrará de forma nativa o tipo de dados vetor incorpora para simplificar o acesso a dados não estruturados em tempo real, conforme informado pela empresa.