As melhorias contemplam a introdução de diferentes tipos de fundamentos e a inclusão de recursos vetoriais em diversas bases de dados.
Durante a conferência re:Invent 2023, a AWS anunciou diversas melhorias em seus serviços de SageMaker, Bedrock e banco de dados, com o objetivo de ampliar suas soluções de inteligência artificial gerativa.
Na quarta-feira, Swami Sivasubramanian, vice-presidente de dados da AWS e AI, apresentou atualizações para os modelos básicos do serviço de construção de aplicativos AI Amazon Bedrock durante sua participação no evento.
O Bedrock agora conta com novos modelos atualizados, como o Claude 2.1 e o Meta Llama 2 70B da Anthropic, que estão amplamente disponíveis. Além disso, a Amazon incluiu os modelos Titan Text Lite e Titan Text Express para o Bedrock.
Adicionalmente, o provedor de serviços em nuvem incluiu um novo modelo em fase de visualização, chamado Amazon Titan Image Generator, ao seu serviço de desenvolvimento de aplicativos de inteligência artificial.
O AWS afirmou que o modelo é capaz de criar imagens de forma rápida e econômica, interpretando instruções complexas e produzindo imagens pertinentes com precisão na composição dos objetos e mínimas distorções.
As empresas têm a opção de utilizar o modelo no console do Amazon Bedrock, ou então, enviar um comando de linguagem natural para criar uma imagem. Também é possível carregar uma imagem para edição automática, ajustar as dimensões e indicar a quantidade de variações que o modelo deve produzir.
Marca d’água imperceptível permite a identificação de imagens por inteligência artificial.
As imagens produzidas por Titan possuem uma marca d’água que não pode ser vista, com o objetivo de minimizar a propagação de informações falsas, oferecendo uma forma discreta de identificar imagens criadas por inteligência artificial.
Os modelos de linguagem disponíveis no Bedrock incluem grandes modelos de linguagem (LLMs) desenvolvidos por diferentes empresas e laboratórios, como os Laboratórios AI21, Cohere Command, Meta, Antropic e Stability AI.
Esses modelos, com a exceção de Claude 2 da Anthropic, podem ser ajustados de maneira eficaz dentro da plataforma Bedrock, de acordo com a empresa. Além disso, foi mencionado que o suporte para ajustes precisos do Claude 2 está previsto para ser disponibilizado em breve.
Com o objetivo de auxiliar as empresas na criação de recursos para treinamento ou implementação de modelos de aprendizado de máquina, a AWS também está disponibilizando amplamente suas incorporações multimodais Amazon Titan.
A empresa afirmou que o modelo transforma imagens e texto breve em embeddings, que são representações numéricas que permitem ao modelo compreender os significados e relações semânticas entre os dados de forma eficiente, sendo esses embeddings armazenados na base de dados vetoriais do cliente.
Analisando o modelo fundamental mais adequado para utilização em aplicações de inteligência artificial generativa.
Adicionalmente, a AWS introduziu uma nova funcionalidade no Bedrock que possibilita que as organizações analisem, contrastem e escolham o modelo fundamental mais adequado para suas exigências de cenário de uso e operações comerciais.
A empresa informou que o recurso denominado Modelo Dubbed, disponível atualmente no Amazon Bedrock e em fase de visualização, tem como objetivo simplificar diversas atividades, como a identificação de referências, a configuração de ferramentas de avaliação e a realização das próprias avaliações. Isso resulta em economia de tempo e dinheiro, segundo a empresa.
De acordo com Sivasubramanian, no console Amazon Bedrock, as empresas têm a possibilidade de selecionar os modelos desejados para uma determinada atividade, como responder perguntas ou resumir conteúdo. Para realizar avaliações automáticas, as empresas podem escolher critérios de avaliação predefinidos, como precisão, robustez e toxicidade, e utilizar seus próprios dados de teste ou selecionar conjuntos de dados disponíveis no sistema.
Segundo Sivasubramanian, em situações em que são necessários critérios subjetivos ou análises complexas exigindo discernimento especializado, as empresas podem optar por estabelecer processos de avaliação com a participação de colaboradores internos ou recorrer a uma equipe de avaliadores fornecida pela AWS para analisar as respostas dos modelos.
Outras melhorias para Bedrock incluem Guardrails, atualmente em fase de teste, com o objetivo de auxiliar as empresas a seguir os princípios de IA responsável. Além disso, a AWS disponibilizou as Bases de Conhecimento e os Agentes Amazônicos para Bedrock de forma geral.
Capacidades do SageMaker para escalonar modelos de linguagem extensos.
Com o objetivo de auxiliar as empresas na capacitação e implementação eficiente de modelos de linguagem extensos, a AWS lançou duas novas opções – SageMaker HyperPod e SageMaker Inference – no âmbito de seu serviço de Inteligência Artificial e Aprendizado de Máquina Amazon SageMaker.
Em comparação com a abordagem manual de treinamento do modelo, que pode causar atrasos, desperdício de recursos e complicações, a HyperPod simplifica a construção e otimização da infraestrutura de aprendizado de máquina para modelos de treinamento. Isso resulta em uma redução de até 40% no tempo necessário para treinar os modelos.
A nova opção já vem com bibliotecas de treinamento distribuídas do SageMaker integradas, com o intuito de possibilitar que os usuários dividam automaticamente suas cargas de trabalho de treinamento em milhares de aceleradores. Isso permite que as cargas de trabalho sejam processadas simultaneamente, visando aprimorar o desempenho do modelo.
Segundo Sivasubramanian, a HyperPod também assegura que os clientes possam realizar o treinamento de modelos de forma contínua, com pontos de verificação econômicos feitos regularmente.
Auxiliar as empresas a diminuir os gastos associados à implementação de inteligência artificial.
Na etapa de SageMaker chamada Inferência, o objetivo é auxiliar as empresas a reduzir os custos de implementação do modelo e diminuir o tempo de resposta do modelo. Dessa forma, a Inference possibilita que as empresas implantem diversos modelos em uma única instância de nuvem para otimizar o uso dos aceleradores disponíveis.
“A empresa afirmou que é possível gerenciar políticas de dimensionamento individualmente para cada modelo, tornando mais fácil a adequação aos padrões de uso de cada modelo e otimizando os custos de infraestrutura. Além disso, o SageMaker monitora ativamente as instâncias que estão executando solicitações de inferência e ajusta as rotas de forma inteligente de acordo com a disponibilidade das instâncias.”
A AWS lançou uma atualização para sua plataforma de aprendizado de máquina de baixo código destinada a analistas de negócios, chamada SageMaker Canvas.
Os especialistas têm a capacidade de empregar a linguagem natural para processar informações diretamente na interface, a fim de criar modelos de machine learning, conforme mencionado por Sivasubramanian. A plataforma sem necessidade de programação oferece suporte a LLMs desenvolvidos pelos laboratórios Anthropic, Cohere e AI21.
O SageMaker agora oferece a funcionalidade de Avaliação de Modelo, que foi renomeada como SageMaker Clarify e está disponível no SageMaker Studio.
Outras melhorias ligadas à inteligência artificial genética compreendem o aprimoramento do suporte para bases de dados vetoriais no Amazon Bedrock, como Amazon Aurora e MongoDB. Além disso, outras bases de dados suportadas são Pinecone, Redis Enterprise Cloud e Vector Engine para Amazon OpenSearch Serverless.