A Oracle proporciona às empresas uma maneira mais fácil de diminuir os gastos com a formação contínua de funcionários em informações da empresa, segundo analistas, embora fique atrás da concorrência em serviços de inteligência artificial generativa.
De acordo com os analistas, a Oracle atualizou seu OCI Generative AI Service para atender melhor às necessidades futuras das empresas, em um mercado competitivo com AWS, Microsoft e Google. No entanto, a Oracle pode estar em desvantagem em relação aos concorrentes em termos de variedade de modelos e alcance global de serviços de IA generativa.
“A Oracle pode proporcionar às empresas uma maneira mais simples de diminuir os custos e o tempo necessários para pré-treinar, ajustar e atualizar continuamente modelos de linguagem grandes (LLMs) com base no conhecimento ou nos dados da empresa, o que tem sido um desafio em muitos ambientes corporativos atuais, exceto em algumas aplicações de suporte de call center e experiência do cliente”, afirmou Ron Westfall, diretor de pesquisa do Grupo Futurum.
Não. Relacionado: Resumo da Oracle CloudWorld 2024.
Segundo Westfall, o que torna a Oracle única é sua habilidade de promover a inovação em inteligência artificial generativa nas empresas, utilizando uma ampla variedade de recursos integrados em suas aplicações Fusion e NetSuite. Isso inclui serviços de IA, infraestrutura e aprendizado de máquina para plataformas de dados, como o MySQL HeatWave Vector Store e o AI Vector Search no Oracle Database.
Apesar de a AWS e o Google não conseguirem competir diretamente com a diversidade de aplicações empresariais da Oracle em seu portfólio, concorrentes como a IBM estão atrás da Oracle ao oferecer um banco de dados em nuvem globalmente, conforme explicado por Westfall.
Simplificar e diminuir os gastos são fundamentais.
Westfall acredita que a Oracle oferece vantagens competitivas em termos de desempenho e preço em categorias importantes de bancos de dados em nuvem, o que pode facilitar a implementação e expansão da inteligência artificial generativa nesses ambientes.
Ampliando a ideia apresentada por Westfall, o analista-chefe da empresa de pesquisa Omdia, Bradley Shimmin, mencionou que a Oracle está buscando incorporar aspectos essenciais da inteligência artificial generativa em seus serviços essenciais, sobretudo em bancos de dados, a fim de aprimorar a capacidade de computação e diminuir os gastos.
Após avanços inovadores na área da inteligência artificial generativa, empresas de tecnologia como a Oracle estão cientes da importância de maximizar a eficiência do hardware ao implementar um modelo de inteligência artificial com bilhões de parâmetros em grande escala e com uma latência aceitável, conforme explicado por Shimmin.
“Shimmin mencionou que estamos observando um despertar semelhante nas áreas de dados e análise, onde bancos de dados e ferramentas de processamento de dados estão se tornando essenciais para o suporte de tecnologias de inteligência artificial generativa, como a geração aumentada de recuperação.”
Apesar de ser relativamente simples criar um pipeline inicial para a geração aprimorada de recuperação (RAG) que possa indexar alguns PDFs em suporte a um único usuário, implementar o RAG para grandes volumes de dados corporativos em constante mudança e fornecer insights desses dados de forma instantânea para uma audiência global é um desafio completamente novo, como explicado pelo analista.
“Portanto, não é surpreendente ver vários fornecedores de banco de dados, incluindo a MongoDB, integrando funcionalidades de machine learning em seus bancos de dados e, mais recentemente, desenvolvendo, armazenando e acessando vetores incorporados dentro do banco de dados onde os dados estão em formato vetorial. O objetivo é simplificar ao máximo e otimizar o desempenho”, afirmou Shimmin.
O conceito fundamental consiste em diminuir a transferência de dados entre diferentes bases de dados, entre bases de dados e dispositivos de armazenamento, e entre dispositivos de armazenamento e chips de inferência de modelos.
Além disso, Shimmin mencionou que as empresas podem precisar manter dois bancos de dados distintos em diversos cenários, um para informações de vetores e outro para dados de origem. Isso pode resultar em custos extras devido à necessidade de gerenciar a integração de dados e a latência entre os dois bancos.
“Segundo o analista, empresas como a Oracle estão em uma posição favorável para oferecer benefícios exclusivos aos clientes ao simplificar operações e melhorar o desempenho, através da otimização de sua infraestrutura de nuvem abrangendo processamento de banco de dados, rede de chips e recuperação de dados.”
Rivais estão significativamente atrasados em termos de modelos e serviços.
Enquanto a abordagem da Oracle pode ser atrativa para empresas clientes, Andy Thurai, um analista sênior da Constellation Research, considera que a Oracle está em desvantagem significativa em relação aos seus concorrentes quando se trata de soluções abrangentes de inteligência artificial em escala global.
“A escolha da Oracle de oferecer serviços hospedados personalizados concorre com uma oferta mais abrangente da AWS, que conta com uma gama maior de opções e funcionalidades em comparação com a oferta da OCI”, afirmou Thurai. Ele também destacou que a Oracle possui uma quantidade limitada de LLMs, os quais têm restrições em seu uso em comparação com concorrentes.
No entanto, Thurai argumenta que a decisão da Oracle de utilizar o serviço de IA generativa na Oracle Cloud e on-premise através da região dedicada da OCI é uma proposta incomum, que pode ser atrativa para grandes clientes corporativos, sobretudo os que atuam em setores regulados.
O analista mencionou que a possibilidade de se conectar aos aplicativos ERP, HCM, SCM e CX da Oracle que operam na OCI poderia ser um atrativo adicional para seus usuários, desde que o custo seja adequado. Ele observou que a falta dessa integração poderia beneficiar a AWS em sua relação com clientes empresariais.
Quais são as novidades no Serviço de IA Generativa da OCI.
A Oracle tem implementado sua estratégia de inteligência artificial generativa em diferentes produtos ao longo de aproximadamente um ano. Em setembro, a empresa disponibilizou em fase beta o OCI Generative AI Service. Agora, a Oracle apresentou novos modelos da Cohere e Meta, novos agentes de IA, uma nova estrutura de baixo código para gerenciar LLMs de código aberto e tornou o serviço amplamente disponível.
Os novos modelos agora disponíveis são Llama 2 70B da Meta, um modelo de geração de texto aprimorado para conversas online, e as versões mais recentes dos modelos Cohere, como Command, Summarize e Embed. A Oracle anunciou que esses modelos podem ser acessados através de um serviço gerenciado via chamadas de API e também podem ser refinados por meio do serviço atualizado.
Um agente de Inteligência Artificial para melhorar a eficácia da recuperação.
Além das novas versões, a Oracle incluiu agentes de inteligência artificial adicionais ao serviço, com o objetivo de auxiliar as empresas a otimizarem a utilização de seus dados empresariais através da implementação de modelos de linguagem avançados e da criação de aplicativos com base em inteligência artificial generativa.
O agente RAG, o primeiro dos agentes de IA lançados em versão beta, opera de maneira parecida com o LangChain. Ele une as capacidades dos LLMs e da pesquisa corporativa da OCI OpenSearch para apresentar resultados contextualizados enriquecidos com informações empresariais, conforme explicado por Vinod Mamtani, VP dos Serviços de IA Gerativa da OCI.
Quando um usuário de uma empresa faz uma pergunta em linguagem natural para o agente RAG por meio de um aplicativo de negócios, a pergunta é enviada para o OCI OpenSearch, que é uma ferramenta de pesquisa vetorial ou semântica. O OCI OpenSearch, por sua vez, busca e recolhe informações relevantes do banco de dados da empresa. Os resultados da pesquisa são ordenados por um ReRanker LLM, que posteriormente envia o ranking para um gerador de texto LLM, o qual responde à pergunta em linguagem natural.
A geração de texto do LLM inclui verificações para assegurar que a resposta seja apropriada para o usuário. Se a resposta não atender aos critérios necessários, o processo é repetido, o que elimina a exigência de especialistas, como desenvolvedores e cientistas de dados, afirmou a empresa.
“Mamtani explicou que as informações obtidas são atualizadas, mesmo com armazenamento de dados dinâmicos, e os resultados são apresentados com referências aos dados originais de onde foram extraídos.”
chsyys/UnPlash
Próximas melhorias previstas para serem disponibilizadas no início de 2024 para o agente RAG incluirão suporte a diversas ferramentas de pesquisa e coleta de dados, além de permitir o acesso ao Oracle Database 23c com AI Vector Search e ao MySQL Heatwave com Vector Store.
Outras funcionalidades, que serão disponibilizadas aproximadamente ao mesmo tempo, englobam a habilidade de desenvolver um agente de inteligência artificial diretamente do console OCI. Um usuário poderá criar um agente ao definir a tarefa que precisa ser realizada e associá-la a uma fonte de dados, conforme explicado por Mamtani, e esses agentes utilizarão por padrão o Llama 2 ou o Cohere LLMs.
Agentes de inteligência artificial que se baseiam no framework ReAct.
Conforme a Oracle, foi desenvolvido um novo tipo de agentes de inteligência artificial com base no artigo ReAct, escrito por pesquisadores da Universidade de Princeton e do Google. Esses agentes utilizam o framework ReAct para tomar decisões, agir e planejar com base em uma variedade de pensamentos, ações e observações.
Mamtani afirmou que essas habilidades possibilitarão que os agentes realizem atividades além da simples recuperação de informações e da chamada de APIs em nome do usuário, incluindo a automação de outras tarefas. A Oracle também pretende incluir agentes de múltiplas interações no serviço, os quais poderão lembrar interações anteriores para ampliar o contexto do modelo e suas respostas.
Segundo a empresa, a maior parte desses agentes e suas atividades podem ser integrados às suas diversas aplicações SaaS, como o Oracle Fusion Cloud Applications Suite, Oracle NetSuite e aplicações específicas da indústria, como o Oracle Cerner.
Adicionalmente, a Oracle está introduzindo uma nova funcionalidade chamada AI Quick Actions em sua plataforma OCI Data Science, com o objetivo de auxiliar as empresas na utilização e gestão de LLMs com bibliotecas de código aberto. Este recurso, que estará disponível em versão beta no próximo mês, permitirá acesso simplificado a diversos LLMs de código aberto sem a necessidade de programação.