Como os principais fornecedores monitoram as habilidades de seus projetos de inteligência artificial generativa, pode ser o momento de recorrer ao uso de software de código aberto para garantir sua integridade.
Ultimamente, o campo da inteligência artificial generativa tem enfrentado desafios. A AWS lançou o Amazon Q em resposta ao Copilot da Microsoft, mas enfrentou problemas com “vere alucinações” e vazamentos de dados relatados por seus próprios funcionários. O Google também lançou o Gemini para competir com o ChatGPT, gerando entusiasmo, mas depois foi revelado que a demonstração inicial era falsa. Além disso, o Meta apresentou novas ferramentas open source para a segurança AI, no entanto, não conseguiu abordar adequadamente a vulnerabilidade das ferramentas de IA generativa a ataques de injeção prompt.
Posso prosseguir, mas qual seria a finalidade? Essas lacunas e outras deficiências não indicam que a inteligência artificial generativa seja vazia ou uma simples estratégia de marketing exagerado. Elas são indícios de que nós, como setor, permitimos que a promessa da IA encubra a situação atual. Essa situação atual é bastante positiva. Não há necessidade de continuar promovendo.
Uma opção que pode ser útil, apesar de não ser perfeitamente adaptada para inteligência artificial generativa, é o software de código aberto.
Manter-se à dianteira de nossa própria pessoa.
Recentemente mencionei que o lançamento da AWS da Amazon Q representa um momento importante para a empresa: uma chance de fechar a lacuna ou, em certos casos, superar os concorrentes. Objetivo alcançado.
Quase. Um dos principais problemas apontados pelo Economista-Chefe do Duckbill, Corey Quinn, é que, apesar da AWS ter a obrigação de posicionar o Q como muito mais seguro do que seus concorrentes, como o ChatGPT, na verdade não é. Não está claro qual a situação pior, mas isso não contribui para a tentativa da AWS de se destacar e, na prática, não ser realmente superior. Quinn argumenta que isso ocorre porque a AWS está entrando no espaço de aplicativos, uma área em que historicamente não demonstrou ser forte.
Quando a AWS tenta transferir a carga para o ambiente da aplicação, surgem desafios significativos. Isso requer habilidades que a AWS não possui e não desenvolveu desde o início de sua existência.
É possível. No entanto, a questão principal está relacionada à forte pressão existente para alcançar o sucesso na área de inteligência artificial, levando grandes empresas como a AWS a possivelmente adotarem práticas questionáveis para atingir esse objetivo.
O Google, apesar de ter mostrado um excelente trabalho com a inteligência artificial ao longo dos anos, optou por apresentar atalhos em uma demonstração. Segundo Parmy Olson, o vídeo divulgado pelo Google deu a entender que seria possível exibir diferentes informações para o Gemini Ultra em tempo real e conversar com ele, o que não é verdade. De acordo com Gradualmente Booch, a demo foi fortemente editada para dar a falsa impressão de que o Gemini é mais capaz do que realmente é.
Por que essas empresas optariam por exagerar suas capacidades? As motivações são claras. A intensa pressão para se destacar no campo da inteligência artificial é evidente. E não são apenas a AWS e o Google. Basta observar os relatórios de lucros recentes de empresas públicas; todos os executivos parecem destacar a importância da IA. A competição na corrida pela supremacia em inteligência artificial é acirrada, e todos desejam afirmar sua relevância.
O GenAI ainda está em desenvolvimento em termos de suas capacidades. Apesar de muitas reportagens entusiasmadas sobre os novos modelos e recursos oferecidos, a realidade mostra que eles não correspondem às expectativas exageradas. Em vez de resolver o problema principal da GenAI, que é a injeção prolongada, estamos agravando a situação ao incentivar mais empresas a utilizar software que não é seguro.
Podemos necessitar de software de código aberto para fornecer auxílio.
Título: Recurso livre para salvar
Eu não estou sugerindo que se liberarmos completamente o código-fonte, a inteligência artificial se tornará perfeita de forma mágica. Isso não aconteceu com a computação em nuvem ou em outras áreas de tecnologia da informação empresarial, então por que a inteligência artificial generativa seria uma exceção? Além disso, embora falemos bastante sobre o conceito de código aberto no contexto da IA, nem sempre está claro o que exatamente queremos dizer com isso, como eu mencionei anteriormente.
É possível que a indústria, seguindo o exemplo da Meta com o projeto Purple Llama, dê mais importância a questões menos significativas. Simon Willison expressa preocupação com a falta de atenção para os riscos de ataques de injeção rápida na nova iniciativa de Inteligência Artificial Llama Roxo da Meta.
Além disso, sistemas como o Gemini são diversificados e complicados. De acordo com o professor Xin Eric Wang, há muitas técnicas de engenharia e regras codificadas envolvidas, e não se sabe ao certo quantos modelos estão presentes nos sistemas antes de abrir o sourcing. A complexidade desta abordagem de sourcing de um modelo de linguagem extenso ou de um sistema de IA generativa levanta tantas dúvidas quanto oferece respostas.
A Open Source Initiative (OSI) está abordando essas preocupações. O diretor executivo da OSI, Stefano Maffulli, destaca a importância de um desenvolvedor ter acesso a um modelo, os direitos que devem ser aplicados e os requisitos para poder modificar e redistribuir esse modelo.
A situação é confusa.
É evidente que é crucial trabalhar para tornar a fonte aberta relevante para a inteligência artificial generativa. É necessário aumentar a transparência e reduzir a opacidade dos sistemas fechados. Empresas como Microsoft, AWS e Google continuarão a competir para serem líderes, mas a fonte aberta revela a realidade, já que o código não mente.
Vamos retroceder os anúncios de Q, Copilot e Gemini, mas imagine se, em vez de apenas visualizações privadas e demonstrações, houvesse acesso ao código. Reflita sobre como isso poderia alterar a dinâmica e a necessidade de humildade que surgiria. Considerando que, de longe, os primeiros adotantes mais comuns de IA generativa dentro das empresas são os desenvolvedores, como revelado por uma pesquisa da O’Reilly, as empresas precisam falar a linguagem deles: o código. A maioria dos desenvolvedores nunca examina o código de um projeto de código aberto, mas torná-lo disponível para alguns é crucial. Isso gera confiança de uma maneira que anúncios excessivamente entusiasmados não conseguem.
A fonte aberta não é a solução ideal para os desafios enfrentados pelos provedores de IA generativa. No entanto, a busca por uma maior transparência, promovida pela fonte aberta, é extremamente importante e urgente.