Todas as notícias

Como a ArisGlobal escalou a inferência de IA generativa no Amazon Bedrock

Como a ArisGlobal escalou a inferência de IA generativa no Amazon (nova aba) Bedrock

Imagem da publicação original · AWS — Machine Learning

Anúncio da empresa · Fonte primária

A ArisGlobal executa o NavaX, seu mecanismo de IA para ciências da vida, no Amazon (nova aba) Bedrock. Ao armazenar em cache o prefixo de prompt compartilhado, em vez de cada documento por caso, a ArisGlobal reduziu o custo efetivo de entrada em cerca de 50% e o gasto mensal total com inferência em cerca de 40%, ao mesmo tempo em que incorporava mais inquilinos sem um crescimento proporcional de custos.

Ler mais (nova aba)Tradução do trecho disponibilizado pela fonte · validação automática

A notícia é o começo

Continue por aqui