Início Tecnologia O tempo de execução dos microsserviços da DAPR agora suporta agentes de...

O tempo de execução dos microsserviços da DAPR agora suporta agentes de IA

15
0

Em 2019, o Microsoft Open Open DAPR, um novo tempo de execução para facilitar a facilidade de facilitar os aplicativos baseados em microsserviço distribuídos. Na época, ninguém estava falando sobre agentes de IA ainda, mas, como se vê, o DAPR tinha alguns dos blocos fundamentais de construção para apoiar os agentes de IA embutidos desde o início. Isso ocorre porque um dos principais recursos do DAPR é um conceito de atores virtuais, que pode receber e processar mensagens, independentemente de todos os outros atores do sistema.

Hoje, a equipe da DAPR está lançando agentes da DAPR, sua opinião ajudando os desenvolvedores a construir agentes de IA, fornecendo muitos blocos de construção para fazê -lo.

“Os agentes são um caso de uso muito bom para o DAPR”, explicou o co-criador da DAPR, Yaron Schneider. “De uma perspectiva técnica, você pode usar os atores como uma maneira muito leve de executar esses agentes e realmente ser capaz de executá-los em escala com o estado-e ter eficiente em termos de recursos. Tudo isso é ótimo, mas ainda há muita lógica de negócios que você precisa escrever. A estado e a orquestração são apenas uma parte. E muitas pessoas, elas podem escolher um mecanismo de fluxo de trabalho ou uma estrutura de ator, mas ainda há muito trabalho que eles precisam fazer para realmente escrever a lógica do agente do outro lado. Existem muitas estruturas de agentes por aí, mas elas não têm o mesmo nível de orquestração e estado que o DAPR tem. ”

Créditos da imagem:Projeto DAPR

Os agentes DAPR se originaram da Floki, um projeto popular de código aberto que estendeu o DAPR para este caso de uso do agente da IA. Conversando com os mantenedores do projeto, incluindo o pesquisador da Microsoft AI Roberto Rodriguez, as duas equipes decidiram colocar o projeto sob o guarda -chuva do DAPR para garantir a continuidade da nova estrutura do agente.

“De muitas maneiras, vemos sistemas agênticos e toda a terminologia em torno disso como outro termo para ‘sistemas distribuídos’, disse o co-criador e mantenedor da DAPR, Mark Fussell. ““[…] Em vez de chamá -los de microsserviços, você pode chamá -los de agentes agora, principalmente porque pode colocar grandes modelos de idiomas entre todos eles. ”

Para coordenar com eficiência esses agentes, você precisa de um mecanismo de orquestração e do estado, argumenta a equipe – que é exatamente o que o DAPR oferece. Isso é em parte porque os atores da DAPR devem ser extremamente eficientes e capazes de girar em milissegundos quando uma mensagem entra (e desligada, com o estado preservado, quando o trabalho é feito).

No momento, os agentes DAPR podem conversar com a maioria dos provedores de modelos populares fora da caixa. Estes incluem a AWS Bedrock, OpenAi, Antrópica, Mistral e Abraçando o rosto. O apoio aos LLMs locais chegará muito em breve.

Além de interagir com esses modelos, como os agentes DAPR estendem a estrutura DAPR existente, os desenvolvedores também têm a capacidade de definir uma lista de ferramentas que o agente pode usar para cumprir uma determinada tarefa.

Atualmente, os agentes DAPR suportam o Python, com o lançamento de suporte .NET em breve. Java, JavaScript e Go seguirão em breve.

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui