Auditoria de uso do Power Pilot Gen2

A auditoria do Power Pilot Gen2 oferece uma visão detalhada sobre o uso dos assistentes configurados na plataforma. É possível identificar os modelos e usuários envolvidos, além de acompanhar os tokens de entrada e saída gerados em cada interação. O custo estimado do consumo de tokens também fica disponível para consulta.

A precisão das informações depende do preenchimento correto dos campos de custo de tokens durante a criação dos modelos. Os valores apresentados são apenas estimativas aproximadas.

Tipos de consumo

No Power Embedded, o consumo de tokens pode ser identificado na coluna "Tipo", de acordo com a origem:

• WhatsApp

• Portal de Relatórios

Funcionamento da Auditoria

Cada interação com o assistente consome tokens, unidades básicas que representam palavras, partes de palavras, caracteres ou símbolos usados no processamento da informação.

Na auditoria, os tokens são divididos em três categorias:

• Tokens de entrada: Gerados pelas perguntas do usuário e durante o processamento das respostas.

• Tokens em cache: Tokens reutilizados via cache de prompt, sem custo de reprocessamento. O Power Pilot Gen2 conta com cache de prompt ativado por padrão, o que pode reduzir o consumo de tokens em até 90%.

• Tokens de saída: Utilizados na resposta final entregue pelo assistente.

A auditoria também registra a duração em segundos de cada interação, permitindo identificar consultas com maior tempo de processamento.

A auditoria permite monitorar o consumo de tokens por modelo e identificar os usuários que mais utilizam a IA, além de estimar o custo total relacionado ao uso.

Cache de Prompt

O Power Pilot Gen2 conta com cache de prompt ativado por padrão, que reutiliza o esquema do dataset entre perguntas utilizando o cache nativo do provedor de IA. Esse recurso pode reduzir o consumo de tokens em até 90%, impactando diretamente os valores exibidos na auditoria.

Filtros e Exportação

Para facilitar a análise, estão disponíveis filtros por assistente, modelo, usuário ou tipo de consumo.

Os dados podem ser exportados para CSV ou Excel para uma análise mais detalhada.