Pular para o conteúdo

Cache semântico

em que você já confia.

A maioria das perguntas dos seus usuários já foi feita antes, com outras palavras. Aprove a resposta uma vez e entregue de novo sem outra chamada ao modelo.

Como funciona

Como o cache responde a uma pergunta

O NeuralSeek associa uma pergunta nova a um tema e depois a responde a partir do cache. Nenhuma das duas etapas chama o modelo.

  1. Associada a um tema

    Cada pergunta fica agrupada sob um tema, um conjunto de perguntas com o mesmo significado. O NeuralSeek gera perguntas semelhantes para cada tema, então uma pergunta conhecida, feita com outras palavras, encontra o seu tema por correspondência exata ou aproximada.

  2. Respondida a partir do cache

    Quando um especialista edita uma resposta, ela pode ir para o cache e ser entregue diretamente, sem uma nova geração. As respostas normais têm um cache próprio, com um limiar que você define. O Seek marca essas respostas como Cached.

Revisado pelos seus especialistas

Um cache que sua equipe pode ler e editar

As respostas em cache ficam no Curate, com indicadores, filtros e busca, para que seus especialistas revisem o que o cache entrega.

  • Editadas pelos seus especialistas

    Edite o estilo e o conteúdo de qualquer resposta gerada, e a edição fica marcada. Envie perguntas e respostas revisadas em lote a partir de uma planilha e, se quiser, melhore-as antes com o Seek.

  • Sinalizadas por tema

    Cada tema traz indicadores: se tem respostas novas, se contém dados pessoais e se os dados usados para responder ficaram desatualizados.

  • Detecção de respostas desatualizadas

    Cada resposta em cache traz um hash do trecho de origem, que o NeuralSeek compara com a base de conhecimento. Quando um documento muda, a resposta é sinalizada como desatualizada.

  • Filtros e busca

    Busque temas por palavra-chave e filtre os editados, os recém-respondidos, os sinalizados ou os desatualizados. Seus especialistas vão direto às respostas que precisam deles.

Medição

Resultados do cache no Governance

A aba Governance mostra o cache ao lado do restante da recuperação, com filtros por tema, categoria ou data.

A eficiência do cache mostra com que frequência as respostas vieram do cache, de uma resposta editada ou foram geradas de novo. A cobertura e a confiança aparecem em gráficos por tema ao longo de um período de análise, o que facilita perceber desvios.

Eficiência do cache

console › governance › semantic insights
A tela Semantic Insights no Governance: uma grade de indicadores (confiança semântica, frase de origem mais longa, cobertura, tamanho da resposta, desvio da fonte, resolução de perguntas) e um indicador de acertos do cache que divide as respostas entre em cache, editadas e sem cache, em um intervalo de datas escolhido.
Semantic Insights no Governance: a divisão de acertos do cache (em cache, editadas, sem cache) ao lado da cobertura e da confiança.

Onde se encaixa

Parte do Seek e da governança

O cache funciona entre a recuperação e a governança. Ele entrega as respostas que seus especialistas editaram e as que passam do seu limiar.

Os fluxos de agentes também têm um cache local próprio: um armazenamento de chave-valor que um agente lê, grava e consulta por índice e chave, inclusive foneticamente. Ele é separado do cache de respostas.

  • Recuperação semântica

    Onde a primeira resposta para qualquer tema é criada: busca híbrida, verificações de precisão, limiares de confiança e citações.

    Veja como uma resposta é criada
  • Governança

    Onde o cache é medido junto com todo o resto: eficiência, cobertura, confiança, tokens e custo.

    Veja o que é registrado

Comece hoje a criar com o NeuralSeek.

Cadastre-se online e comece com um teste de duas semanas, ou fale com nossa equipe sobre como usar o NeuralSeek na sua própria nuvem.