Técnicas de Engenharia de Contexto Implementadas
O capítulo 7 do meu livro em PT-BR lista seis técnicas de Engenharia de Contexto para produção. As duas técnicas que foram implementadas são o Layout Hierárquico e a Gestão de Memória.
Layout Hierárquico
O Layout Hierárquico é uma técnica clara e eficaz, que consiste em marcar informação com níveis de importância (PRIMARY / SUPPORTING / BACKGROUND) para o LLM priorizar. Este é um exemplo de como o modelo pode usar sinalizações de sinalização para tomar decisões de contexto.
Gestão de Memória
A Gestão de Memória é outra técnica implementada, que se refere à curto prazo e longo prazo, pontuados por relevância, frescor e importância. Este é um exemplo de como o modelo pode gerenciar o conhecimento e a relevância de acordo com o tempo.
Técnicas de Engenharia de Contexto Não Implementadas
Duas das seis técnicas de Engenharia de Contexto não foram implementadas: Recuperação Seletiva e Seleção Dinâmica de Contexto. A Recuperação Seletiva é uma técnica que busca somente o que é mais relevante para a consulta, com um threshold de similaridade e orçamento de tokens. A Seleção Dinâmica de Contexto, por outro lado, é uma técnica que troca o contexto conforme o estágio da conversa (problema → solução → implementação).
Conclusão e Boas Práticas
Embora não tenham sido implementadas, as duas técnicas de Engenharia de Contexto implementadas mostram como a Engenharia de Contexto pode ser eficaz. Para implementar as técnicas de Engenharia de Contexto não implementadas, é recomendado seguir os padrões de engenharia de contexto descritos no capítulo 7 do meu livro em PT-BR. Além disso, é importante garantir que o modelo de linguagem é capaz de entender e interpretar as sinalizações de contexto.