add newline token

This commit is contained in:
rabidcopy 2023-03-22 01:55:17 -05:00 committed by GitHub
parent 6fb0db31d7
commit 1752bc92eb
No known key found for this signature in database
GPG key ID: 4AEE18F83AFDEB23

View file

@ -114,6 +114,7 @@ extern "C" {
// Special tokens // Special tokens
LLAMA_API llama_token llama_token_bos(); LLAMA_API llama_token llama_token_bos();
LLAMA_API llama_token llama_token_eos(); LLAMA_API llama_token llama_token_eos();
LLAMA_API llama_token llama_token_newline();
// TODO: improve the last_n_tokens interface ? // TODO: improve the last_n_tokens interface ?
LLAMA_API llama_token llama_sample_top_p_top_k( LLAMA_API llama_token llama_sample_top_p_top_k(