vbatts/llama.cpp
1
0
Fork 0
Code Issues Pull requests Projects Releases Packages Wiki Activity Actions

llama : disambiguate API

Browse source 
ggml-ci
This commit is contained in:
Georgi Gerganov 2024-09-02 10:06:42 +03:00
parent 8f1d81a0b6
commit 086e7f6ebc
No known key found for this signature in database
GPG key ID: BF970631944C16B7
9 changed files with 22 additions and 18 deletions
Download patch file Download diff file Expand all files Collapse all files

10
include/llama.h
View file

@ -467,10 +467,14 @@ extern "C" {
LLAMA_API uint32_t llama_n_ubatch (const struct llama_context * ctx);
LLAMA_API uint32_t llama_n_seq_max (const struct llama_context * ctx);
LLAMA_API enum llama_pooling_type llama_pooling_type(const struct llama_context * ctx);
LLAMA_API enum llama_pooling_type llama_get_pooling_type(const struct llama_context * ctx);
LLAMA_API enum llama_vocab_type llama_get_vocab_type (const struct llama_model * model);
LLAMA_API enum llama_rope_type llama_get_rope_type (const struct llama_model * model);
LLAMA_API enum llama_vocab_type llama_vocab_type (const struct llama_model * model);
LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model);
// DEPRECATED: use the API above
//LLAMA_API enum llama_pooling_type llama_pooling_type(const struct llama_context * ctx);
//LLAMA_API enum llama_vocab_type llama_vocab_type (const struct llama_model * model);
//LLAMA_API enum llama_rope_type llama_rope_type (const struct llama_model * model);
LLAMA_API int32_t llama_n_vocab (const struct llama_model * model);
LLAMA_API int32_t llama_n_ctx_train(const struct llama_model * model);