diff --git a/src/llama.cpp b/src/llama.cpp index 2f000cb5a..8a557b5b2 100644 --- a/src/llama.cpp +++ b/src/llama.cpp @@ -3657,10 +3657,10 @@ namespace GGUFMeta { using llama_buf_map = std::unordered_map; // TODO: update when needed or think of some clever automatic way to do this -static size_t llama_model_max_nodes(const llama_model & model) { - if (model.arch == LLM_ARCH_LLAMA && model.hparams.n_layer > 400) { // llama-3 405B - return 32768; - } +static size_t llama_model_max_nodes(const llama_model & /*model*/) { + //if (model.arch == LLM_ARCH_LLAMA && model.hparams.n_layer > ??) { // llama-3 405B + // return 32768; + //} return 8192; }