diff --git a/common/common.cpp b/common/common.cpp
index 96130ad54..63c92e17f 100644
--- a/common/common.cpp
+++ b/common/common.cpp
@@ -2977,6 +2977,8 @@ static llama_control_vector_data llama_control_vector_load_one(const llama_contr
         }
     }
 
+    gguf_free(ctx_gguf);
+
     return result;
 }