Add main.cpp back, and invoke llama_main from it
Signed-off-by: Thiago Padilha <thiago@padilha.cc>
This commit is contained in:
parent
82e70dbfe0
commit
e3648474d6
5 changed files with 15 additions and 4 deletions
|
@ -107,8 +107,9 @@ endif()
|
||||||
# endif()
|
# endif()
|
||||||
|
|
||||||
add_executable(llama
|
add_executable(llama
|
||||||
llama.cpp
|
main.cpp
|
||||||
utils.cpp
|
utils.cpp
|
||||||
|
llama.cpp
|
||||||
utils.h)
|
utils.h)
|
||||||
|
|
||||||
add_executable(quantize
|
add_executable(quantize
|
||||||
|
|
7
Makefile
7
Makefile
|
@ -188,11 +188,14 @@ ggml.o: ggml.c ggml.h
|
||||||
utils.o: utils.cpp utils.h
|
utils.o: utils.cpp utils.h
|
||||||
$(CXX) $(CXXFLAGS) -c utils.cpp -o utils.o
|
$(CXX) $(CXXFLAGS) -c utils.cpp -o utils.o
|
||||||
|
|
||||||
|
llama.o: llama.cpp llama.h
|
||||||
|
$(CXX) $(CXXFLAGS) -c llama.cpp -o llama.o
|
||||||
|
|
||||||
clean:
|
clean:
|
||||||
rm -f *.o main quantize
|
rm -f *.o main quantize
|
||||||
|
|
||||||
main: llama.cpp ggml.o utils.o
|
main: main.cpp ggml.o utils.o llama.o
|
||||||
$(CXX) $(CXXFLAGS) llama.cpp ggml.o utils.o -o main $(LDFLAGS)
|
$(CXX) $(CXXFLAGS) main.cpp ggml.o utils.o llama.o -o main $(LDFLAGS)
|
||||||
./main -h
|
./main -h
|
||||||
|
|
||||||
quantize: quantize.cpp ggml.o utils.o
|
quantize: quantize.cpp ggml.o utils.o
|
||||||
|
|
|
@ -733,7 +733,7 @@ const char * llama_print_system_info(void) {
|
||||||
return s.c_str();
|
return s.c_str();
|
||||||
}
|
}
|
||||||
|
|
||||||
int main(int argc, char ** argv) {
|
int llama_main(int argc, char ** argv) {
|
||||||
ggml_time_init();
|
ggml_time_init();
|
||||||
const int64_t t_main_start_us = ggml_time_us();
|
const int64_t t_main_start_us = ggml_time_us();
|
||||||
|
|
||||||
|
|
2
llama.h
2
llama.h
|
@ -57,3 +57,5 @@ struct llama_model {
|
||||||
struct ggml_context * ctx;
|
struct ggml_context * ctx;
|
||||||
std::map<std::string, struct ggml_tensor *> tensors;
|
std::map<std::string, struct ggml_tensor *> tensors;
|
||||||
};
|
};
|
||||||
|
|
||||||
|
int llama_main(int argc, char ** argv);
|
||||||
|
|
5
main.cpp
Normal file
5
main.cpp
Normal file
|
@ -0,0 +1,5 @@
|
||||||
|
#include "llama.h"
|
||||||
|
|
||||||
|
int main(int argc, char ** argv) {
|
||||||
|
return llama_main(argc, argv);
|
||||||
|
}
|
Loading…
Add table
Add a link
Reference in a new issue