Hugging Face's logo

koungho
/
Llama-3.1-TAIDE-LX-8B-Chat-EXL2-4.5bpw

Safetensors
Chinese
llama
exl2
Model card Files Community
koungho commited on
Commit
68b60f2
·
verified ·
1 Parent(s): 655d337

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -1
README.md CHANGED
@@ -6,4 +6,6 @@ base_model:
6
  - taide/Llama-3.1-TAIDE-LX-8B-Chat
7
  ---
8
 
9
- 此模型為 [taide/Llama-3.1-TAIDE-LX-8B-Chat](https://huggingface.co/taide/Llama-3.1-TAIDE-LX-8B-Chat) 的 [exllamav2](https://github.com/turboderp-org/exllamav2) 格式的量化版本。模型的規格詳情請參考原始模型頁面。
 
 
 
6
  - taide/Llama-3.1-TAIDE-LX-8B-Chat
7
  ---
8
 
9
+ 此模型為 [taide/Llama-3.1-TAIDE-LX-8B-Chat](https://huggingface.co/taide/Llama-3.1-TAIDE-LX-8B-Chat) 的 [exllamav2](https://github.com/turboderp-org/exllamav2) 格式的量化版本。模型的規格詳情請參考原始模型頁面。
10
+
11
+ 可使用 [tabbyAPI](https://github.com/theroyallab/tabbyAPI) 載入此模型，並以 [AnythingLLM](https://anythingllm.com/) 作為互動界面。