Spaces:
Sleeping
Sleeping
Hugging Face Spaces ๋ฐฐํฌ ๊ฐ์ด๋
1๋จ๊ณ: Hugging Face ๊ณ์ ์์ฑ
- https://huggingface.co/ ์ ์
- ํ์๊ฐ์ (GitHub ๊ณ์ ์ผ๋ก ๊ฐ๋ฅ)
- ๋ฌด๋ฃ ๊ณ์ ์ผ๋ก ์ถฉ๋ถ!
2๋จ๊ณ: Space ์์ฑ
- https://huggingface.co/new-space
- ์ค์ :
- Space name:
chatbia-api(์ํ๋ ์ด๋ฆ) - License: MIT
- Space SDK: Docker
- Space hardware: CPU basic (๋ฌด๋ฃ)
- Visibility: Public
- Space name:
3๋จ๊ณ: Git ์ค์
๋ก์ปฌ์์ Git ์ด๊ธฐํ
cd ChatBIA-Server
# Git ์ด๊ธฐํ
git init
git lfs install
git lfs track "*.gguf"
# Hugging Face ๋ฆฌ๋ชจํธ ์ถ๊ฐ
git remote add origin https://huggingface.co/spaces/YOUR-USERNAME/chatbia-api
# ํ์ผ ์ถ๊ฐ
git add .
git commit -m "Initial commit"
4๋จ๊ณ: ๋ชจ๋ธ ํ์ผ ์ถ๊ฐ
์ค์: ๋ชจ๋ธ ํ์ผ์ Git LFS๋ก ์ ๋ก๋ํด์ผ ํฉ๋๋ค!
# models ํด๋์ GGUF ํ์ผ ๋ณต์ฌ
cp ../ChatBIA-Windows/models/*.gguf .
# Git LFS๋ก ์ถ๊ฐ
git add Qwen2.5-3B-Instruct-Q4_K_M.gguf
git add ChatBIA-3B-v0.1-Q4_K_M.gguf
git commit -m "Add model files"
5๋จ๊ณ: Push
# Hugging Face ํ ํฐ ์ค์ (์ต์ด 1ํ)
# https://huggingface.co/settings/tokens ์์ ํ ํฐ ์์ฑ
git push origin main
์ฐธ๊ณ : ๋ชจ๋ธ ํ์ผ์ด ํฌ๋ฏ๋ก ์ ๋ก๋์ ์๊ฐ์ด ๊ฑธ๋ฆฝ๋๋ค (~10-20๋ถ)
6๋จ๊ณ: ๋ฐฐํฌ ํ์ธ
- Space ํ์ด์ง์์ "Building" ์ํ ํ์ธ
- ๋น๋ ์๋ฃ ํ "Running" ์ํ ํ์ธ
- API ํ ์คํธ:
curl https://YOUR-USERNAME-chatbia-api.hf.space/
7๋จ๊ณ: API URL ํ์ธ
๋ฐฐํฌ ์๋ฃ ํ Space URL:
https://YOUR-USERNAME-chatbia-api.hf.space
์ด URL์ ์๋๋ก์ด๋ ์ฑ์์ ์ฌ์ฉํ๋ฉด ๋ฉ๋๋ค!
๋ฌธ์ ํด๊ฒฐ
๋น๋ ์คํจ
- Logs ํญ์์ ์๋ฌ ํ์ธ
- ์ฃผ๋ก requirements.txt ๋ฌธ์
๋ชจ๋ธ ๋ก๋ ์คํจ
- Git LFS๊ฐ ์ ๋๋ก ์ค์ ๋์๋์ง ํ์ธ
- ๋ชจ๋ธ ํ์ผ์ด ์ ์์ ์ผ๋ก ์ ๋ก๋๋์๋์ง ํ์ธ
๋๋ฆฐ ์๋ต
- CPU basic์ ๋ฌด๋ฃ์ง๋ง ๋๋ฆฝ๋๋ค
- ์ ๋ฃ GPU๋ก ์ ๊ทธ๋ ์ด๋ ๊ฐ๋ฅ (~$0.60/hour)
๋์: ๋ก์ปฌ ํ ์คํธ ๋จผ์
# Docker๋ก ๋ก์ปฌ ํ
์คํธ
docker build -t chatbia-api .
docker run -p 7860:7860 chatbia-api
# ํ
์คํธ
curl http://localhost:7860/
๋น์ฉ
- CPU basic: ๋ฌด๋ฃ โ
- CPU upgrade: $0.03/hour
- GPU T4: $0.60/hour
- GPU A10G: $3.15/hour
๋ฌด๋ฃ CPU๋ก ์์ํ์ธ์!