Macbook
4b86b2a660
- server-dev start/stop/deploy 및 Gitea push 자동 배포 - local-dev 로컬 개발 환경 Co-authored-by: Cursor <cursoragent@cursor.com>
60 lines
1.9 KiB
Plaintext
60 lines
1.9 KiB
Plaintext
# ============================================
|
|
# RAG System Configuration - 사용 예시
|
|
# ============================================
|
|
# 실제 작성은 env.template 을 복사해서 사용하세요: cp env.template .env
|
|
# 현재 운영 구성: 모델 통합 게이트웨이(HTTPS) + Qdrant 벡터DB (FAISS 미사용)
|
|
|
|
# ── 모델 게이트웨이 (LLM/임베딩/리랭커 공통) ──
|
|
GATEWAY_IP=172.16.163.96
|
|
MODEL_API_KEY=<실제 발급 키> # 모든 모델 공통 Bearer 키
|
|
MODEL_VERIFY_SSL=false # 자체서명 인증서 → 검증 비활성화
|
|
|
|
LLM_BASE_URL=https://llm-ai.ex.co.kr
|
|
LLM_MODEL_NAME=Qwen/Qwen3.6-27B-FP8
|
|
|
|
TEI_EMBED_URL=https://embedding-ai.ex.co.kr
|
|
EMBED_MODEL_NAME=Qwen/Qwen3-Embedding-8B
|
|
|
|
TEI_RERANK_URL=https://reranker-ai.ex.co.kr
|
|
TEI_RERANK_MODEL=Qwen/Qwen3-Reranker-8B
|
|
|
|
API_TIMEOUT=60
|
|
|
|
# ── 벡터 DB (Qdrant, 로컬 컨테이너) ──
|
|
VECTOR_STORE=qdrant
|
|
QDRANT_HOST=127.0.0.1
|
|
QDRANT_PORT=6333
|
|
QDRANT_COLLECTION=qa_vectors
|
|
VECTOR_BATCH_SIZE=100 # 4096차원 32MB 한도 초과 방지
|
|
EMBED_BATCH_SIZE=100
|
|
|
|
# ── 큐레이션 어드민 ──
|
|
ADMIN_PORT=28013
|
|
ADMIN_CORS_ORIGINS=*
|
|
|
|
# ── MongoDB (대화 이력) ──
|
|
MONGO_HOST=127.0.0.1
|
|
MONGO_PORT=27017
|
|
MONGO_DATABASE=chat_history
|
|
MONGO_COLLECTION=rag_conversations
|
|
MONGO_TTL_DAYS=30
|
|
|
|
# ── 검색/성능 튜닝 (변수명 FAISS_* 는 레거시, Qdrant에 그대로 적용) ──
|
|
FAISS_TOP_K=30
|
|
FAISS_THRESHOLD=0.55
|
|
FAISS_THRESHOLD_REWRITE=0.50
|
|
RERANK_CANDIDATES=20
|
|
RERANK_BATCH_SIZE=16
|
|
TOP_N_FOR_LLM=5
|
|
LLM_MAX_TOKENS=2048
|
|
|
|
# ── Query Rewriting / 대화 이력 ──
|
|
QUERY_REWRITE_ENABLED=true
|
|
CHAT_HISTORY_LIMIT=10
|
|
CHAT_HISTORY_HOURS=24
|
|
CHAT_HISTORY_ALWAYS_INCLUDE=true
|
|
|
|
# ── 호스트명 해석 (DNS 미등록 시) ──
|
|
# compose extra_hosts 또는 서버 /etc/hosts 에 매핑:
|
|
# 172.16.163.96 llm-ai.ex.co.kr embedding-ai.ex.co.kr reranker-ai.ex.co.kr
|