# ============================================ # RAG System Configuration - 사용 예시 # ============================================ # 실제 작성은 env.template 을 복사해서 사용하세요: cp env.template .env # 현재 운영 구성: 모델 통합 게이트웨이(HTTPS) + Qdrant 벡터DB (FAISS 미사용) # ── 모델 게이트웨이 (LLM/임베딩/리랭커 공통) ── GATEWAY_IP=172.16.163.96 MODEL_API_KEY=<실제 발급 키> # 모든 모델 공통 Bearer 키 MODEL_VERIFY_SSL=false # 자체서명 인증서 → 검증 비활성화 LLM_BASE_URL=https://llm-ai.ex.co.kr LLM_MODEL_NAME=Qwen/Qwen3.6-27B-FP8 TEI_EMBED_URL=https://embedding-ai.ex.co.kr EMBED_MODEL_NAME=Qwen/Qwen3-Embedding-8B TEI_RERANK_URL=https://reranker-ai.ex.co.kr TEI_RERANK_MODEL=Qwen/Qwen3-Reranker-8B API_TIMEOUT=60 # ── 벡터 DB (Qdrant, 로컬 컨테이너) ── VECTOR_STORE=qdrant QDRANT_HOST=127.0.0.1 QDRANT_PORT=6333 QDRANT_COLLECTION=qa_vectors VECTOR_BATCH_SIZE=100 # 4096차원 32MB 한도 초과 방지 EMBED_BATCH_SIZE=100 # ── 큐레이션 어드민 ── ADMIN_PORT=28013 ADMIN_CORS_ORIGINS=* # ── MongoDB (대화 이력) ── MONGO_HOST=127.0.0.1 MONGO_PORT=27017 MONGO_DATABASE=chat_history MONGO_COLLECTION=rag_conversations MONGO_TTL_DAYS=30 # ── 검색/성능 튜닝 (변수명 FAISS_* 는 레거시, Qdrant에 그대로 적용) ── FAISS_TOP_K=30 FAISS_THRESHOLD=0.55 FAISS_THRESHOLD_REWRITE=0.50 RERANK_CANDIDATES=20 RERANK_BATCH_SIZE=16 TOP_N_FOR_LLM=5 LLM_MAX_TOKENS=2048 # ── Query Rewriting / 대화 이력 ── QUERY_REWRITE_ENABLED=true CHAT_HISTORY_LIMIT=10 CHAT_HISTORY_HOURS=24 CHAT_HISTORY_ALWAYS_INCLUDE=true # ── 호스트명 해석 (DNS 미등록 시) ── # compose extra_hosts 또는 서버 /etc/hosts 에 매핑: # 172.16.163.96 llm-ai.ex.co.kr embedding-ai.ex.co.kr reranker-ai.ex.co.kr