Anthropic

[Backend] API 사용량 추정

사용된 토큰 추정 OpenAI OpenAI의 경우 LangChain 라이브러리에서, 사용된 토큰 수와 그로 인해 발생한 비용을 계산하고 반환해줍니다.그렇기 때문에 OpenAI 사용량은 Anthropic과 별개로 LangChain을 활용하여 정리합니다. CRUD 코드 데이터베이스 내의 API 키 테이블에서 usage_count 컬럼 값을 업데이트하는

April 10, 2025
by BCTONE
No Comments

개발 히스토리

[Backend] 백엔드 문제점

임베딩 모델 현재 사용하고 있는 LangChain 구조에서,답변 생성을 위한 모델 자체는 사용자가 선택한 모델을 제공하고 있습니다.그러나 백엔드에서 동작하는 에이전트 모델 / 임베딩 모델은 전부 OpenAI 기반입니다.그렇기 때문에 사용자가 Claude를 선택해도, 백엔드에서는 OpenAI 기반 모델들이 함께 동작해야

April 9, 2025
by BCTONE
No Comments

개발 히스토리

[Backend] LangChain 구조

기본 설정 및 디렉터리 생성 LangChain 라이브러리 설치 파이썬 가상환경에 langchain 라이브러리와, 함께 쓰일 패키지들을 전부 설치합니다. 디렉터리 구조 CORE core/config.py 기존 config.py에서 해당 내용을 추가합니다. 사용할 모델의 API Key나, 사용할 모델명을 정의합니다. LLM LLM 모델과