집에서 LLM을 구동해보자 ! – Local LLM 구축 (1) 개요
안녕하세요, 프롬토리입니다. 최근에 구독형 LLM 서비스의 사용량이 상당히 빡빡하다고 느끼다보니, 집 안의 하드웨어 자원을 통해 로컬 LLM을 구동하여 사용량을 보조하는 정도로는 어떨까?라는 생각이 들어 로컬 LLM 구축 과정을 담은 포스트를 열었습니다. 이번 포스팅에서는 로컬 LLM 구축 포스팅 시리즈의 개요로, 로컬 LLM 구동을 위한 목적 선정/목적과 사양에 맞는 모델 선정 과정에 대해 작성해보겠습니다. 하지만 단순히 토큰 … 더 읽기