fromtory

집에서 LLM을 구동해보자 ! – Local LLM 구축 (2) 로컬 LLM 구동 도구 리서치

작성자:

안녕하세요, 프롬토리입니다. 이번 포스팅은 Local LLM 구축 두 번째 시간인, 로컬 LLM 구동 도구 리서치 입니다. 앞서 첫 번째 포스팅에서는 Local LLM 구축&사용 목적과 사양에 대해 다뤘었죠? 이번에는 로컬 LLM 구동 도구에는 어떤 것들이 있는지, 최종적으로는 어떤 것을 선택하여 사용하게 되었는지에 대해 자세히 다뤄보겠습니다. 그럼 시작할게요! 1. 로컬 LLM 구동 도구 로컬 LLM 구동 도구에는 … 더 읽기

집에서 LLM을 구동해보자 ! – Local LLM 구축 (1) 개요

작성자:

안녕하세요, 프롬토리입니다. 최근에 구독형 LLM 서비스의 사용량이 상당히 빡빡하다고 느끼다보니, 집 안의 하드웨어 자원을 통해 로컬 LLM을 구동하여 사용량을 보조하는 정도로는 어떨까?라는 생각이 들어 로컬 LLM 구축 과정을 담은 포스트를 열었습니다. 이번 포스팅에서는 로컬 LLM 구축 포스팅 시리즈의 개요로, 로컬 LLM 구동을 위한 목적 선정/목적과 사양에 맞는 모델 선정 과정에 대해 작성해보겠습니다. 하지만 단순히 토큰 … 더 읽기