LM Studio는 컴퓨터에서 로컬로 LLM을 개발하고 실험하는 데스크톱 앱입니다.

주요 기능은 다음과 같습니다.

• 로컬 LLM을 실행하기 위한 데스크톱 애플리케이션
• 익숙한 채팅 인터페이스
• 검색 및 다운로드 기능(허깅 페이스 🤗를 통해)
• OpenAI와 같은 엔드포인트에서 청취할 수 있는 로컬 서버
• 로컬 모델 및 구성 관리 시스템

0.4.0에서 바꿘점 - https://lmstudio.ai/blog/0.4.0

• 서버용 'llmster' 도입: GUI 없이 클라우드나 Linux 서버, CI 환경에서 실행 가능한 독립형 데몬(Daemon) 모드를 지원하여 본격적인 서버 배포가 가능해졌습니다.

• 병렬 요청 처리 (Parallel Requests): 동일한 모델에 대해 대기열 없이 동시에 여러 요청을 처리할 수 있는 '연속 배치(Continuous Batching)' 기술이 적용되어 성능이 크게 향상되었습니다.

• 상태 유지 REST API 추가: 새로운 /v1/chat 엔드포인트를 통해 이전 대화 맥락을 유지하면서 로컬 MCP(Model Context Protocol) 도구들을 연동하여 사용할 수 있습니다.

• 완전히 새로워진 사용자 인터페이스: 채팅 내보내기(PDF/Markdown), 두 개의 채팅을 나란히 보는 '분할 뷰(Split View)', 고급 설정을 제공하는 '개발자 모드' 등이 추가되었습니다.

• 강화된 CLI 경험: 터미널에서 즉시 대화할 수 있는 lms chat 명령어가 도입되었으며, 모델 다운로드 및 런타임 관리를 터미널에서 더욱 쉽고 강력하게 수행할 수 있습니다.

CPU: AVX2 명령어셋 지원 CPU

SHA256: A3F83CF3A5E7E69017EB038594D8EFBF2D30C1D05436ACBE9B100E2BF41B0E50

다운로드 : LM-Studio-0.4.0-18-x64.exe