Michael-A-Kuykendall/shimmy
로컬 AI·미디어로컬 LLM관리 활발
어떤 GPU에서도 도는 러스트 추론 엔진
⚡ Pure-Rust WebGPU inference engine — OpenAI-API compatible, GGUF native, runs on any GPU. No Python. No llama.cpp. Single binary.
👀 한눈에 보기
파이썬 없이 단일 실행 파일 하나로 내 GPU에서 AI 모델을 돌려주는 100% Rust 기반 추론 도구예요. OpenAI API 규격을 그대로 지원하여 다운로드 후 실행만 하면 내 컴퓨터가 바로 AI 추론 서버가 돼요.
- 파이썬 종속성 없는 가벼운 단일 바이너리 실행
- 100% 순수 Rust 및 WebGPU 기반으로 폭넓은 GPU 지원
- GGUF 포맷 모델 파일 기본 지원
- OpenAI API 규격 지원으로 다양한 클라이언트와 호환
🎯 이런 분께 필요해요 — 복잡한 파이썬 환경이나 라이브러리 설치 없이 내 컴퓨터 GPU로 가볍게 AI 모델을 돌리고 싶은 개발자
| 🗂 분류 | 로컬 AI·미디어 › 로컬 LLM |
|---|---|
| 🕒 업데이트 날짜 | 2026-11-01 (6일 전) |
| 🗓 깃모아 등록일 | 2026-11-06 |
| ▶ 실행 조건 | 💻 로컬 설치 · ⌨️ 터미널 |
| 📄 라이선스 | Apache-2.0 |
| ⭐ 스타 · 포크 | ★ 6k · ⑂ 587 |
| 💻 주요 언어 | Rust |
| 🎯 추천 대상 | 비용·개인정보 걱정 없이 AI 쓰려는 사람 |
| 🧩 난이도 | 보통~어려움 |
| 🏷 토픽 | api-servercommand-line-tooldeveloper-toolsggufhuggingfacehuggingface-models |
같은 카테고리의 다른 자료
로컬 AI·미디어업데이트 2026-11-06관리 활발로컬 LLM
💻 로컬 설치⌨️ 터미널
🎯 외부 클라우드 AI 요금과 데이터 유출 걱정 없이 내 컴퓨터에서 LLM을 돌리고 싶은데 막막한 개발자·팀
내 컴퓨터에서 AI 모델을 바로 돌리는 로컬 LLM 실행 도구
📄 라이선스MIT
⭐ 스타 · 포크★ 186.1k · ⑂ 18.9k
💻 언어Go
🧩 난이도 쉬움 · 복붙 설치
자세히 보기
로컬 AI·미디어업데이트 2026-03-02관리 중이미지 생성
💻 로컬 설치🖱️ 클릭형
🎯 매달 나가는 이미지 생성 AI 구독료가 부담스러워 내 컴퓨터에서 마음껏 뽑고 싶은 사람
스테이블 디퓨전을 브라우저에서 쓰는 로컬 이미지 생성 UI
📄 라이선스AGPL-3.0
⭐ 스타 · 포크★ 165.3k · ⑂ 31.9k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06관리 활발이미지 생성
💻 로컬 설치🖱️ 클릭형
🎯 AI 이미지 생성 시 세부 단계와 연출을 내 마음대로 정밀하게 다듬고 싶은데 기존 툴이 단순해 답답한 크리에이터
노드를 이어 붙여 이미지를 만드는 로컬 이미지 생성 도구
📄 라이선스GPL-3.0
⭐ 스타 · 포크★ 145.3k · ⑂ 17.3k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06관리 활발로컬 LLM
💻 로컬 설치🖱️ 클릭형
🎯 사내 계약서나 재무 문서를 외부 클라우드 AI에 올리지 않고 사내 서버에서 안전하게 문서 챗봇을 돌리고 싶은데 막막한 사업자
내 컴퓨터에서 굴리는 로컬 우선 AI 에이전트 앱
📄 라이선스MIT
⭐ 스타 · 포크★ 68k · ⑂ 7.7k
💻 언어JavaScript
🧩 난이도 보통~어려움
자세히 보기