raullenchai/Rapid-MLX
로컬 AI·미디어로컬 LLM관리 활발
애플 실리콘용 빠른 LLM 추론 서버
Rapid-MLX is an open-source (Apache 2.0) OpenAI- and Anthropic-compatible LLM inference server for Apple Silicon, built on MLX, focused on reliable tool calling for coding agents.
👀 한눈에 보기
애플 실리콘의 성능을 극대화해 코딩 에이전트에 필요한 도구 호출을 빠르게 처리해 주는 로컬 LLM 추론 서버예요. Cursor나 클로드 코드의 API 주소만 바꾸면 바로 연결되며, 프롬프트 캐싱을 지원해 첫 반응 속도가 즉각적이에요.
- 애플 실리콘(MLX) 최적화 기반 고속 로컬 추론
- 프롬프트 캐싱 지원으로 빠른 첫 응답 제공
- OpenAI 호환 규격으로 Cursor·클로드 코드 즉시 연동
- 대용량 컨텍스트 대응 스마트 라우팅 및 문서 질의 지원
🎯 이런 분께 필요해요 — 맥북에서 코딩 에이전트용 로컬 LLM 서버를 빠르게 돌리고 싶은데 기존 엔진의 응답 대기 시간이 길어 답답한 사람
| 🗂 분류 | 로컬 AI·미디어 › 로컬 LLM |
|---|---|
| 🕒 업데이트 날짜 | 2026-11-06 (오늘) |
| 🗓 깃모아 등록일 | 2026-11-06 |
| 📄 라이선스 | 미표기 |
| ⭐ 스타 · 포크 | ★ 4.1k · ⑂ 437 |
| 💻 주요 언어 | Python |
| 🎯 추천 대상 | 비용·개인정보 걱정 없이 AI 쓰려는 사람 |
| 🧩 난이도 | 보통~어려움 |
| 🏷 토픽 | anthropic-apiapple-siliconclaude-codecoding-agentscontinuous-batching |
같은 카테고리의 다른 자료
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발로컬 LLM
🎯 외부 클라우드 AI 요금과 데이터 유출 걱정 없이 내 컴퓨터에서 LLM을 돌리고 싶은데 막막한 개발자·팀
내 컴퓨터에서 AI 모델을 바로 돌리는 로컬 LLM 실행 도구
📄 라이선스MIT
⭐ 스타 · 포크★ 186.1k · ⑂ 18.9k
💻 언어Go
🧩 난이도 쉬움 · 복붙 설치
자세히 보기
로컬 AI·미디어업데이트 2026-03-02NEW관리 중이미지 생성
🎯 매달 나가는 이미지 생성 AI 구독료가 부담스러워 내 컴퓨터에서 마음껏 뽑고 싶은 사람
스테이블 디퓨전을 브라우저에서 쓰는 로컬 이미지 생성 UI
📄 라이선스AGPL-3.0
⭐ 스타 · 포크★ 165.3k · ⑂ 31.9k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발이미지 생성
🎯 AI 이미지 생성 시 세부 단계와 연출을 내 마음대로 정밀하게 다듬고 싶은데 기존 툴이 단순해 답답한 크리에이터
노드를 이어 붙여 이미지를 만드는 로컬 이미지 생성 도구
📄 라이선스GPL-3.0
⭐ 스타 · 포크★ 145.3k · ⑂ 17.3k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발로컬 LLM
🎯 사내 계약서나 재무 문서를 외부 클라우드 AI에 올리지 않고 사내 서버에서 안전하게 문서 챗봇을 돌리고 싶은데 막막한 사업자
내 컴퓨터에서 굴리는 로컬 우선 AI 에이전트 앱
📄 라이선스MIT
⭐ 스타 · 포크★ 68k · ⑂ 7.7k
💻 언어JavaScript
🧩 난이도 보통~어려움
자세히 보기