mizorewww/laya-mlx
로컬 AI·미디어로컬 LLM관리 활발
애플 실리콘에서 의사결정 모델을 초고속으로 돌리는 런타임
Native MLX runtime for Laya typed decision models — 7–14 ms short decisions on M3 Max. No text generation, PyTorch, or cloud API.
👀 한눈에 보기
애플 실리콘 맥의 통합 메모리를 활용해 고속으로 로컬 AI 모델을 구동하는 추론 서버예요. OpenAI API 규격을 그대로 지원하므로 평소 쓰던 다양한 AI 클라이언트 도구에 서버 주소만 넣으면 맥북에서 무료로 돌아가요.
- Apple Silicon Mac(MLX) 맞춤형 초고속 로컬 추론
- OpenAI 규격(/v1/chat/completions) 완벽 호환
- 스트리밍 응답 및 프롬프트 캐싱 기능 내장
- 외부 서버 비용 없이 안전하게 로컬 환경 운영
🎯 이런 분께 필요해요 — M시리즈 맥북의 성능을 살려 로컬 AI 모델을 가볍고 빠르게 돌리면서 기존 앱들과 연동하고 싶은 개발자
| 🗂 분류 | 로컬 AI·미디어 › 로컬 LLM |
|---|---|
| 🕒 업데이트 날짜 | 2026-10-29 (8일 전) |
| 🗓 깃모아 등록일 | 2026-11-06 |
| 📄 라이선스 | Apache-2.0 |
| ⭐ 스타 · 포크 | ★ 7.1k · ⑂ 573 |
| 💻 주요 언어 | Python |
| 🎯 추천 대상 | 비용·개인정보 걱정 없이 AI 쓰려는 사람 |
| 🧩 난이도 | 보통~어려움 |
| 🏷 토픽 | apple-silicondecision-modelinferencelayalocal-aimachine-learning |
같은 카테고리의 다른 자료
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발로컬 LLM
🎯 외부 클라우드 AI 요금과 데이터 유출 걱정 없이 내 컴퓨터에서 LLM을 돌리고 싶은데 막막한 개발자·팀
내 컴퓨터에서 AI 모델을 바로 돌리는 로컬 LLM 실행 도구
📄 라이선스MIT
⭐ 스타 · 포크★ 186.1k · ⑂ 18.9k
💻 언어Go
🧩 난이도 쉬움 · 복붙 설치
자세히 보기
로컬 AI·미디어업데이트 2026-03-02NEW관리 중이미지 생성
🎯 매달 나가는 이미지 생성 AI 구독료가 부담스러워 내 컴퓨터에서 마음껏 뽑고 싶은 사람
스테이블 디퓨전을 브라우저에서 쓰는 로컬 이미지 생성 UI
📄 라이선스AGPL-3.0
⭐ 스타 · 포크★ 165.3k · ⑂ 31.9k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발이미지 생성
🎯 AI 이미지 생성 시 세부 단계와 연출을 내 마음대로 정밀하게 다듬고 싶은데 기존 툴이 단순해 답답한 크리에이터
노드를 이어 붙여 이미지를 만드는 로컬 이미지 생성 도구
📄 라이선스GPL-3.0
⭐ 스타 · 포크★ 145.3k · ⑂ 17.3k
💻 언어Python
🧩 난이도 보통 · 설정 필요
자세히 보기
로컬 AI·미디어업데이트 2026-11-06NEW관리 활발로컬 LLM
🎯 사내 계약서나 재무 문서를 외부 클라우드 AI에 올리지 않고 사내 서버에서 안전하게 문서 챗봇을 돌리고 싶은데 막막한 사업자
내 컴퓨터에서 굴리는 로컬 우선 AI 에이전트 앱
📄 라이선스MIT
⭐ 스타 · 포크★ 68k · ⑂ 7.7k
💻 언어JavaScript
🧩 난이도 보통~어려움
자세히 보기