
Memo AI modellerini yerel olarak çalıştırır. İhtiyacınız olan donanım, model boyutuna ve GPU hızlandırma kullanıp kullanmadığınıza bağlıdır.
| Bileşen | Minimum |
|---|---|
| RAM | 8 GB |
| Disk alanı | 4 GB boş |
| CPU | AVX2 destekli x86-64 (Intel Haswell 2013+ veya AMD Excavator 2015+) |
| GPU | Gerekli değil — CPU çıkarımı çalışır |
| İnternet | Yalnızca model indirme ve bulut sağlayıcılar için gerekli |
8 GB RAM ile CPU'da ~3B parametreye kadar nicelenmiş modelleri rahatça çalıştırabilirsiniz. En küçük işlevsel modeller (1–3B) çıkarım için ~2–4 GB RAM gerektirir.
| Bileşen | Önerilen |
|---|---|
| RAM | 16 GB |
| Disk alanı | 20 GB boş (modeller her biri 1–15 GB arası) |
| CPU | AVX2 destekli x86-64, 8+ çekirdek |
| GPU | 6 GB+ VRAM'li NVIDIA (CUDA 11.7+) |
| İnternet | Model indirmeleri için geniş bant |
GPU ile llama.cpp katmanları VRAM'e yükleyerek çıkarım hızını önemli ölçüde artırır. 6 GB VRAM'li bir GPU, etkileşimli hızlarda 7–8B parametreli modelleri işler.
| İS | Sürüm | Durum |
|---|---|---|
| Windows | 10, 11 (x86-64) | ✅ Tam destek |
| Linux | Debian 11+, Ubuntu 20.04+, Fedora 38+, Arch | ✅ Tam destek |
| macOS | Apple Silicon (M1+) ve Intel (x86-64) | ✅ Evrensel ikili |
| Android | 8.0+ (API 26+) | ✅ Yalnızca yardımcı |
Temiz bir Linux kurulumunda şu sistem kütüphanelerine ihtiyacınız olabilir:
# Debian / Ubuntu
sudo apt install libgtk-3-0 libblkid1 liblzma5 libgcrypt20
# Fedora
sudo dnf install gtk3 libblkid xz-libs libgcrypt
# Arch
sudo pacman -S gtk3 util-linux xz libgcrypt
Bunlar genellikle masaüstü Linux'ta zaten mevcuttur. AppImage çoğu bağımlılığı içinde barındırır.
| GPU Üreticisi | API | Destekleniyor | Gerekli Bellek |
|---|---|---|---|
| NVIDIA | CUDA | ✅ Evet | 4 GB+ VRAM önerilir |
| AMD | ROCm / Vulkan | ✅ Evet (llama.cpp ile) | 4 GB+ VRAM önerilir |
| Apple | Metal (MPS) | ✅ Evet | Birleşik bellek |
| Intel | SYCL / Vulkan | ⚠️ Deneysel | Değişir |
NVIDIA GPU'lar için CUDA Toolkit 11.7+ ve NVIDIA sürücü 525+ kurun. AMD için ROCm 5.7+ önerilir. Apple Silicon, Metal ile kutudan çıktığı gibi çalışır.
| Model Boyutu | RAM (Yalnız CPU) | RAM + VRAM (GPU yükleme) | Tipik Hız |
|---|---|---|---|
| 1–3B (Gemma 3 4B, Phi-3 mini) | 4–6 GB | 4 GB RAM + 2 GB VRAM | CPU'da hızlı, GPU'da anında |
| 7–8B (Llama 3.1 8B, Qwen 3 8B) | 8–12 GB | 8 GB RAM + 4 GB VRAM | CPU'da kullanılabilir, GPU'da hızlı |
| 12–14B (Qwen 2.5 14B) | 12–16 GB | 12 GB RAM + 6 GB VRAM | CPU'da yavaş, GPU'da hızlı |
| 32B+ | 24+ GB | 16 GB RAM + 12 GB VRAM | GPU gerektirir |
Model Mağazası, tespit edilen RAM ve VRAM'inize göre hesaplanan donanım uygunluk rozetleri gösterir — "Cihazınıza uyar", "CPU için uygun", "Çok büyük".
RAG hafıza sistemi ayrı bir gömme modeli kullanır (örn. nomic-embed-text-v1.5). Bu, GPU varlığından bağımsız olarak CPU'da verimli çalışan ~137M parametreli bir modeldir. ~500 MB RAM gerektirir ve modern bir CPU'da saniyede ~100 token işler.
Gömme modelleri tasarım gereği hafiftir. Sohbet için bulut AI (OpenAI, Claude) kullanırken, yerel bir gömme modeli bağımsız olarak hafızayı yönetebilir — iki dünyanın en iyisini birleştirir.
Veri dizini kullanımla birlikte büyür:
| Bileşen | Başlangıç | 1 Ay Sonra (tahmini) |
|---|---|---|
| Modeller | 2–16 GB | İndirmelere bağlı |
| Hafıza (RAG deposu) | < 1 MB | ~50–200 MB |
| Oturumlar (sohbet geçmişi) | < 1 MB | ~10–100 MB |
| WhatsApp mesajları | 0 | ~50–500 MB |
| Takvim etkinlikleri | < 10 KB | < 1 MB |
| Bulut senk. önbelleği | 0 | ~10 MB |
Hafıza birleştirme günlük çalışır, RAG deposunu kompakt tutmak için yakın-benzer gömme vektörlerini (kosinüs benzerliği ≥ 0.92) birleştirir.