İçeriğe geç
Tüm projeler
Yapay Zekâ & Makine ÖğrenimiAçık kaynak

WaifuChat (Local AI)

Yerel (local) LLM modellerini (DeepSeek) kullanan, internet bağlantısı gerektirmeyen ve tamamen cihaz üzerinde çalışan kişisel yapay zeka asistanı.

Kaynak kodu

Teknoloji yığını

Diller
Çatılar & kütüphaneler
Araçlar

Performans & metrikler

  • Donanım hızlandırmalı yerel çıkarım (inference)
  • Rust backend ve UI arasında sıfır gecikmeli IPC (Inter-Process Communication)
  • Electron'a kıyasla minimal RAM ayak izi

Neden geliştirdim?

OpenAI veya Claude gibi bulut tabanlı AI modelleri sürekli kullanıcı verisi toplar, konuşmaları izler ve ağır sansür uygular. Yalnızca kendi donanımımda çalışan, internet olmasa dahi erişebileceğim, %100 gizli ve kişisel bir AI asistanı inşa etmek istedim.

Mimari & kararlar

DeepSeek-R1 modellerini yerel olarak verimli bir şekilde çalıştırmak için Ollama altyapısı üzerine kuruldu. Arka uç (backend) mantığı, yerel AI sunucusuyla sıfır gecikmeli (zero-latency) iletişim kurması adına Rust ile yazıldı. Arayüz ise standart web sarmalayıcılarına kıyasla çok daha düşük RAM tüketen cross-platform bir Tauri uygulamasıdır.

Temel özellikler

  1. 01%100 Çevrimdışı (Bulut bağımlılığı sıfır)
  2. 02Sıfır telemetri ile mutlak veri gizliliği
  3. 03DeepSeek-R1 ile pürüzsüz entegrasyon
  4. 04Donanım hızlandırmalı (Hardware-accelerated) yerel çıkarım
  5. 05Özelleştirilebilir sistem istemleri (system prompts) ve karakterler