İnternetsiz ve Ücretsiz Yapay Zeka: Kendi Bilgisayarına Ollama Nasıl Kurulur?

Yapay zeka (AI) denilince aklımıza hep internet tarayıcısından bağlandığımız, bulut tabanlı devasa sistemler geliyor. Peki ya projelerinin veya sohbetlerinin gizliliğinden emin olmak istersen ve bunları kendi bilgisayarının dışına çıkarmak istemezsen?

Ollama. ChatGPT gibi bulut tabanlı yapay zekaların aksine, Ollama tamamen kendi bilgisayarında çalışan açık kaynaklı bir yapay zeka sunucusudur. Tıpkı bir web sunucusu gibi çalışır, sen de ona soru sorarsın. Üstelik sınırsız kullanım hakkın var, "saatlik mesaj sınırına ulaştın" gibi bir uyarı asla almazsın. Ollama, yerel yapay zeka kurulumu yapmak isteyenler için en pratik araçlardan biridir.

En İyi PDF Birleştirme ve Bölme Programları (2025)

2025’in en iyi PDF birleştirme ve bölme programlarını karşılaştırdık....

Neden Kendi Bilgisayarında Yapay Zeka Çalıştırmalısın? İnternetteki ücretsiz yapay zeka araçlarını (ChatGPT, Gemini, Claude) herkes kullanıyor. Peki ya ücretsiz, sınırsız ve tamamen gizli bir yapay zeka istiyorsan? İşte bilgisayarda yapay zeka çalıştırma işleminin en pratik yolu Ollama. Bu sayede yerel yapay zeka modeline sahip oluyorsun. Offline AI demek, internet çekmeyen bir yerde bile asistanını kullanabilmek demek. Üstelik kendi yapay zekanı kur mak için hiçbir ücret ödemiyorsun. Ollama ile ücretsiz yapay zeka asistanın artık bilgisayarının gücü kadar hızlı ve tamamen senin kontrolünde.

Ollama Kurulum Rehberi

Kurulum oldukça basittir. Hiçbir ek yazılıma ihtiyaç yoktur. İşletim sistemine göre şu adımları takip et:

1. İndirme: Ollama'nın resmi web sitesine gir ve işletim sistemine uygun olan yaklaşık 700 MB boyutundaki kurulum dosyasını indir. (Linux kullanıcıları terminale curl -fsSL https://ollama.com/install.sh | sh yazarak kurabilir).

2. Kurulum: İndirdiğin .exe dosyasına çift tıkla ve "Install" diyerek kurulumu başlat. Kurulum bittiğinde, Ollama otomatik olarak arka planda çalışmaya başlar.

3. Depolama Ayarı (Hayat Kurtaran İpucu): Modeller genellikle gigabaytlarca yer kaplar. C diskinin dolmasını istemiyorsan; sağ alttaki sistem tepsisinden Ollama simgesine tıkla ve "Settings"e gir. Buradaki Model Location kısmından depolama alanını D diskinize yönlendir.

İşletim Sistemlerine Özel İpuçları:

• Windows: Bilgisayarına kurduktan sonra, komut istemini (CMD) veya PowerShell'i yönetici olarak çalıştırman gerekebilir.

• macOS: Hem Intel hem de Apple Silicon (M1, M2, M3) desteklenir. Apple Silicon kullanıcıları için Metal GPU hızlandırması otomatik olarak devreye girer.

• Linux: NVIDIA ekran kartı kullanıyorsan, Ollama otomatik olarak GPU hızlandırmasını aktif eder.

Hangi Modeli İndirmeliyim? (RAM ve Parametre Mantığı)

Ollama kütüphanesine girdiğinde modellerin yanında 1.5B, 7B, 14B gibi sayılar göreceksin. "B" harfi milyar parametreyi temsil eder. Parametre büyüdükçe donanım ihtiyacı artar. En az 8 GB RAM (16-32 GB önerilir) ve AVX2 destekli modern bir işlemciye ihtiyacın olacaktır.

İşte amacına göre seçebileceğin en popüler modeller:

• Qwen 2.5 (7B / 14B): 8-16 GB RAM ister. Çok dilli desteği dünyadaki en iyi modellerden biridir. Özellikle Türkçe performansı konusunda şu an en başarılı sonuçları veren model budur.

• Llama 3.1 (8B / 70B): 8-32 GB RAM ister. Ücretsiz modeller arasında en güçlülerinden biridir. Kod yazma, mantık yürütme ve derin analiz konularında ustadır.

• Mistral (7B): 8 GB RAM ister. Hızlı cevaplar ve yüksek verimlilik sunar; düşük gecikme süresiyle "atılgan" bir modeldir.

• Gemma 2 (2B / 9B): 4-8 GB RAM ister. Google'ın akademik ve bilgi tabanlı sorular için optimize ettiği, araştırma odaklı bir modeldir.

• Phi-3 (3.8B): 8 GB RAM ister. Microsoft tarafından düşük donanımlı sistemlerde yüksek performans vermesi için özel olarak eğitilmiştir.

Editörün Model Tavsiyesi: Eğer sistemin çok güçlü değilse, yeni nesil Gemma 4'ün E4B (4 Milyar) veya E2B (2 Milyar) versiyonlarını seçmen bilgisayarının sağlığı için en iyisi olacaktır. Orta seviye bir bilgisayarda (16 GB RAM) ise Türkçe desteği için tartışmasız lider olan Qwen 2.5 7B modelini kurmalısın.

 Komut Satırından Yapay Zekayı Çalıştırma

Ollama'nın arayüzü yoktur. Onu kullanmak için terminalde direkt yazışman gerekir. Başlat menüsüne "cmd" yaz ve Komut İstemini aç. İstediğin modeli çalıştırmak için CMD ekranına şu komutu yapıştır ve Enter'a bas:

• ollama run qwen2.5 (Hangi modeli seçtiysen onun adını yazmalısın)

İlk kez çalıştırdığında, model otomatik olarak indirilmeye başlar. İndirme bittiğinde, doğrudan soru sormaya başlayabilirsin. Çıkmak için >>> /bye yazman yeterli.

Sık Kullanılan Ollama Komutları:

• ollama list : Yüklü modelleri listele.

• ollama pull [model_adi] : Modeli indir (çalıştırmadan).

• ollama ps : Çalışan modelleri gör.

• ollama rm [model_adi] : Diskte çok yer kaplayan ve artık kullanmadığın bir modeli tamamen siler.

Ollama'ya Grafik Arayüz (Web UI) Kurmak

Siyah ekranda (CMD) kod yazmak istemiyorsan, Open WebUI aracıyla bilgisayarına ChatGPT benzeri kullanıcı dostu bir arayüz kurabilirsin.

Docker'ı başarıyla kurup yeniden başlattıktan sonra, uygulamanın masaüstü kısayolundan veya başlat menüsünden "Docker Desktop"u çalıştırın. Sistem tepsisinde (sağ alt köşe) bir balina simgesi göreceksiniz. Docker'ın çalıştığı anlamına gelir. Bu yöntem Windows için geçerlidir, fakat macOS ve Linux için de çok benzer adımlar izlenir.

"docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main"

Tarayıcını aç, http://localhost:3000 adresine gir. Kayıt ol, giriş yap. Open WebUI, bilgisayarındaki Ollama modellerini otomatik olarak algılayacaktır.

Alternatif Yollar

• Temel ihtiyaçlarınız için, komut satırı (CMD) üzerinden Ollama ile etkileşim kurmak en basit yöntemdir.

• Ayrıca LM Studio gibi Docker gerektirmeyen uygulamalar da mevcuttur ve onlar da kullanışlı birer alternatif olabilir

Performans Uyarıları (Arka Planda Neler Oluyor?)

Yapay zeka modelleri, bilgisayarının RAM ve işlemci gücüyle çalışır. Ollama'ya bir soru sorduğunda arka planda şunlar yaşanır:

• Disk'ten RAM'e Aktarım: Model cevap üretmeye başladığı an, boyutuna göre diskten anında 5 GB ile 7 GB arasında bir veriyi RAM'inize yükler.

• CPU Patlaması ve Isınma: Cevap üretilirken işlemcinizin (CPU) kullanımı bir anda %56 - %60 seviyelerine fırlar. Bilgisayarınızın fanları hızla dönmeye başlar ve ısınabilir.

  

  İnternetsiz Oynanan En İyi Mobil Oyunlar

  İnternetsiz oynanan en iyi mobil oyunlar listesi. Android ve iOS için offline ...

• İpucu: Ollama'yı çalıştırmadan önce arka plandaki gereksiz RAM tüketimini sıfırlamak için "Wise Memory Optimizer" gibi bir RAM temizleyici (optimizer) program kullanman, yapay zekanın çok daha hızlı ve hatasız çalışmasını sağlayacaktır.

Editör Yorumu

Yapay zeka dünyasında her şey buluta taşınırken, Ollama tam tersi bir yönde ilerliyor: "Her şey kendi bilgisayarında olsun" diyor. Sadece kullanmak değil, onun çalışma mantığını Görev Yöneticisinden izlemek ve internetsiz ortamda bile yapay zekaya sahip olmak inanılmaz bir güçtür. Kendi yapay zekanı indirmeye hazır mısın?