Yapay Zeka Çözümleri — Kurumsal Satın Alma Rehberi

Kurumsal yapay zeka yatırımı klasik BT donanım alımından temel olarak farklıdır. Normal bir sunucuda çekirdek sayısı arttıkça performans doğrusal artarken, yapay zekada işi belirleyen ana bileşen GPU bellek kapasitesi (VRAM), bellek bant genişliği ve yazılım yığınıdır. Yanlış boyutlanan bir sistem ya modeli hiç çalıştıramaz (VRAM yetersizliği / CUDA bellek hatası) ya da pahalı bir GPU'yu sürekli boş bekletir. Bu rehber, 2026 itibarıyla kurumsal yapay zeka altyapısı ve istemci (AI PC) seçiminde kullanabileceğiniz somut kriterleri toplar.

1. Önce iş yükünü tanımlayın: eğitim mi, çıkarım mı?

Donanım kararını veren ilk soru budur; iki iş yükü farklı GPU profili ister:

• Model eğitimi (training / fine-tuning): GPU'lar arası çok yüksek bant genişliği (NVLink) ve çoklu-GPU küme gerektirir. Sekiz adet H100/H200 SXM tipi yapılandırmalar standarttır. Kurumsal dünyada eğitim genellikle bulutta ya da büyük ölçekli kümelerde yapılır.
• Çıkarım (inference / serving): Modelin son kullanıcıya yanıt ürettiği aşamadır. Belirleyici olan GPU bellek kapasitesi ile saniyedeki token (verim) ve gecikme dengesidir. Kurumsal on-premise yatırımın büyük kısmı buraya yapılır.
• RAG, ajanlar, OCR, görüntü işleme: Genellikle orta seviye GPU ile çıkarım verimliliği öne çıkar.

İpucu: Aynı donanım hem eğitim hem çıkarım için kullanılacaksa 8×H100/H200 SXM en esnek seçenektir; yalnızca üretim çıkarımı yapılacaksa VRAM başına maliyet ve güç tüketimi öncelik kazanır.

2. GPU seçimi: VRAM matematiği her şeyi belirler

Bir büyük dil modelini (LLM) çalıştırmak için gereken toplam VRAM, birkaç bileşenin toplamıdır:

Toplam VRAM ≈ (Parametre sayısı × parametre başına bayt) × 1,2 + KV önbelleği + CUDA ek yükü

• Model ağırlıkları: 70 milyar parametreli bir model FP16 (16-bit) hassasiyette yaklaşık 140 GB, 4-bit nicelemede (Q4) yaklaşık 38-41 GB yer kaplar. Niceleme (quantization) belleği 3-4 kat azaltır; çoğu kurumsal kullanımda kalite kaybı ihmal edilebilir düzeydedir.
• KV önbelleği (bağlam penceresi): Prompt uzunluğuyla doğrusal büyür. Aynı 70B model Q4'te 8K bağlamda ~1,6 GB, 32K bağlamda ~6,4 GB, 128K bağlamda ~25,6 GB ek KV belleği ister. Uzun bağlam, model ağırlığından daha fazla VRAM tüketebilir.
• KV niceleme: FP8 KV önbelleği bellek tüketimini ~yüzde 50, Q4 KV ~yüzde 75 azaltır (vLLM / llama.cpp destekler). Uzun bağlamlı üretim için kritik ayardır.

Pratik seçim tablosu (düşük eşzamanlılıkta çıkarım, 4-bit niceleme):

Doğrulanmış veri noktaları: 70B Q4 ≈ 41 GB ağırlık; 128K bağlamda +25,6 GB KV ile 48 GB toplam VRAM sınırda kalır ve KV niceleme şart olur. DeepSeek-R1 gibi 671B MoE modeller için ya çoklu-GPU küme ya da CPU/GPU heterojen offload gerekir.

3. GPU dışındaki bileşenler: CPU, RAM, depolama, ağ, güç

• CPU: Çıkarım ağırlıklı GPU'ya bağlıdır; tokenizasyon ve istek zamanlaması için modern 8 çekirdek tek GPU'ya yeter. Çoklu-GPU'da 16-32 çekirdek önerilir.
• Sistem RAM'i: Model yükü önce sistem RAM'inden geçer; pratikte RAM ≥ 2 × GPU VRAM hedeflenir (48 GB VRAM için 128 GB). Yetersiz RAM yüklemeyi diske kaydırır (swap) ve başlatma süresi uçar.
• Depolama: NVMe (PCIe 4.0/5.0) zorunludur: 5-7 GB/s okuma, SATA SSD'nin ~10 katıdır. 40 GB'lık bir model NVMe'de 6-8 saniyede, SATA'da ~80 saniyede yüklenir. En az 1-2 TB planlayın.
• Ağ: Servis edilen modellerde 10 GbE (yoğunlukta 25/100 GbE) darboğazı önler; çok düğümlü eğitimde InfiniBand/RoCE gerekir.
• Güç ve soğutma: Yoğun GPU sistemleri (8×H100 ~10 kW) ciddi güç altyapısı ve doğrudan/dolaylı sıvı soğutma gerektirir; TCO'nun gizli kalemidir.

4. Bulut mu, on-premise mi? KVKK ve TCO

Türkiye'de en çok sorulan soru budur; karar iki eksende verilir:

• Veri yerleşimi ve uyum: Kişisel veri işleyecek kurumsal AI çözümlerinde KVKK gereği veri yerleşimi, yurt dışına aktarım ve denetlenebilirlik kritiktir. On-premise / yerel barındırma, verinin kurum sınırında kalmasını sağlar.
• Maliyet (TCO): İki GPU'lu bir çıkarım sunucusu yaklaşık 15.000-20.000 USD'ye kurulurken kiralama ~450 USD/ay; başabaş noktası yaklaşık 33-44 aydır (amortisman, güç, soğutma hariç). Kesintisiz yoğun kullanımda satın alma, dalgalı/deneysel iş yükünde kiralama öne çıkar.

Kural: Veri gizliliği veya regülasyon zorunluysa on-premise; hızlı deneme ve değişken yükte bulut ya da karma (hybrid) yaklaşım mantıklıdır.

5. AI PC ve NPU: istemci (uç) tarafı

• Copilot+ PC standardı en az 40 TOPS NPU ister; 2026'dan itibaren yeni nesil Windows yapay zeka özellikleri bu eşiği şart koşuyor.
• Pazar: Gartner'a göre AI PC'ler 2025'te küresel PC gönderimlerinin yaklaşık yüzde 31'ini (~77,8 milyon adet) oluşturdu; 2026'da bu oranın yarıyı geçmesi bekleniyor. Kurumsal yenilemede "AI-ready" cihaz seçmek artık bir gereklilik haline geliyor.
• Ne zaman yeterli: Ofis/iş akışı için NPU'lu standart bir Copilot+ PC yeterlidir; yerel büyük model veya ağır görüntü işleme için GPU'lu iş istasyonu gerekir.

6. Yerel (on-premise) LLM mimarisi

Kurumsal on-premise AI mimarisi tipik olarak şu katmanlardan oluşur:

1. Donanım katmanı: VRAM hesabına göre boyutlanan GPU sunucu(lar).
2. Çıkarım motoru: vLLM, SGLang, llama.cpp / Ollama — KV niceleme ve sürekli partileme (continuous batching) ile verimi artırır.
3. Model katmanı: Açık ağırlıklı (Llama, Qwen, DeepSeek) veya lisanslı modeller.
4. RAG / veri katmanı: Kurum içi doküman ve veritabanlarının vektör indeksine bağlanması.
5. Güvenlik ve uyum: Veri yerleşimi, erişim denetimi ve denetim kayıtları (KVKK).

7. Kullanım senaryosuna göre başlangıç yapılandırmaları

8. Satın alma kontrol listesi

• Model(ler)in VRAM ihtiyacını KV önbelleğiyle birlikte hesapladınız mı?
• Çıkarım mı eğitim mi — GPU ve ağ profili iş yüküne uygun mu?
• RAM ≥ 2× VRAM ve NVMe depolama sağlandı mı?
• Güç/soğutma ve veri merkezi yoğunluğu planlandı mı?
• KVKK / veri yerleşimi ve denetim gereksinimleri karşılandı mı?
• Bulut mu on-premise mi — TCO ve başabaş noktası hesaplandı mı?
• İstemci tarafı için Copilot+ (40 TOPS NPU) gereksinimi gözetildi mi?

Öne Çıkan AI Modelleri

• ASUS PM670KA-AI7321TBW0D Ryzen AI 7-350 32GB 1TB 27" DOS / B
• ASUS PM640KA-AI732512B0D Ryzen AI 7-350 32GB 512GB 23.8" DOS
• D.Pro 24 AIO Plus QB24250 16GB/512GB/FD U7 265 [BTO103_QB242
• D.Pro 24 AIO Plus QB24250 U7 265 16GB/512GB/ w11p [BTO103_QB
• Hp Elitebook 8 AI G1i CV0H2ET U7-255U 16GB 512GB SSD 14" W11
• HP Elitebook B68Z6ET Ultra G1i AI Ultra 7-266V 16GB 512GB 14
• HPE ProLiant Compute DL380a Gen12
• HPE ProLiant Compute DL384 Gen12
• MSI NB CROSSHAIR 17 HX-AI D2XWGKG 017TR ULTRA9
• MSI NB VECTOR17 HX AI A2XWHG-086TR ULT 7
• PNY RTX PRO4000 Blackwell 24GB GDDR7 192Bit

Neden Data Sistem?

Data Sistem, kurumsal yapay zeka yolculuğunuzda doğru donanımı doğru boyutla seçmenize yardımcı olur: AI sunucu, GPU, iş istasyonu ve AI PC portföyünü distribütör kanallarından tedarik eder; kurulum, garanti ve teknik destek ile süreci uçtan uca yönetir. Marka seçeneklerini karşılaştırmak için AI Sistemleri kategorisine göz atabilir ya da ihtiyacınıza özel fiyat teklifi için formu doldurabilirsiniz.

‹ Rehbere Dön