Büyük dil modeli (Large Language Model, LLM), çok büyük metin derlemleriyle eğitilmiş, doğal dili anlayıp üretebilen derin öğrenme modelidir. GPT, Claude, Gemini ve Llama gibi modeller bu sınıftadır. Modern yapay zeka ajanlarının muhakeme motoru LLM’dir.
LLM, transformer mimarisiyle metni token denilen parçalara böler ve bir sonraki token’ı tahmin ederek metin üretir. Eğitim sırasında dilin yapısını, dünya bilgisini ve akıl yürütme kalıplarını öğrenir. Bağlam penceresi (context window), modelin bir seferde dikkate alabileceği metin miktarını belirler.
Model genel bilgiyle konuşur; kurumun kendi bilgisini kullanması için RAG gerekir. Halüsinasyon riski vardır; kritik kararlar kaynak gösterme ve insan onayıyla desteklenmelidir. Türkçe performansı modelden modele değişir ve projede ayrıca ölçülmelidir. Veri gizliliği için bulut, Türkiye’de barındırma veya on-premise açık kaynak model seçenekleri değerlendirilir.
Token, context window, RAG, fine-tuning, halüsinasyon, prompt engineering. Uygulama: özel yapay zeka çözümleri.
