- AI Agents
LLM, RAG, MCP ve Agent Nedir? Yapay Zekâ Uygulamalarının Arkasındaki Mimari
Büyük dil modellerinden RAG sistemlerine, MCP'den AI Agent'lara kadar modern yapay zekâ uygulamalarının nasıl çalıştığını anlamak.
Zeynep Baş6 dk okuma
Yapay Zekâ Uygulamalarında Gerçekte Ne Oluyor?
Bir chatbot sadece metin mi üretiyor?
Bir kullanıcı yapay zekâ destekli bir uygulamaya soru sorduğunda arka planda yalnızca bir modelin cevap üretmesi gerçekleşmeyebilir. Uygulama kullanıcının isteğini analiz edebilir, gerekli bilgiyi farklı kaynaklardan bulabilir, dış sistemlerden veri alabilir ve sonucu tekrar kullanıcıya sunabilir.
User Input
LLM
Knowledge
Tools
Response
Modern AI uygulamalarını anlamak için LLM, RAG, Tool Calling, MCP ve Agent kavramlarının hangi problemi çözdüğünü ayrı ayrı düşünmek gerekir.
LLM
RAG
Tool Calling
MCP
Agent
LLM Nedir?
Large Language Model'ın temel görevi
LLM, yani Large Language Model, büyük miktarda metin verisi üzerinde eğitilmiş ve verilen girdiye göre anlamlı metin çıktıları oluşturabilen bir yapay zekâ modelidir. ChatGPT gibi uygulamaların arkasında bu tür dil modelleri bulunabilir.
Large Language Model
Natural Language
Tokens
Context
Generated Output
Ancak LLM'i internete bağlı bir veritabanı gibi düşünmemek gerekir. Modelin eğitilmiş olması, gerçek zamanlı olarak şirketinizin veritabanına veya güncel sistemlerinize erişebildiği anlamına gelmez.
Model Knowledge
Training Data
Context
Real-Time Data
External Systems
Token ve Context Neden Önemlidir?
LLM metni nasıl işler?
LLM'ler metni doğrudan insanın algıladığı şekilde işlemez. Metin token adı verilen parçalara ayrılarak model tarafından işlenir. Kullanıcının mesajı, sistem talimatları ve modele verilen ek bilgiler birlikte modelin context'ini oluşturabilir.
Text
Token
Context Window
Prompt
Output
Bu nedenle modele çok fazla gereksiz bilgi göndermek yalnızca maliyeti artırmakla kalmaz; modelin gerçekten önemli olan bilgiyi değerlendirmesini de zorlaştırabilir.
Context Size
Token Usage
Cost
Relevant Information
Prompt Design
LLM Her Şeyi Bilmiyorsa RAG Neden Var?
Modelin dış bilgi kaynaklarına erişmesi
RAG, Retrieval-Augmented Generation anlamına gelir. Temel fikir, kullanıcının sorusuna cevap üretmeden önce ilgili bilginin harici bir bilgi kaynağından bulunması ve bulunan bilginin LLM'e context olarak verilmesidir.
Retrieval
Relevant Documents
Context
LLM
Generation
Örneğin bir şirket kendi çalışan el kitabındaki bilgileri kullanan bir AI asistanı geliştirmek istiyorsa, dokümanları modele tekrar tekrar öğretmek yerine ilgili bölümleri arayıp modele gönderen bir RAG sistemi oluşturabilir.
Company Documents
Knowledge Base
Search
Retrieved Context
AI Assistant
RAG Nasıl Çalışır?
Sorudan cevaba kadar geçen süreç
RAG sistemlerinde dokümanlar genellikle daha küçük parçalara ayrılır ve bu parçalar üzerinde arama yapılabilecek bir yapı oluşturulur. Kullanıcı soru sorduğunda soru ile ilişkili içerikler bulunur ve LLM'e gönderilen context'e eklenir.
Documents
Chunking
Embeddings
Vector Search
Retrieved Context
Basitleştirilmiş bir RAG akışı şu şekilde düşünülebilir: Kullanıcı soru sorar, sistem ilgili bilgiyi arar, en alakalı içerikleri bulur ve bu içerikleri LLM'e vererek daha bağlama uygun bir cevap oluşturmasını sağlar.
User Question
Retrieve
Relevant Chunks
LLM
Answer
Embedding Nedir?
Metinleri anlam üzerinden arayabilmek
Embedding, metin gibi verilerin anlamını temsil eden sayısal vektörlere dönüştürülmesi yaklaşımıdır. Böylece yalnızca aynı kelimeleri aramak yerine anlam bakımından benzer içerikleri bulmak mümkün hale gelir.
Text
Vector
Semantic Meaning
Similarity
Vector Database
Örneğin kullanıcı 'izin sürem ne kadar?' diye sorduğunda dokümanda birebir aynı cümle bulunmasa bile 'yıllık izin hakkı' başlıklı ilgili bir bölüm semantik olarak bulunabilir.
User Query
Semantic Search
Similarity
Relevant Document
Context
RAG ile Fine-Tuning Aynı Şey Değildir
Bilgi eklemek ile modeli değiştirmek arasındaki fark
RAG ve fine-tuning çoğu zaman birbirine karıştırılır. RAG'de modelin kendisi değiştirilmeden dış bilgi kaynaklarından ilgili içerikler modele context olarak sağlanır.
RAG
External Knowledge
Context
Retrieval
Fine-tuning ise belirli örnekler üzerinden modelin davranışını veya belirli bir görevdeki performansını değiştirmek amacıyla modelin ek eğitim sürecinden geçirilmesidir. Bu nedenle iki yaklaşım farklı problemleri çözebilir.
Fine-Tuning
Model Adaptation
Behavior
Task-Specific Training
Peki LLM Dış Sistemlerle Nasıl Konuşuyor?
Tool Calling kavramı
Bir LLM'in kendi başına veritabanınızdan veri çekmesi veya bir API'ye istek göndermesi gerekmez. Uygulama modele kullanabileceği araçları tanımlayabilir. Model de gerektiğinde belirli bir aracın çağrılması gerektiğini belirtebilir.
LLM
Tool
Function
API
Tool Call
Örneğin bir hava durumu uygulamasında model hava durumunu kendisi tahmin etmek yerine weather API'sini çağıracak bir araç kullanabilir. Araçtan gelen sonuç daha sonra model tarafından kullanıcıya doğal bir cevap olarak aktarılabilir.
User Question
Tool Selection
API Request
Tool Result
Final Response
MCP Nedir?
Model Context Protocol neden ortaya çıktı?
MCP, Model Context Protocol, yapay zekâ modellerinin dış araçlar ve veri kaynaklarıyla daha standart bir şekilde iletişim kurabilmesi için kullanılan bir protokoldür. Temel amaç, farklı AI uygulamalarının farklı sistemlerle entegrasyonunu daha düzenli ve yeniden kullanılabilir hale getirmektir.
Model Context Protocol
Standardization
Tools
Resources
AI Applications
MCP'yi tek başına bir yapay zekâ modeli olarak düşünmemek gerekir. MCP model değildir; modelin dış dünyadaki araçlara ve kaynaklara erişimini standartlaştırmaya yardımcı olan bir iletişim katmanıdır.
Not an LLM
Protocol
Tool Access
Data Access
Integration Layer
Agent Nedir?
Sadece cevap vermek yerine görevi gerçekleştirmek
Bir chatbot genellikle kullanıcının mesajına cevap üretmeye odaklanırken bir AI Agent verilen hedefi gerçekleştirmek için birden fazla adım planlayabilir, araç kullanabilir, sonuçları değerlendirebilir ve gerektiğinde yeni bir işlem başlatabilir.
Goal
Planning
Tool Usage
Observation
Action
Örneğin kullanıcı 'Bu ayki satış raporunu analiz et ve önemli değişimleri özetle' dediğinde bir agent veritabanından veri çekebilir, veriyi analiz edebilir, sonuçları değerlendirebilir ve sonrasında özet oluşturabilir.
Understand Goal
Query Data
Analyze
Evaluate
Generate Summary
Agent ile RAG Arasındaki Fark Nedir?
Birbirlerinin alternatifi değiller
RAG temel olarak ilgili bilgiyi bulup LLM'in context'ine ekleme problemine odaklanır. Agent ise bir hedefi gerçekleştirmek için hangi adımların uygulanacağına ve hangi araçların kullanılacağına odaklanabilir.
RAG → Retrieve Knowledge
Agent → Perform Task
Context
Planning
Tools
Bu iki yaklaşım birlikte de kullanılabilir. Bir agent önce RAG üzerinden bilgi arayabilir, ardından bir API çağırabilir ve elde ettiği sonuçları tekrar değerlendirerek sonraki adımına karar verebilir.
Agent
RAG
Tool Calling
Decision
Multi-Step Workflow
LLM, RAG, MCP ve Agent Birlikte Nasıl Çalışır?
Modern bir AI uygulamasının genel akışı
Bu kavramları tek bir sistem içerisinde düşündüğümüzde LLM karar verme ve metin üretme katmanında bulunabilir. RAG gerekli bilgiyi sağlayabilir, araçlar dış sistemlerle iletişim kurabilir ve MCP bu araçlara erişimi standartlaştıran bir protokol görevi görebilir.
LLM
RAG
Tools
MCP
Agent
Örneğin bir hukuk AI asistanında kullanıcı sorusu önce agent tarafından değerlendirilebilir. Sistem ilgili hukuk dokümanlarını RAG ile bulabilir, gerekli olduğunda bir şirket içi API'den veri alabilir ve sonunda LLM elde edilen context üzerinden cevabı oluşturabilir.
User Question
Agent
RAG Retrieval
Tool / API
LLM Response
Basit Bir AI Mimarisi Nasıl Görünebilir?
Frontend geliştirici açısından sistemi düşünmek
Bir frontend geliştirici için bu sistemi klasik bir frontend mimarisine benzer şekilde katmanlara ayırarak düşünmek oldukça faydalıdır. Kullanıcı arayüzü isteği backend AI katmanına iletir. AI katmanı ise LLM, RAG ve araçlarla iletişim kurarak sonucu frontend'e döndürür.
React / Next.js
API Layer
AI Service
RAG
Tools
LLM
Frontend tarafında kullanıcı mesajının gönderilmesi, loading ve streaming durumlarının yönetilmesi, conversation state'inin tutulması ve AI çıktısının kullanıcıya gösterilmesi gibi sorumluluklar bulunabilir.
Chat UI
Streaming
Loading State
Conversation State
Error Handling
Neden Bu Kavramların Hepsini Bilmek Önemli?
AI uygulaması geliştirmek sadece API çağırmaktan ibaret değil
Bir AI API'sine mesaj gönderip cevap almak, yapay zekâ uygulamasının yalnızca başlangıç seviyesindeki kullanım şekillerinden biridir. Gerçek bir ürün geliştirirken veri erişimi, güvenlik, context yönetimi, maliyet, gecikme, hata yönetimi ve araç entegrasyonları gibi birçok konu birlikte ele alınır.
Security
Context Management
Latency
Cost
Reliability
Bu nedenle LLM'i tek başına öğrenmek yerine LLM'in uygulama mimarisi içerisindeki rolünü anlamak daha güçlü bir yaklaşım sağlar.
LLM
Application Architecture
Data
Tools
AI Systems
Sonuç
Modern AI uygulamalarını tek bir akışta düşünmek
LLM metni anlamlandırıp çıktı üretmenin temelini oluşturabilir. RAG dış bilgi kaynaklarından ilgili context'i sağlayabilir. Tool Calling modelin dış sistemlerde işlem başlatmasına yardımcı olabilir. MCP bu araç ve kaynak erişimini standartlaştıran bir protokol olarak kullanılabilir. Agent ise bütün bu yetenekleri belirli bir hedef doğrultusunda birden fazla adımda kullanabilir.
LLM → Generate
RAG → Retrieve
Tool → Act
MCP → Connect
Agent → Orchestrate