İçeriğe geç
Web Geliştirme

Screaming Frog Log File Analyser ile Bot İzleme ve Tarama Bütçesi

Yayın tarihi 25 Eylül 2026 Yazar Kerem Kırbıyık 3 dk okuma
Screaming Frog Log File Analyser sunucu erişim günlükleri ve Googlebot tarama sıklığı şeması

Bir web sitesinin teknik SEO sağlığını anlamak için Google Search Console ve standart tarayıcılar (Spider) değerli simülasyonlar sunsa da; Googlebot’un sitenizde gerçekte hangi saniyede hangi URL’yi ziyaret ettiğini, hangi sayfalara hiç uğramadığını ve hangi sunucu hatalarını (5xx) aldığını %100 doğrulukla gösteren tek kesin birinci parti veri kaynağı Sunucu Log Dosyalarıdır (Server Access Logs).

Masaüstü yazılımı Screaming Frog Log File Analyser, gigabaytlarca ham Nginx ve Apache log dosyasını saniyeler içinde işleyerek Googlebot hareketlerini, Yetim Sayfaları (Orphan Pages) ve Tarama Bütçesi İsraflarını görselleştiren kurumsal bir analiz merkezidir.


1. Sunucu Log Analizi ile Çözülen 4 Kritik Teknik Problem

[Ham Sunucu Log Dosyası (access.log)] ──> [Screaming Frog Log File Analyser]
                                                        │
         ┌──────────────────────────────┬───────────────┴──────────────┬──────────────────────────────┐
         ▼                              ▼                              ▼                              ▼
 [1. Sahte Googlebot Tespiti]   [2. Yetim Sayfalar]            [3. Tarama İsrafı]             [4. Gizli 5xx Hataları]
 DNS Ters Doğrulama ile         İç Linki Olmayan Ama           Botların Sürekli Parametre     Kullanıcıya Çıkmayan Ama
 Zararlı Kazıyıcıları Engelleme Botların Bildiği Sayfalar      Taramasını Tespit Etme         Bota Dönen Hataları Yakalama
İnceleme MetriğiNe Anlama Gelir?Aksiyon Protokolü
Tarama Sıklığı (Crawl Frequency)Googlebot’un bir sayfayı günde kaç kez ziyaret ettiği.Çok ziyaret edilen sayfalar en güçlü PageRank dağıtıcılarıdır; buradan yeni sayfalara iç link verin.
Yetim Sayfalar (Orphan URLs)Loglarda bot ziyareti olan ancak site taramasında (Spider) hiç linki bulunmayan sayfalar.Bu sayfaları site mimarisine bağlayın veya silip 410 yapın.
Bozuk Durum Kodları (4xx / 5xx)Googlebot’un tararken karşılaştığı sunucu çökmeleri.Sunucu yanıt süresini optimize edin ve kırık linkleri 301 yapın.
Ortalama Yanıt BoyutuGooglebot’a dönen HTML belgesinin ağırlığı.100 KB’ın üzerindeki HTML şablonlarını küçültün.

2. Screaming Frog SEO Spider ve Log Analyser Hibrit Analizi

En güçlü teknik analiz; Spider Taraması ile Log Dosyasını birleştirmektir:

  1. Screaming Frog SEO Spider’da siteyi tarayın ve projeyi kaydedin.
  2. Screaming Frog Log File Analyser’da Import > Spider Crawl Data diyerek tarama verisini yükleyin.
  3. Sonuç: Ekranda sitenizdeki sayfaların yüzde kaçının botlar tarafından ziyaret edildiğini (“Crawl Coverage: %64”) ve taranmayan %36’lık kayıp sayfaları anında görün!

3. Sahte Googlebot (Spoofed User-Agent) Tespiti

Kötü niyetli rakipler ve veri hırsızları sunucunuza User-Agent: Googlebot maskesiyle saldırabilir. Screaming Frog Log File Analyser, her isteğin IP adresine Ters DNS (Reverse DNS Lookup) sorgusu atarak:

  • Gerçek Googlebot IP’lerini (*.googlebot.com) doğrular.
  • Sahte IP’leri kırmızıyla işaretleyip sunucu güvenlik duvarında (Cloudflare) engellemeniz için liste sunar.

Sıkça Sorulan Sorular

Log dosyası sunucudan nasıl indirilir?

Nginx sunucularda /var/log/nginx/access.log, Apache sunucularda /var/log/apache2/access.log dizininden SFTP veya SSH komutlarıyla bilgisayara indirilebilir.

Log analizi küçük siteler için gerekli midir?

1.000 sayfanın altındaki küçük siteler için GSC yeterlidir; ancak 20.000’den fazla sayfaya sahip e-ticaret ve haber sitelerinde tarama bütçesi optimizasyonu için log analizi zorunludur.


Stratejik Sonuç

Screaming Frog Log File Analyser ile yapılan sunucu log analizleri, arama motorlarının sitenizi gerçekte nasıl deneyimlediğini gösteren en net teknik aynadır. İleri düzey bot ve sunucu optimizasyonları için teknik SEO danışmanlığı çözümlerimizi inceleyin.

İlgili Yazılar

Bu yazı faydalı oldu mu?