Kategoriler
Webmaster yardım

robots.txt analiz aracı, robots.txt dosyasını Googlebot’un okuduğu gibi okur.

google-logo-halloween-d-miprobots.txt analiz aracı, robots.txt dosyasını Googlebot’un okuduğu gibi okur. Araç bir satırda söz dizimi hatası belirlerse Googlebot söz konusu satırı tanımayacak demektir. Araç bir URL’ye izin verildiğini gösterirse, Googlebot da o URL’yi izin verilmiş olarak tanıyacaktır.

Bu araç yalnızca Google user-agent’ları (Googlebot gibi) sonuçlarını sunar. Diğer botlar ise robots.txt dosyasını aynı şekilde tanımayabilir. Örneğin, Googlebot standart tanımın genişletilmiş bir biçimini destekler. Allow: yönergelerinin yanı sıra bazı şablon eşlemelerini de tanır. Dolayısıyla araç bu uzantıları tanındığı gibi içeren satırları gösterirken, bunun yalnızca Googlebot için geçerli olduğunu ve varsa sitenizi tarayan diğer botlar için geçerli olmayabileceğini unutmayın.

Bir robots.txt dosyası ana makinenin kök dizininde bulunuyorsa, bu araç Google’ın dosya hakkında edindiği aşağıdaki bilgileri listeler: