Site veya sayfaların dizinlenmesini nasıl yasaklarım?
Site içeriğini dizinlemeden gizlemek için robots.txt
dosyasını, HTML işaretlemesini veya site üzerindeki yetkilendirmeyi kullanabilirsiniz.
Bir web sitesinin, bölümün veya sayfanın dizinlenmesini yasaklayın
Sitenin bazı sayfaları veya bölümleri dizinlenmemeliyse (örneğin, teknik veya gizli bilgi içerenler), erişimi kısıtlamak için aşağıdaki yöntemleri kullanın:
-
robots.txt
dosyasında Disallow direktifini belirtin. -
Site sayfalarının HTML kodunda
robots
meta etiketininoindex
veyanone
direktifi ile belirtin. Daha fazla bilgi için Robots meta etiketi ve HTTP başlığı X-Robots-Tag bölümüne bakın. -
Site üzerinde yetkilendirme kullanın. Ana sayfayı dizinlemeden gizlemek için bu yöntemi öneriyoruz. Ana sayfa
robots.txt
dosyasında yasaklanmışsa ancak diğer sitelerden ona yönlendiren bağlantılar varsa, sayfa arama sonuçlarına dahil edilebilir.Not
Yetkisiz kullanıcıların kısıtlı sayfalara erişimini önlemek için, bu tür sayfalar için sunucunun HTTP yanıt kodunu 404 Not Found, 403 Forbidden veya 410 Gone olarak yapılandırın.
Sayfa metninin bir kısmının dizinlenmesini yasaklayın
Metnin bir kısmını dizinlemeden gizlemek için birkaç yol vardır:
-
Sayfanın HTML koduna
noindex
öğesini ekleyin. Örneğin:<noindex>dizinlenmemesi gereken metin</noindex>
Öğe iç içe geçmeye duyarlı değildir — sayfanın HTML kodunda herhangi bir yerde bulunabilir. Sayfada kapanış etiketi yoksa, sayfanın tüm içeriği gizli kabul edilir. Birden fazla iç içe
noindex
etiketi oluşturmayın çünkü işaretleme ilk kapanış etiketinden sonrasını yok sayacaktır.Site kodunu geçerli hale getirmek için gerekirse etiketi aşağıdaki biçimde kullanabilirsiniz:
<!--noindex-->dizinlenmemesi gereken metin<!--/noindex-->
-
Sayfanın HTML koduna
noscript
öğesini ekleyin. Örneğin:<noscript>dizinlenmemesi gereken metin</noscript>
noscript
öğesi,noindex
gibi dizinlemeyi yasaklar ancak tarayıcıları JavaScript’i destekleyen kullanıcılar için sitenin içeriğini gizler.Not
JavaScript, kullanıcı tarafından özellikle devre dışı bırakılmadıkça tüm popüler tarayıcılar tarafından desteklenir.
JavaScript desteği raporunu Yandex Metrica da görüntüleyebilirsiniz.
Bir sayfadaki bağlantıyı dizinlemeden gizleyin
rel
özniteliğini kullanmanızı öneririz. Öznitelik değerleri, arama motorunun web sitesi içeriğini daha iyi tanımasına yardımcı olan çeşitli bağlantı türlerini belirtir.
rel="ugc"
. Web sitenizde bir forum varsa veya ziyaretçilerin geri bildirim bırakma imkanı varsa ve sağladıkları bağlantıların kalitesinden emin değilseniz kullanın.rel="sponsored"
. Bağlantı reklamla ilgiliyse veya başka bir web sitesiyle ortaklık programı şartları altında bir reklam yerleştirme veya yerleştirme noktasına işaret ediyorsa kullanın.rel="nofollow"
. Bağlantının türüne bakılmaksızın robotun bağlantıyı takip etmesini önlemek için kullanın.
Birden fazla değeri birleştirebilirsiniz. Örnek:
<a href="url" rel="nofollow,sponsored">bağlantı metni</a>
veya
<a href="url" rel="nofollow sponsored">bağlantı metni</a>
rel
özniteliğinin değerleri, robot tarafından bağlantıyı görmezden gelme önerisi olarak algılanır.
Sayfadaki tüm bağlantıları dizine eklemeden gizlemek için, sayfanın HTML kodunda robots
meta etiketini nofollow direktifi ile belirtin. Robot, siteyi tararken bağlantıları takip etmeyecek, ancak bunları diğer kaynaklardan öğrenebilir. Örneğin, diğer sayfalarda veya sitelerde.
Listelenen talimatlardan herhangi birini kullanırken, bağlantı robot tarafından işlenebilir ve Yandex.Webmaster’da iç veya dış olarak görüntülenebilir. Bağlantının Yandex.Webmaster’da görüntülenmesi veya yokluğu, arama algoritmalarının bunu dikkate aldığı anlamına gelmez.