Setting dan Mengenal Robot.Txt pada Blogger Webmaster

Robot.txt yang berada di webmaster tool adalah sebuah root (akar) pada sebuah situs. untuk mempelajari wacana file robots txt blog berguru mengembangkan akan mengupas dan menyajikannya untuk anda simak hingga tuntas, sehingga anda akan disulap untuk menjadi seorang yang mengenal dan memahami  robot.txt pada webmaster tools sampai menjadi hebat dalam menguasainya. tentu dengan syarat harus melahap tulisan ini hingga tuntas.

Sebelum anda mengetahui lebih jauh robot.txt, sebaiknya anda mendaftarkan situs anda di webmaster tools. jikalau sudah mendaftar pada webmaster tools, silahkan terbang ke perayapan » penguji robots.txt

Contoh Defauld Robot.Txt

Secara defauld robot.txt yang ada di webmaster tools milik berguru berbagi seakan-akan dibawah ini

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Disallow: /search
Allow: /

Sitemap: https://www.serhamo.net/sitemap.xml

Keterangan: 
User-agent: Mediapartners-Google: adalah sebagai perintah mengizinkan robots craw adsense untuk mengindeks seluruh website atau blog yang relevan dan tidak ada kaitannya dengan google search engine. jikalau anda sudah mempunyai adsense maka jangan pernah menghapusnya lantaran sangat menguntungkan bagi situs anda.

Disallow: artinya tidak ada batasan halaman untuk dirayapi oleh google

User-agent: *: seluruh search engine atau mesin pencari yang diwakili oleh tanda * tersebut

Disallow: /search: melarang robots google untuk merayapi labels yang berawalan /search contohnya https://www.serhamo.net/search/label/AdSense

Allow: /: memberiarkan robots google merayapi seluruh halaman situs website/blog anda

Sitemap: ialah sebuah alamat feed blog anda yang berisikan url-url halaman yang sudah anda buat misalnya judul postingan blog. untuk mengetahuinya silahkan rubah http://serhamo dengan nama situs anda yang diakhiri /sitemap.xml

Fungsi dari Robot.Txt

Ada 3 buah fungsi robot.txt yang aku pelajari eksklusif dari google webmaster tools diantaranya ialah file non gambar » file gambar dan file sumber daya.

• Non Gambar robot.txt hanya digunakan untuk mengontrol kemudian lintas perayapan dan jangan menyia-nyiakan lalu lintas ini lantaran dapat menimbulkan overload atau kelebihan perayapan yang tidak penting untuk dirayapi oleh google. 
• robot.txt mampu mencegah file gambar yang muncul di hasil pencarian google akan tetapi robot txt tidak mencegah halaman yang ditautkan oleh pengguna lain yang ngelink ke file gambar anda tersebut
• File sumber daya berfungsi untuk memblokir file gambar yang menurut anda tidak penting. 

Untuk mengetahui keseluruhan perihal robot.txt webmaster seolah-olah mempelajari tentang file robots.txt, membuat file robot.txt, menguji dengan penguji robots.txt, mengirim robots.txt yang diperbaharui di google, sebaiknya aku rekomendasikan kepada anda untuk membaca dan mempelajari seluruh perihal robot.txt yang ada di webmaster tools.

Untuk setting robot txt pada blog silahkan anda login ke blogger anda » setelan » Preferensi penelusuran » robot.txt khusus

Aktifkan konten robots.txt khusus? jadikan Ya dan masukan isyarat dibawah ini dan klik simpan perubahan

User-agent: Mediapartners-Google
Disallow:

User-agent: *
Disallow: /search
Allow: /

Sitemap: https://www.serhamo.net/sitemap.xml

Lalu pada Tag tajuk robot khusus, Aktifkan tag tajuk robot khusus? jadikan Ya dan ikuti perintahnya dibawah ini

Pada bagian Beranda conteng All;

Laman Arsip dan Penelusuran: conteng noindex, nofollow, noarchive

Default untuk Pos dan Laman: conteng All

Setelah akhir klik simpan perubahan

Karena waktu berbuka puasa sebentar lagi, maka saya akhiri goresan pena tentang Tutorial setting dan mengenal robot.txt pada blogger webmaster. semoga bermanfaat dan happy blogging