Apa itu Analisis File Log dan Mengapa Penting untuk SEO?
Diterbitkan: 2022-03-16Analisis File Log SEO membantu memahami perilaku perayap di situs web dan mengidentifikasi potensi peluang pengoptimalan SEO teknis.
SEO tanpa menganalisis perilaku crawler seperti terbang buta. Anda mungkin telah mengirimkan situs web di konsol pencarian Google dan mengindeksnya, tetapi tanpa mempelajari file log, Anda tidak akan mendapatkan ide apakah situs web Anda dirayapi atau dibaca oleh bot mesin pencari dengan benar atau tidak.
Itu sebabnya saya telah mengumpulkan semua yang perlu Anda ketahui untuk menganalisis file log SEO dan mengidentifikasi masalah dan peluang SEO darinya.
Apa itu Analisis File Log?

Analisis File Log SEO adalah proses untuk mengenali pola interaksi bot mesin pencari dengan situs web. Analisis file log adalah bagian dari SEO teknis.
Audit file log penting bagi SEO untuk mengenali dan menyelesaikan masalah yang terkait dengan perayapan, pengindeksan, kode status.
Apa itu File Log?

File log melacak siapa yang mengunjungi situs web dan konten apa yang mereka lihat. Mereka berisi informasi tentang siapa yang meminta akses ke situs web (juga dikenal sebagai 'Klien').
Informasi yang dirasakan dapat terkait dengan bot mesin pencari seperti Google atau Bing atau pengunjung situs web. Biasanya, catatan file log dikumpulkan dan dipelihara oleh server web situs, dan biasanya disimpan untuk jangka waktu tertentu.
Apa Isi File Log?

Sebelum mengetahui pentingnya file log untuk SEO, penting untuk mengetahui apa yang ada di dalam file ini. File log e berisi poin data berikut: -
- URL halaman yang diminta oleh pengunjung situs web
- Kode status HTTP halaman
- Alamat IP server yang diminta
- Tanggal dan waktu hit
- Data agen pengguna (bot mesin pencari) membuat permintaan
- Metode permintaan (GET/POST)
File log bisa tampak rumit bagi Anda jika Anda melihatnya terlebih dahulu. Namun, setelah Anda mengetahui tujuan dan pentingnya file log untuk SEO, Anda akan menggunakannya secara efektif untuk menghasilkan wawasan SEO yang berharga.
Tujuan Analisis File Log untuk SEO
Analisis file log membantu menyelesaikan beberapa masalah SEO teknis yang penting, yang memungkinkan Anda membuat strategi SEO yang efektif untuk mengoptimalkan situs web.
Berikut adalah beberapa masalah SEO yang dapat dianalisis menggunakan file log:
#1. Frekuensi Googlebot merayapi situs web
Bot atau perayap mesin telusur harus sering merayapi halaman penting Anda sehingga mesin telusur mengetahui tentang pembaruan situs web atau konten baru Anda.
Semua halaman produk atau informasi penting Anda akan muncul di log Google. Halaman produk untuk produk yang tidak lagi Anda jual, serta tidak adanya halaman kategori terpenting Anda, adalah indikator masalah yang dapat dikenali menggunakan file log.
Bagaimana bot mesin pencari memanfaatkan anggaran perayapan?
Setiap kali perayap mesin telusur mengunjungi situs Anda, ia memiliki “anggaran perayapan” yang terbatas. Google mendefinisikan anggaran perayapan sebagai jumlah tingkat perayapan situs dan permintaan perayapan.
Perayapan dan pengindeksan situs mungkin terhambat jika memiliki banyak URL bernilai rendah atau URL yang tidak terkirim dengan benar di peta situs. Perayapan dan pengindeksan halaman kunci lebih mudah jika anggaran perayapan Anda dioptimalkan.
Analisis file log membantu mengoptimalkan anggaran perayapan yang mempercepat upaya SEO.
#2. Masalah dan status pengindeksan yang mengutamakan seluler
Pengindeksan yang mengutamakan seluler sekarang penting untuk semua situs web, dan Google lebih menyukainya. Analisis file log akan memberi tahu Anda frekuensi ponsel cerdas yang digunakan Googlebot untuk merayapi situs Anda.
Analisis ini membantu webmaster mengoptimalkan laman web untuk versi seluler jika laman tidak dirayapi dengan benar oleh Googlebot ponsel cerdas.
#3. Kode status HTTP dikembalikan oleh halaman web saat diminta
Kode respons terbaru yang dikembalikan halaman web kami dapat diambil dengan file log atau menggunakan opsi permintaan ambil dan render di Google Search Console.

Penganalisis file log dapat menemukan halaman dengan kode 3xx, 4xx, dan 5xx. Anda dapat mengatasi masalah ini dengan mengambil tindakan yang sesuai, misalnya, mengarahkan ulang URL ke tujuan yang benar atau mengubah kode status 302 menjadi 301.
#4. Menganalisis aktivitas perayapan seperti kedalaman perayapan atau tautan internal
Google menghargai struktur situs Anda berdasarkan kedalaman perayapan dan tautan internal. Alasan di balik perayapan situs web yang tidak tepat dapat berupa struktur interlink yang buruk dan kedalaman perayapan.
Jika Anda mengalami kesulitan dengan hierarki situs web atau struktur situs, atau struktur interlink, Anda dapat menggunakan analisis file log untuk menemukannya.
Analisis file log membantu mengoptimalkan arsitektur situs web dan struktur interlink.
#4. Temukan Halaman Yatim
Halaman yatim piatu adalah halaman web di situs web yang tidak ditautkan dari halaman lain mana pun. Sulit bagi halaman seperti itu untuk diindeks atau muncul di mesin pencari karena tidak mudah ditemukan oleh bot.
Halaman yatim piatu dapat dengan mudah ditemukan oleh crawler seperti Screaming Frog, dan masalah ini dapat diselesaikan dengan menghubungkan halaman-halaman ini ke halaman lain di situs web.
#5. Audit Halaman untuk Kecepatan dan Pengalaman Halaman
Pengalaman halaman dan vital web inti secara resmi menjadi faktor peringkat sekarang, dan sekarang penting bahwa halaman web mematuhi pedoman kecepatan halaman Google.
Halaman yang lambat atau besar dapat ditemukan menggunakan penganalisis file log, dan halaman ini dapat dioptimalkan untuk kecepatan halaman yang akan membantu peringkat keseluruhan di SERP.
Analisis File Log membantu Anda mendapatkan kendali atas bagaimana situs web Anda dirayapi dan bagaimana mesin pencari menangani situs web Anda
Sekarang, karena kita sudah jelas dengan dasar-dasar file log dan analisisnya, mari kita lihat proses mengaudit file log untuk SEO
Bagaimana melakukan Analisis File Log
Kami telah melihat berbagai aspek file log dan pentingnya SEO. Sekarang, saatnya mempelajari proses menganalisis file dan alat terbaik untuk menganalisis file log.
Anda akan memerlukan akses ke file log server situs web untuk mengakses file log. File dapat dianalisis dengan cara berikut:
- Secara manual menggunakan Excel atau alat visualisasi data lainnya
- Menggunakan alat analisis file log

Ada beberapa langkah berbeda yang terlibat dalam mengakses file log secara manual.
- Kumpulkan atau ekspor data log dari server web, dan data tersebut harus disaring untuk bot atau perayap mesin telusur.
- Ubah file yang diunduh menjadi format yang dapat dibaca menggunakan alat analisis data.
- Analisis data secara manual menggunakan excel atau alat visualisasi lainnya untuk menemukan celah dan peluang SEO.
- Anda juga dapat menggunakan program pemfilteran dan baris perintah untuk mempermudah pekerjaan Anda
Mengerjakan data file secara manual tidak mudah karena memerlukan pengetahuan tentang Excel dan melibatkan tim pengembangan. Namun, alat untuk analisis file log memudahkan pekerjaan SEO.

Mari kita lihat alat teratas untuk mengaudit file log dan memahami bagaimana alat ini membantu kami menganalisis file log.
Screaming Frog Log File Analyzer

Masalah teknis SEO dapat diidentifikasi menggunakan data file log yang diunggah dan bot mesin pencari yang diverifikasi menggunakan Screaming Frog Log File Analyzer. Anda juga dapat melakukan sebagai berikut:
- Aktivitas bot mesin telusur dan data untuk pengoptimalan mesin telusur.
- Temukan frekuensi perayapan situs web oleh bot mesin pencari
- Cari tahu tentang semua masalah SEO teknis dan tautan rusak eksternal & internal
- Analisis URL yang telah dirayapi paling sedikit dan paling banyak untuk mengurangi kerugian dan meningkatkan efisiensi.
- Temukan halaman yang tidak dirayapi oleh mesin telusur.
- Data apa pun dapat dibandingkan dan digabungkan, yang mencakup data tautan eksternal, arahan, dan informasi lainnya.
- Lihat data tentang URL rujukan
Alat penganalisis file log Screaming Frog benar-benar gratis untuk digunakan untuk satu proyek dengan batas 1000 peristiwa log baris. Anda harus meningkatkan ke versi berbayar jika Anda menginginkan akses tak terbatas dan bantuan teknis.
JetGurita

Dalam hal alat penganalisis log yang terjangkau, JetOctopus adalah yang terbaik. Ini memiliki uji coba gratis tujuh hari, tidak diperlukan kartu kredit, dan koneksi dua klik. Frekuensi perayapan, anggaran perayapan, halaman paling populer, dan banyak lagi semuanya dapat diidentifikasi menggunakan penganalisis log JetOctopus, sama seperti alat lain dalam daftar kami.
Dengan alat ini, Anda dapat mengintegrasikan data file log dengan data Google Search Console, memberi Anda keunggulan berbeda dibandingkan pesaing. Dengan kombo ini, Anda akan dapat melihat bagaimana Googlebot berinteraksi dengan situs Anda dan di mana Anda dapat meningkatkannya.
Pada Penganalisis Log Perayapan

Lebih dari 500 juta baris log per hari diproses oleh Oncrawl Log Analyzer, alat yang dirancang untuk situs web menengah hingga besar. Itu mengawasi log server web Anda secara real-time untuk memastikan halaman Anda diindeks dan dirayapi dengan benar.
Oncrawl Log Analyzer sesuai dengan GDPR dan sangat aman. Alih-alih alamat IP, program menyimpan semua file log di awan FTP yang aman dan terpisah.
Selain JetOctopus dan Screaming Frog Log File Analyzer, Oncrawl memiliki beberapa fitur lagi, seperti:
- Mendukung banyak format log, seperti IIS, Apache, dan Nginx.
- Alat dengan mudah beradaptasi dengan persyaratan pemrosesan dan penyimpanan Anda saat berubah
- Segmentasi dinamis adalah alat yang ampuh untuk mengungkap pola dan koneksi dalam data Anda dengan mengelompokkan URL dan tautan internal Anda berdasarkan berbagai kriteria.
- Gunakan poin data dari file log mentah Anda untuk membuat laporan SEO yang dapat ditindaklanjuti.
- File log yang ditransfer ke ruang FTP Anda dapat diotomatisasi dengan bantuan staf teknologi.
- Semua browser populer dapat dipantau, termasuk Google, Bing, Yandex, dan crawler Baidu.
OnCrawl Log Analyzer memiliki dua alat penting lainnya:
Perayap SEO Oncrawl: Dengan Perayap SEO Oncrawl, Anda dapat merayapi situs web Anda dengan kecepatan tinggi dan dengan sumber daya minimal. Meningkatkan pemahaman pengguna tentang bagaimana kriteria peringkat mempengaruhi optimisasi mesin pencari (SEO).
Data Oncrawl: Data Oncrawl menganalisis semua faktor SEO dengan menggabungkan data dari perayapan dan analitik. Itu mengambil data dari perayapan dan file log untuk memahami perilaku perayapan dan merekomendasikan anggaran perayapan ke konten prioritas atau halaman peringkat.
Penganalisis File Log SEMrush

SEMrush Log File Analyzer adalah pilihan cerdas untuk alat analisis log berbasis browser yang mudah. Penganalisis ini tidak memerlukan pengunduhan dan dapat digunakan dalam versi online.
SEMrush menyajikan kepada Anda dua laporan:
Pages' Hits : Pages' Hits melaporkan interaksi perayap web dengan konten situs web Anda. Ini memberi Anda data halaman, folder, dan URL dengan interaksi maksimum dan minimum dengan bot.
Aktivitas Googlebot : Laporan Aktivitas Googlebot memberikan wawasan terkait situs setiap hari, seperti:
- Jenis file yang dirayapi
- Kode status HTTP keseluruhan
- Jumlah permintaan yang dibuat ke situs Anda oleh berbagai bot
Loggly dari SolarWinds

SolarWinds' Loggly memeriksa akses dan log kesalahan server web Anda, serta metrik mingguan situs. Anda dapat melihat data log Anda kapan saja, dan memiliki fitur yang memudahkan pencarian melalui log.
Alat analisis file log yang kuat seperti SolarWinds Loggly diperlukan untuk secara efisien menambang file log di server web Anda untuk informasi tentang keberhasilan atau kegagalan permintaan sumber daya dari klien.
Loggly dapat menyediakan bagan yang menampilkan halaman yang paling jarang dilihat dan menghitung kecepatan pemuatan halaman rata-rata, minimum, dan maksimum untuk membantu Anda dalam mengoptimalkan pengoptimalan mesin pencari situs web Anda.
Statistik Perayapan Google Search Console

Google Search Console mempermudah pengguna dengan memberikan gambaran umum yang berguna tentang praktiknya. Operasi konsol sangat mudah. Statistik perayapan Anda kemudian akan dibagi menjadi tiga kategori:
- Kilobyte yang diunduh per hari: Ini menunjukkan kilobyte yang diunduh oleh Googlebots saat mengunjungi situs web. Ini pada dasarnya menunjukkan dua poin penting: Jika rata-rata tinggi ditampilkan dalam grafik maka itu berarti situs tersebut dirayapi lebih sering atau juga dapat menunjukkan bahwa bot membutuhkan waktu lama untuk merayapi situs web dan itu tidak ringan.
- Halaman yang dirayapi menurut hari: Ini memberi tahu Anda jumlah halaman yang dirayapi Googlebot setiap hari. Itu juga mencatat status aktivitas perayapan apakah itu rendah, tinggi, atau rata-rata. Tingkat perayapan yang rendah menunjukkan bahwa situs web tidak dirayapi dengan benar oleh Googlebot
- Waktu yang dihabiskan untuk mengunduh halaman (dalam milidetik): Ini menunjukkan waktu yang dibutuhkan oleh Googlebot untuk membuat permintaan HTTP saat merayapi situs web. Lebih sedikit waktu yang harus dihabiskan Googlebot untuk membuat permintaan, mengunduh halaman akan lebih baik karena pengindeksan akan lebih cepat.
Kesimpulan
Saya harap Anda mendapatkan banyak dari panduan ini tentang analisis file log dan alat yang digunakan untuk mengaudit file log untuk SEO. Mengaudit file log bisa sangat efektif untuk meningkatkan aspek SEO teknis situs web.
Google Search Console dan SEMrush Log File Analyzer adalah dua opsi untuk alat analisis dasar dan gratis. Sebagai alternatif, periksa Screaming Frog Log File Analyzer, JetOctopus, atau Oncrawl Log Analyzer untuk lebih memahami bagaimana bot mesin pencari berinteraksi dengan situs web Anda; Anda dapat menggunakan alat analisis file log campuran premium dan gratis untuk SEO.
Anda juga dapat melihat beberapa perayap situs web canggih untuk meningkatkan SEO.