- SEO
- 2018/09/28
クローリングとは?サイト運営者必見のクローラー活用術も公開!
自分で作ったWebサイトがGoogleなどの検索結果に表示されるには、クローラーにサイトをクローリングしてもらう必要があります。
ロボットのプログラムであるクローラーに情報を収集してもらうことで、初めて検索エンジンのデータベースに登録されるのです。(検索に引っかかるということ)
この記事ではクローリングの仕組み、またクローラーがクローリングしやすいWebサイトの作り方などを詳しく解説します。
クローリング・クローラーとは?メリットや仕組みを知っておこう
クローリングとは、クローラーがリンクをめぐってWebサイトを巡回し、Webベージにある情報を複製・保存することを指しています。
ユーザーが検索キーワードを入力すれば、データベースを参照して検索結果が表示されるのが検索エンジンの仕組みです。新しくできたWebサイトは、クローラーに情報を収集してもらい、データベースに登録してもらう必要があります。クローラーに情報を収集されることによって、検索結果にも表示されるようになるのです。
また、クローラーが情報を収集しやすいかどうかをクローラビリティといいます。クローラーにはいくつか種類がありますが、最も有名なのがGoogleの「Googlebot」でしょう。
SEO対策にもなる!クローラーがサイトにくるメリット
制作したWebサイトがクローリングされることの1番のメリットは、検索結果に表示されるようになる点です。検索結果に表示されるようになることで、サイトに訪れるユーザー数が大幅に増えます。
Web制作者は、クローラーが何度も巡回に来るように対策をしっかりとすることで、検索順位を上げることができます。サイト内の情報を細かくクローラーに収集してもらうよう工夫することが、Webサイトをより多くのユーザーに見てもらうためにも欠かせません。
クローリングの仕組み
クローリングとは、ロボットのプログラムであるクローラーがWebサイトの情報を収集する作業のことです。クローラーは1つのWebサイトに行った後、HTML内にあるリンクを見つけます。そして、リンクから次のWebページに移動し、情報収集を続ける仕組みです。
今現在日本国内で最も有名なクローラーはGoogleの「Googlebot」です。別名「スパイダー」や「ボット」とも呼ばれているGooglebotですが、大規模なコンピューターを使用しているため、サーバーの負担が重くならないように一回のアクセスだけでなるべく多くのページをクローリングする仕組みになっています。
クローリングされるファイルの種類
クローラーがクローリングする代表的なファイルはHTMLファイルです。そして、HTMLファイルの他にも以下の物がクローリングされます。
・JavaScriptで生成されたリンク
・PDF
・テキストファイル
・CSSファイル
・PDF
クローラーは文字であれば情報収集できるので、SEO対策のために伝えたい情報がある場合、文字で情報を作成する必要があります。
クローラーが来やすいサイトとは?初心者が抑えておきたいクローリングされるコツ
先ほど説明した通り、高い頻度でクローラーに巡回してもらうことで、制作したWebサイトの検索順位は向上し、多くのユーザーに閲覧される可能性が上がります。
つづいてWebサイト制作初心者が抑えておきたい、クローリングされるコツについて解説します。
できたてのサイトをクローリングさせる方法!
制作したばかりのWebサイトをクローラーにクローリングさせたい場合、おすすめなのはGoogleが提供する無料ツール「Google Search Console」の活用です。
「Google Search Console」はGoogle検索結果での、制作したサイトのパフォーマンスを監視・管理ができるツールです。新しく制作したサイトは「Google Search Console」を経由してサイトマップをGoogleに提供することで、クローリングを開始させることができます。
「Google Search Console」では、Googleアカウントでログインすると上記の画面が出てくるので、「今すぐ開始」をクリックしてください。
「今すぐ開始」を押すと、サイトマップのURLを記入する画面が表示されます。URLを記入し、「プロパティを追加」をクリックすればサイトマップをGoogleに提供することができます。
また、Webサイトを更新した時や、新しくページを追加した時はGoogle Search Consoleにある「Fetch as google」を活用してGoogleに報告することができます。
クローラーに優しいサイトを作るための7つのコツ!
つづいてクローラーが巡回しやすいWebサイトを作るためのコツ7つを詳しく紹介します。
①パンくずリストを作る
パンくずリストとは、Webサイトを訪問した人が、現在サイト内のどこを閲覧しているのかが分かるよう書かれたリストのことです。Webサイトにパンくずリストがあると、クローラーがサイトの階層を認識しやすくなり、クローラビリティが上がります。
②外部サイトからのリンクを制作する
クローラーは別のWebサイトのリンクを経由して新しいWebサイトへと移動します。そのため、クローラーに発見されやすくなるためには外部サイトにも制作したWebサイトのリンクを貼っておくことが有効です。
③リンクのないページを極力減らす
クローラーはリンクを経由してページからページへと移動するため、リンクのないページをできる限り減らすことがクローラビリティの向上に繋がります。全てのページにリンクが貼られているのが理想的です。
④トップページからのクリック数を少なくする
トップページから他の全てのページに移動するまでのクリック数を短くすることで、クローラビリティを向上させることができます。トップページから他のページに行くまでのクリック数が多いと、クローラーが到達できる可能性が下がってしまいます。
⑤トップページから主要ページへのリンクを必ず作る
クローラーに必ず巡回して欲しいページがある場合、トップページから直接移動できるリンクを貼っておきましょう。もしくはあらかじめ共通の案内リンクであるグローバルナビゲーションを作っておくのもおすすめです。
⑥アンカーテキストを改善する
アンカーテキストを、リンク先がどのようなページなのか、すぐに理解できる言葉に置き換えるとクローラーが巡回する可能性が上がります。アンカーテキストとはリンク部分に書かれているテキストのことです。
⑦JavaScriptでのリンクにしない
WebサイトのリンクはHTMLだけではなくJavaScriptでもリンクを作ることができますが、クローラーに必ず巡回してほしいサイトはHTMLでリンクを作るのがおすすめです。クローラーに巡回してもらえる可能性の高い手法でWebサイトは制作しましょう。
クローラーの動きを確認しよう
制作したWebサイトをクローラーが巡回したか確認するには「Google Search Console」を活用しましょう。
確認方法はGoogle Search Consoleにログインした後、メニュー内にある「クロール」から「クロールの統計情報」に行くと確認ができます。
クローラーが制作したWebサイトを巡回しクローリングすることで情報が収集され、検索エンジンの検索結果にも表示されるようになります。
SEO対策をしっかりと行えば、自分で作ったWebサイトを検索上位に表示させることも可能です。
戦略立案~運用までWebマーケター必見のスキルセット
「売れる」スキルを身につける
【これだけでOK!】あらゆるビジネスに役立つ!はじめての実践マーケティング講座
マーケティングに関するバラバラになっている知識をいっきに「使いこなせる」レベルにまで引き上げることが可能です。
デジタルマーケ初心者へ
最短2週間で変化が出る!初心者向けのWEBサイト分析・改善【実践講座】
初心者の方でもサイトの改善ができるような実践コース。分析を学んだことが無い人でも分かりやすいように、分析とは何か?から丁寧に説明します。
インスタを使ったSNSマーケティング
【初心者向け】失敗しないInstagramマーケティング基本講座
たった2時間で効果的な集客・ファン作り・売上拡大を目指しましょう。
SEOの本質が分かる!
SEO対策はこの3つだけで成功する! もう一生迷わない超本質的なSEO対策マスターコース
『普遍的なSEOの本質』を理解し、毎日正しいSEO対策ができるようになるためのコースです!
関連記事

初心者向け「サイトマップ」の作り方!クロールを促してSEO効果を上げよう
従来では、Webサイトに訪れるユーザー向けサイトマップのみを…

検索クエリでSEO対策!ユーザーを分析して検索順位の改善を
「検索クエリ」という言葉をご存じですか? この検索クエリ…

リッチスニペットとは?サイトの概要を見やすくして流入数アップ!
検索エンジンの検索結果に、画像やレビューが表示されているサ…

JavaScriptのswitch〜caseの基礎が例で誰でも即わかる!
プログラミング言語JavaScriptのSwitch文について、JavaScript…
最新情報・キャンペーン情報発信中