マーケティング

マーケティング

SEOにおけるベストプラクティスとは?robots.txt(ロボットテキスト)ファイルの正しい使い方

Yoast

The mission of Yoast is SEO for Everyone. We want to give everyone the opportunity to rank in the search engines. Our SEO plugin, blog posts, and online courses should enable both large companies as well as small websites to attract the traffic they desire.

本記事は、WordPress robots.txt: Best-practice example for SEO
翻訳・再構成したものです。
配信元または著者の許可を得て配信しています。

274 views

読了時間 : 約3分30秒

ウェブサイトのSEOにおいて、ロボットテキストファイルは物凄いツールですが、取り扱いには注意が必要です。

 

 

このツールによって、検索エンジンが異なるファイルやフォルダーにアクセスするのを拒否することができます。しかし、これはウェブサイトを最適化するのに、最も良い方法という訳ではありません。ここでは、ウェブマスターがどのようにロボットテキストファイルを使用すべきかを、説明しようと思います。また、ほとんどのウェブサイトにとってのベストプラクティスを提案します。

 

 

この下の更に下にある、WordPress Webサイトの大部分で機能するrobots.txtの例をご紹介します。

 

 

“ベストプラクティス”とは何ですか?

 

 

検索エンジンは、ウェブサイトやインデックスを回りながら、改善を続けています。これは、数年前にベストプラクティスだったものが機能しなくなったり、サイトに損害を与えたりする可能性があるということです。

 

 

現在のベストプラクティスとは、ロボットテキストにできるだけ頼らない、ということです。実際に、複雑な技術的変更(例:ファセットナビゲーションを備えた大規模なeコマースWebサイト)をした時や他のオプションがない時には、ロボットテキストファイルのURLをブロックする必要があります。

 

 

ロボットテキストを通したURLをブロックすることは総当たりアプローチとなり、解決よりも多くの問題を生む可能性があります。

 

 

以下の例が、ほとんどのWordPressウェブサイトにとってのベストプラクティスです。

 

 

 

# This space intentionally left blank

# If you want to learn about why our robots.txt looks like this, read this post: https://yoa.st/robots-txt

User-agent: *

 

 

 

独自のrobots.txtファイルでも、このアプローチを使用しています。

 

 

このコードをどうしますか?

 

 

・“User-agent: * ”指示には、以下の指示がすべてのクローラーに適用されることが記載されています。

 

 

・なぜなら、他に指示をしていないからです。クローラーはこのウェブサイト中を、制限なく自由に回ることができます。

 

 

・人々がこのファイル(このページへのリンク)を見るための、他の情報も提供します。よって、なぜファイルが“空”なのかを理解することができるでしょう。

 

 

もしURLを禁止する必要があるならば

 

 

もし、WordPressウェブサイトの、特定の部分のインデックスを検索エンジンに回られたくないのであれば、メタロボットタグか、ロボットHTTPヘッダーを追加することが、ほとんどの場合に有効です。

 

 

WordPressYoast SEOは、敏感なファイルやURLWordPressadminエリア(x-robots HTTPヘッダー経由)のインデックスを、自動的に防いでいることを覚えておいてください。

 

 

なぜ“ミニマリズム”がベストプラクティスなのでしょう?

 

 

ロボットテキストは行き止まりを作成します

 

 

検索結果で可視性を競う前に、検索エンジンはページ発見し、回り、インデックスする必要があります。もし、ロボットテキストを経由した特定のURLをブロックしているのであれば、検索エンジンは他のものを発見するために、これらのページを長く回ることはできません。これは、重要なページが発見されないことを意味しています。

 

 

ロボットテキストは、リンクの価値を否定します

 

 

SEOの基本的なルールのひとつに、他のページからのリンクによって、あなたのパフォーマンスに影響を及ぼすということがあります。もしURLがブロックされていたら、検索エンジンがページを回らないというだけでなく、そのURLを指すリンク値を、またはそのURLを介して、サイト上の他のページに配布することもできません。

 

 

Googleがサイトを完全にレンダリングします

 

 

人々は、検索エンジンが重要なページに継続して焦点を充てるよう、CSSJavaScriptファイルのアクセスをブロックしています。

 

 

最近、GoogleはすべてのスタイルとJavaScriptを取得し、ページを完全にレンダリングしています。ページのレイアウトを理解し、プレゼンテーションすることは、品質を評価する大事な要素です。よって、Googleは、CSSJavaScriptへのアクセスを拒否することを嫌っています。

 

 

wp-includes”への直接のアクセスと、直接“robots.txt”を経由したプラグインブロックするための、以前のベストプラクティスは無効になりました。バージョン4.0“wp-includes”のデフォルトの不許可ルールを削除するために、WordPressと連携したからです。

 

 

多くのWordPressテーマは、非同期JavaScriptリクエスト(いわゆるAJAX)も使用して、Webページにコンテンツを追加します。WordPressはデフォルトによって、これをGoogleからブロックしていましたが、私達はWordPress4.4でこれを修正しました。

 

 

通常は、サイトマップへのリンクは不要です

 

 

標準のロボットテキストは、XMLサイトマップへのリンクをファイルに追加できます。これによって、検索エンジンがウェブサイトのロケーションやコンテンツを発見することができます。

 

 

私達は、これが余剰である常に感じてきました。Google Search ConsoleBing Webmasterツールアカウントにサイトマップを追加して、分析データとパフォーマンスデータにアクセスする必要があります。もし既に行っているのであれば、ロボットテキストファイルへの参照は不要です。

【コンビニでも使える!メルペイ初回利用1000円分招待コード】

当サイト限定招待コード:CMUTDF

 
利用可能店舗:メルカリ、コンビニ、ドラッグストア等

金額:※さらにメルペイスマート払で2000円分ポイント!
友達招待でお互いに1000円分ポイント!2人以上招待でUSJ貸し切りイベントに抽選招待も!

メルカリ-フリマアプリ&スマホ決済メルペイ

メルカリ-フリマアプリ&スマホ決済メルペイ

無料

 

Seleqtをご覧頂いた方だけに「朗報」
\当サイト限定特別クーポン/

 
【Uber taxi初回利用2000円オフクーポン】
JP20gd6nv7

 

プロモーション コードを追加するで「JP20gd6nv7」を入れてください。
※プロモコードは日本国内でのみ利用可能
 
»当サイト限定の初回利用2000円オフのクーポンを使って登録はこちら!

Uber

Uber

 

Seleqtをご覧頂いた方だけに「朗報」
\当サイト限定特別クーポン/

 

【UberEats初回1000円オフクーポン】
ins6je2v

 

対象店舗:マック、ガスト、スタバ、ピザハット、松屋 等
※1000円分無料で頼めます。〇〇円以上とかもナシ!完全無料でお試しOK
割引額:1000円引き
 
»当サイト限定の初回利用1000円オフのクーポンを使って登録はこちら!

Uber Eats: 地元で人気の料理をお届け

Uber Eats: 地元で人気の料理をお届け

無料

おすすめ新着記事

おすすめタグ