noindexディレクティブをrobots.txtに?

※ 2019年9月1日をもって、robots.txt内でnoindexディレクティブへのサポートは終了です。従ってnoindexはページhead内のmetaで記載するようにしてください。詳しくは「robots.txtのディレクティブとその代替について」参照。

当ブログにお問い合わせいただいたのですが、お問い合わせくださった方のご入力メールアドレスに不備があったようで、私からの回答メールが戻ってきてしまう状態でして…。ですので、(ちょうど面白い事案だったのでせっかくですのでご紹介も兼ねて)ここに記載することでご回答とさせていただければと思います。

山

ふわふわ

お問い合わせ内容

私が「noindexとrobots.txtの因果関係」において、robots.txt内でのnoindexディレクティブの記載について以下のように注意書きをしておりました。

※ 2017年現在、Googleはrobots.txt内でnoindexを書き込むことをサポートしなくなっています。いつ機能が無くなるかも分かりませんので、現在はrobots.txtにnoindexのシグナルを送ることは非推奨とお考えください。

この件に関しまして、そもそもrobots.txtにnoindexディレクティブの記載が出来ることを初めて知った上で、機能している、していないの根拠は何か?というお問い合わせでした。

“この内容を見る限り、以前は本当に機能していた方法ということでしょうか。また、2017年現在サポートしなくなっている、というのは何を根拠とされているのか気になりました。”

つまり、noindexディレクティブは、metaタグとHTTPレスポンスヘッダーの2つの方法以外にrobots.txtでの記載も(今でも)出来るのか、という内容です。このことについて私の見解をご回答申し上げたいと思います。

ふわふわ

回答内容として

まず私のブログでの記載に関しまして、結論から申し上げます。

もともと公式にrobots.txt内でのnoindexディレクティブはサポートされているわけではありませんでしたが、私も一旦記事で書いてしまったので、(2017年現在で今後どうなるかも分からないため)注意書きとして追記した次第です。これが正直なところでございます。

と言いますのも、Google Developersのrobots.txt仕様では、正式にサポートしている(というよりも明記している)ディレクティブは、以下3つです。

  • disallow
  • allow
  • sitemap

ですので、noindexに関しては正式にはサポートはされていないという解釈をしました。別の言い方をすれば、(たとえ今サポートされていても)いつサポートされなくなったところで文句は言えない、という解釈です。

しかし、「robots.txt ファイルに誤りがある場合や、サポートされていないディレクティブを使用した場合はどうなりますか?」という質問に関しては、以下のように記載されており、robots.txtは柔軟に読み取ってくれることも示唆しています。

ウェブクローラは高度な柔軟性を備えており、通常は、robots.txtファイルに小さい誤りがあっても影響を受けません。一般に、起こりうる最悪の事態は、正しくないまたはサポートされていないディレクティブが無視されることです。覚えておいていただきたいのは、Googleはrobots.txtファイルを解釈するときに書かれていない意図までを読み取ることはできないということです。Googleは、取得したrobots.txtファイルを解釈することしかできません。ですが実際には、robots.txtファイルに問題がある場合でも、たいていは簡単に解決できます。

引用)よくある質問|Google Developers

また、Search Engine Landでも同様のことを伝えています。

Maybe: Noindex in robots.txt
Noindex in robots.txt is not officially supported, but it may work to remove pages from the index. The problem I have with this method is that it still tells people where they shouldn’t look, and it may not work forever or with all search engines.

The reason I say this is a “maybe” is that it can work and could actually be combined with a disallow in robots.txt, unlike some other methods which don’t work if you disallow crawling (which I will talk about later in this article).

引用)Search Engine Land

「robots.txtでのnoindexは公式サポートされていませんが、機能しています。ただいつどうなるか分からないし、全ての検索エンジンに適用されるとは限らない」という主旨のことが記載されています。

ですので、確実にnoindexを行いたい場合は、やはりページ単位でmetaに入れ込む手法か、HTTPリクエストでnoindexヘッダーを返すほうが正確かな、と考えています。

100%明確な回答になっているか分かりませんが、これが現段階での私の見解となりますので、K様どうぞ宜しくお願いします。


関連記事

GSCに2つの新機能

Google Search Consoleに新しい機能が2つ追加されました。米国現地時間4月7日のSearch Central Blogにて発表されていましたので、和訳と同時に使い方をご紹介します。 Googleからの発表内容 まずは、Search Central Blogの発表内容を和訳します。お ...(続きを読む)

CWV等に関するFAQ

2021年5月のCore Web Vitalsを含んだページエクスペリエンスのアルゴリズム導入まで1ヶ月を切りました。そんな中、Googleが先日Search Console HelpにてCore Web Vitals及びページエクスペリエンスに関して、よくある質問をまとめていましたので、和訳してご ...(続きを読む)

CLSにおける改善成功事例

さて、来る2021年5月からのCore Web Vitalsを含んだページエクスペリエンスのランキングアルゴリズム導入まで残り1ヶ月を切りました。私の周りでもワチャワチャし出しているところがチラホラ...。まぁ、ページ単位での評価ですので重要なページから焦らず見直していくと良いのですが。そんな中、Y ...(続きを読む)

練習問題と数式の構造化データ

米国現地時間3月25日、Googleでは、新型コロナ禍において教育機会を逸した人々に対して、学習意欲を援助できるように新しい構造化データを設置したことをSearch Central Blogで発表しました。どうやら日本版Googleの検索結果にはまだ対応していないようですが、既に英語圏では対応してい ...(続きを読む)

コメントを書く

コメントは承認から反映までしばらく時間がかかる場合がございます。メールアドレスが公開されることはございません。