AIクローラーのユーザーエージェントチェッカー

アクセスログのユーザーエージェントから、AIクローラーを判定します。判定はブラウザの中で行い、新規登録は不要です。

ユーザーエージェントの文字列は、ブラウザやボットの名前を示します(例:Mozilla/5.0 (compatible; GPTBot/1.2…))。サーバー、ホスティング、CDNのアクセスログのUser-Agent欄にあります。欄の値をすべて貼り付けてください。判定はブラウザの中で行い、文字列はどこにも送信しません。

このチェッカーにユーザーエージェントの文字列を貼り付けると、既知のトークン、その運営者と用途を確認できます。

元のリクエストの欄から始める

信頼できるサーバーやエッジのログから、User-Agentの値をコピーしてください。IPアドレスやCookieなどを含むログの行全体ではなく、その欄だけを貼り付けます。判定はすべてブラウザの中で行います。貼り付けた文字列を、SearchSealや他のサービスに送信することはありません。

一致すると、クローラーのトークン、運営者、用途、確認方法を表示します。チェッカーはトークンの区切りを認識します。URLの中だけに現れるトークン名は無視します。複数の名前が見つかった場合は、ひとつに決めずにそれぞれを表示します。元のリクエストを調べるときの材料にしてください。

ルールを決める前に用途を理解する

検索インデックスへの登録、学習、ユーザーの依頼による取得は、それぞれ別の活動です。検索インデックスを作るクローラーと、誰かが質問したあとにページを取得するクライアントでは、目的が違います。許可するか制限するかを決める前に、結果に表示される用途を読んでください。

参照情報は14のトークンを対象にしています。OpenAI、Anthropic、PerplexityのAIクローラーに加えて、Google-Extended、Applebot-Extended、Common Crawl、ByteDance、Meta、Amazonの項目があります。運営者の最新の案内を確認できなかった項目では、正確なポリシーや確認方法を決めつけません。確認できなかったことを、そのまま表示します。

信頼できるネットワークの記録で確認する

ユーザーエージェントの文字列は、クライアントが名乗っている名前にすぎません。他人がコピーして使うこともできます。リクエストを確認するには、信頼できるエッジやサーバーが記録した送信元のIPアドレスを使います。それを、運営者が公開している最新の方法と照合してください。多くの運営者がIPアドレスの範囲を公開しています。逆引きDNSによる確認方法を説明している運営者もあります。

逆引きDNSを使う方法では、送信元のアドレスをホスト名に変換し、許可されたドメインの末尾と完全に一致するかを確認します。さらに、そのホスト名を正引きして、元のアドレスに戻ることを確かめます。運営者の手順は、最後まで守ってください。このチェッカーが返すテキストだけを根拠に、ファイアウォールに広い例外を作らないでください。

制御トークンと不明な文字列を見分ける

Google-ExtendedとApplebot-Extendedは、robots.txtでコンテンツの特定の使われ方を制御するトークンです。独立したHTTPクローラーの名前ではありません。どちらかを貼り付けると、結果でその違いを説明します。実際に届くリクエストについては、運営者の案内を示します。

「不明」という結果は、文字列がこの参照情報のどれにも一致しなかったという意味です。調べている間は、不明のまま扱ってください。ログが途中で切れていないか、欄をすべてコピーしたかを確認します。文字列のほかの部分によく知られたブラウザの名前があっても、どのサービスがリクエストしたかの証明にはなりません。

文字列全体ではなく、トークンだけを貼り付けてもよいですか

はい。OAI-SearchBotのようなトークンだけでも、その参照情報を開けます。実際のリクエストを調べるときは、欄の値をすべて使ってください。バージョン情報が残り、複数の名前が一緒に含まれているかも分かるからです。チェッカーは、特定のバージョン番号に頼らずに名前を照合します。名前が似ていても関係のない文字列は、区別して扱います。

判定した名前とリクエストされたページを結びつける

名前を確認できたら、パス、リクエストの時刻、HTTPステータスを見ます。これらから、クライアントが何を求め、サイトがどう応答したかが分かります。後から別の人が分類の理由を理解できるよう、確認方法もその記録と一緒に残してください。

同じパスに対して公開されているルールは、robots.txtのAIクローラーチェッカーで確認できます。ログをより広く調べる方法は、クローラーのリクエストを確認するガイド(英語)で説明しています。AIの回答が自社について何と言っているかを知りたい場合は、AIブランドモニタリング(英語)をご覧ください。こちらはリクエストのログではなく、保存した回答を根拠にしています。

AIクローラーのユーザーエージェントチェッカー | SearchSeal