147の名前が現れ、28が残った。AIの言及の大半は「席」ではなく「通過」である
同一の質問を3回、5業種、2エンジンで実行。言及された名前の3つに2つは一度しか現れない。しかも言及の価値はエンジン次第 - Perplexityでは2回に1回、Geminiでは20回に1回しか席にならない。
19 %
言及された名前のうち3回の実行すべてに残った割合 - 147中28
短い答え:AIに言及されることと、そこに席を持つことは別物であり、その差は測定できる。 同じ質問を3回連続で、5業種、2言語、2エンジンに投げた。少なくとも1回現れた企業名は147。3回すべてに現れたのは28だけ。98 - 3つに2つ - は一度きりの登場だった。席ではなく、通過である。
5件
クリーニング後の推薦リストの中央値の長さ
2回に1回 vs 20回に1回
言及が安定した席である確率 - Perplexity対Gemini
3回の実行で現れた147の名前のうち、残ったのは28。一度きりだった98は席ではなかった。通過である。
何を測ったか
8月23日以来すべての測定で使ってきた同じ基準の質問 -「最良のXはどれか」- を、3回連続でまったく同一に、世界共通の5業種、英語とフランス語で、PerplexityとGeminiに投げた。依頼した実行は60、APIエラーが9、利用可能は51。収集は8月29日の夜。
業種・言語・エンジンの各組み合わせについて3つを数える。和集合(一度でも現れた全名前)、核(3回すべてに現れた名前)、尾(一度きりの名前)。核だけが積み上げの土台になるリストであり、尾はどんな最適化も狙えない偶然である。
生の数と除去後の数を両方公開する。 我々の抽出器はいまだに企業名でない断片を通してしまい、断片一つごとに架空の席が生まれる。クリーニング後、回答の中央値は5件(生では8件)- Perplexityで7、Geminiで4、英語で5、フランス語で4。
片方のエンジンは核を作り、もう片方はほぼ作らない
| 組み合わせ | 現れた名前 | 核 | 核の割合 |
|---|---|---|---|
| ホテル予約(en) - Perplexity | 8 | 8 | 100 % |
| 決済(en) - Perplexity | 8 | 7 | 88 % |
| 決済(fr) - Perplexity | 9 | 4 | 44 % |
| CRM(en) - Perplexity | 9 | 3 | 33 % |
| ホテル予約(en) - Gemini | 13 | 2 | 15 % |
| CRM(en) - Gemini | 13 | 1 | 8 % |
| 決済(en) - Gemini | 14 | 0 | 0 % |
| ホスティング(en) - Gemini | 12 | 0 | 0 % |
同じ業種、同じ言語、同じ日。ホテル予約のPerplexityは8件の同じリストを3回返した - 核は100 %。決済のGeminiは3回で14の名前を出しながら、一つも持ち越さなかった。
両エンジンが回答した7つの組み合わせで数えると、差は歴然である。Perplexityでは現れた47のうち23が3回すべてに残る - 2つに1つ。Geminiでは65のうち3 - 20に1つ。「Geminiでの言及」と「Perplexityでの言及」は同じ通貨ではない。それを断りなく合算するスコアは、金貨と代用コインを混ぜている。
中央値の組み合わせには核がまったくない
この測定で最も厳しい数字は平均ではない。組み合わせごとの核の中央値はゼロである。業種・言語・エンジンの組み合わせを無作為に選べば、最もありそうな結果は、そこで3回残る名前が一つもないことだ。その間に5つの名前が一度だけ通過して消えていく。火曜日に「AIに推薦された」ことは、水曜日についてほぼ何も語らない。
収集の失敗3件はすべてPerplexity側に集中している。
フランス語のホテル予約と両言語のホスティングにはPerplexityの実行が一つもない(APIレート制限)。エンジン対決は両者が回答した7つの組み合わせでのみ読める - 「2回に1回」と「20回に1回」はそこから出た数字である。
ランニングシューズ業種の失敗は我々自身のものである。
ノイズ除去フィルタは数字を含むラベルを弾く - だがモデル名は「Pegasus 41」や「Clifton 10」である。この業種のリストはクリーニング後ほぼ空になる。空にしたのはフィルタであってエンジンではない。黙って外す代わりに、そのまま公開する。
3回の実行、一晩、2エンジン。標本であり、全数調査ではない。
核と尾を分けるには3回で足りるが、名前の入れ替わりの速さを測るには足りない。次の夜や翌週が同じ比率になる保証もない。
ここから何ができるか
リストではなく核を狙う。
3回のうち1回だけ現れた名前は「AIに席がある」のではない。1回の実行を通過しただけだ。言及を喜ぶ前に、それが戻ってくるかを問うこと。
必ずどのエンジンかを尋ねる。
同じ一文 -「あなたは言及されています」- が、Perplexityでは50 %安定の位置を、Geminiでは5 %の抽選を意味する。エンジン名のない報告は何も伝えていない。
同一条件で、時間をおいて測り直す。
席と通過を見分ける方法はそれしかない - 1回きりの実行には構造上それができない。我々のモニタリングが3日ごとに同じ質問を繰り返すのは、まさにそのためである。