記事Read in English

「たぶんはい」の答えは Jev が決めている

「たぶんはい」は、毎日1つのお題を当てる言葉当てゲームです。お題は全員同じです。「食べ物ですか?」「手に持てますか?」のように自由に質問を打つと、はい・たぶんはい・どちらでもない・たぶんいいえ・いいえ の5つのどれかで答えが返ってきます。質問は20回までです。

この答えは、すべて Jev が決めています。Jev は OpenRouter から呼んでいます。2026年9月30日に日本語で始め、10月5日に英語・スペイン語・中国語・韓国語を足しました。この記事では、答えの作り方、精度、費用、うまくいかなかったことを書きます。

Jev がここで決めていること

Jev は「判断」をするモデルです。状況といくつかの問いを渡すと、数字を返します。はい・いいえの問いならその確率(Noul)、選択肢から選ぶ問いなら選んだもの(Choice)、点数の問いなら点数(Score)です。文章は書きません。

出題者に Jev を使っているのは、このためです。数字しか返さない出題者は、うっかり文章で答えを言ってしまうことも、話をそらすことも、それらしい理由をでっち上げることもありません。間違えるとしても、「どのくらい確かか」がずれるだけです。

プレイヤーの質問1つにつき、Jev を1回呼びます。渡す状況はこうです。

{
  "secret_word": "…",
  "facts_about_secret_word": "…",
  "player_question": "人より大きいですか?"
}

1回の呼び出しで、Noul の問いをまとめて聞きます。

5つの答えの作り方

「はい」の確率 p を、両端から 0.1 と 0.4 で区切ります。

はいの確率答え
0.9 以上はい
0.6〜0.9たぶんはい
0.4〜0.6どちらでもない
0.1〜0.4たぶんいいえ
0.1 以下いいえ

ただ、真ん中の幅だけでは「どちらでもない」がほとんど出ませんでした。半々のもの、場合によるもの、質問がお題に噛み合わないものを「どちらでもない」として40問用意したところ、拾えたのは4問だけです。幅を広げると、はっきり答えられる質問も同じくらい巻き込みました。

そこで2つ目の問い neither で、言い切れないかを直接聞くことにしました。これが 0.4 以上で、はいの確率がはっきりした「はい」「いいえ」でなければ、「どちらでもない」にします。これで40問のうち15問を拾えるようになりました。

次のものは、Jev を呼ぶ前に決めています。

精度

10月1日に、20語・480問で測りました。どの質問にも5段階の正しい答え(ラベル)を付けてあります。ほかに、正解の発言など100件と、答えてはいけない発言56件も使いました。

結果
ラベルと完全に一致68.1%
±1段階以内91.9%
逆側(ラベルが「たぶんいいえ」なのに「はい」など)0.0%(480問中0問)
答えがはっきりした質問(332問)で、正しい側に答えた92.8%
同じ332問で「どちらでもない」と答えた7.2%

この数字は甘めです。ラベルは1人で付けたもので、閾値も同じデータで決めました。また、このあと決まりを足していて(下に書きます)、全体は測り直していません。

事実シートは日本語のまま

お題ごとに、日本語の短い事実シートがあります。何であるか、大きさ、材料、どこにあるか、といったことが書いてあります。これを状況に入れて渡すと、Jev はそれを読んで、英語・スペイン語・中国語・韓国語の質問にも答えます。シートは訳していません。訳したのはお題の名前だけで、「Is it a cat?」のような当てる発言を照合するためです。

ほかの言語を出す前に、新幹線と猫の2語で、それぞれの言語の質問を26問試しました。期待どおりに答えたのは25問でした。

事実シートは効きます。同じ測定で、はいの確率だけで答える方式は、シートありで完全一致 72.5%、シートなしで 61.5% でした(閾値はそれぞれに合わせています)。

費用

質問1つあたり 約 $0.00018 です(10月20日の実際の請求)。上の問いをまとめた、Jev の呼び出し1回ぶんで、入力が約4,200トークン、出力が139トークンです。10月1日には $0.00007 でした。指示に決まりを書き足すたびに、入力が長くなったためです。同じお題への同じ質問は、Jev を呼ばずに、前に出した答えを使い回します。ある1日の実際の質問276問では、22.8% が使い回しでした。

うまくいかなかったこと

「電車ですか?」 第4回のお題は新幹線でした。「電車ですか?」には正しく「はい」と答えたのですが、プレイヤーはそれで当てたと思いました。見た20人のうち5人が、この「はい」の直後に遊ぶのをやめています。「わかって答えを入れたのに反応しなくて泣いた」という投稿もありました。いまは、名前を挙げた質問に「はい」「たぶんはい」と答えたとき、「電車」は答えではありません。 と小さく添えています。これは文字の照合だけで決めていて、Jev には聞いていません。

「触れますか?」 エアコンのお題で「どちらでもない」になりました。エアコンはふだん触らないからだと思います。序盤によく聞かれる質問なので、ここがずれると、そのあとの答えが全部プレイヤーを違う方向に連れていきます。yes の問いの指示に、「形のある物は、どんなに大きくても、高い所にあっても、ふだん触らなくても『触れる』」という決まりを書き足しました。

「体重ですか?」 猫のお題で、別のものの名前を挙げた質問(「体重ですか?」「自分ですか?」「時間ですか?」)が「どちらでもない」になりました。ふつうに「いいえ」でよい質問です。問い other_thing を足して、これが 0.4 以上で、はいの確率が 0.7 以下なら「いいえ」にしました。

大きさと材料。 「冷蔵庫より大きいですか?」「木でできていますか?」のような質問は、はいの確率の向きは合っているのに、neither も高く出て「どちらでもない」に落ちていました。この種の質問だけ、neither の閾値を 0.8 に上げて、はいの確率で答えるようにしました。

プレイヤーが答えに文句を言える

10月14日から、答えに文句を言えるようにしました。毎日のお題を遊び終えたら、自分の質問を1つ選び、正しいと思う答え(いまの答え以外の4つ)と、ひとことを送れます。送れるのは、日本語の画面でログインしている人だけです。誰でも送れるようにしていたときは、質問の意味からずれた文句が多かったためです。

文句は、そのお題の事実シートと、いまの決まりで聞き直した答えを並べて見直します。1件ずつ見ているのは、この遊びを一緒に作っている Claude(コードを書く AI)で、解釈が分かれるものは私が決めます。文句が採用された人は +1、不採用だった人は −2 のスコアが付き、スコアの高い人の文句から先に見ます。

採用した文句は、そのお題・その質問の答えとして登録します。Jev に聞く前にこれを見るので、使い回しの答えを消しても変わりません。言い方の違う同じ質問にも効くように、事実シートも直すことが多いです。最初の1週間(10月14〜19日)は、42件のうち28件を採用しました。たとえば、こんなものです。

文句からは、プレイヤーがどこで読み違えるかも分かりました。「〜ですか?」は、それそのものが〜かを聞いています。〜に関係があるかではありません。すべり台なら、「公園ですか?」は いいえ、「公園に関係ありますか?」は はい です。いまは、文句を送る画面にこのことを書いています。

限界

答えは Jev の確率と事実シートの書き方で決まるので、ずれるものもあります。人によって答えが分かれる質問や、事実シートに書いていないことを聞かれた質問ほど、ずれやすくなります。文句で拾えるのは、そのうち、誰かがわざわざ送ってくれたものだけです。

今日のお題で遊ぶ(ログインなしで遊べます)