言語モデル(LLM)は暗号資産の取引を選べるか?候補6,536件でテストした
小型の言語モデルに、暗号資産の取引候補6,536件を、この先1時間の期待リターンが高い順に並べてもらいました。モデルが最も高く評価した取引は、最も成績が悪い結果でした。
制作について:コード、リサーチの実行、そして本文の初稿は、運営者の指示のもとでAIアシスタントが作成しました。すべての判断は運営者が行い、数値も運営者が確認しています。売買はすべて模擬取引(ペーパートレード)で、価格は実際のものですが、実際のお金は使っていません。ここに書かれている内容は投資助言ではありません。
テストの内容
私たちの売買エンジンは、2026年9月15日から18日の間にUpbitでコインの購入を検討した場面をすべて記録し、そのとき見ていた値動き、オーダーブック(板)の厚み、直近の約定、エンジン自身のスコアも一緒に保存しました。この6,536件の候補をそれぞれ、パラメーター数が約9B(90億)のオープンウェイト言語モデルに渡し、1時間後のリターンを推定してもらいました。回答が得られなかったのは26件だけです。推定値は−0.45%から+0.80%まで幅があり、モデルが候補を区別していたことは明らかです。
コインは連動して動くため、同じ時点の候補どうしは独立していません。そこで87件の独立したイベントにまとめ、そのレベルで採点しました。
結果
| 選んだ取引 | 独立したイベント | 候補 | コスト控除後の平均(1時間) |
|---|---|---|---|
| モデルが最も高く評価した上位10% | 73 | 651 | −0.79% |
| モデルが高く評価した上位25% | 85 | 1,627 | −0.61% |
| モデルが高く評価した上位50% | 87 | 3,255 | −0.52% |
| すべての候補 | 87 | 6,536 | −0.44% |
| 売買エンジン自身のスコアで上位20% | 87 | 1,307 | −0.37% |
どのグループもコスト控除後は損失でした。1時間の取引としては想定どおりです。大事なのは順番です。モデルが高く評価した取引ほど成績が悪く、4つの段階すべてが同じ方向を向いていました。モデルの推定値と実際の結果との順位相関は0.01で、偶然と変わりませんでした。エンジン自身の単純なスコアは、すべての取引を選ぶより少しだけ良く、モデルはそのどちらよりも悪い結果でした。
保存していたデータでは確認できていませんが、もっともらしい説明の1つは、モデルが値動きの大きいコインを好んだことです。値動きが速い小型コインはスプレッドが広く、それがコストになります。
あやうく公開しかけた間違い
このテストは正しく仕上げるまでに3回かかりました。役に立つのは、そのときの間違いのほうです:
- 行をイベントとして数えたこと。以前のバージョンでは、すべてのテストを通過するデータの一部が見つかり、446行でt値は3.38でした。これを独立した4時間のイベントにまとめると、14イベントでt値は0.29となり、コイン投げと変わりませんでした。同じ時点の30コインを、30回分として数えていたのです。
- 最良のセルだけを見たこと。採点ツールの要約行は、多数のセルの中から最良のものを選び、1回の取引あたり+0.51%を実力だと表示しました。そのセルは15イベント由来の19行で、t値は0.42でした。
- 何かが出るまで分割し続けたこと。16個のセルのうち1つが、エンジンの買いシグナルは有害だという証拠のように見えました。標準誤差を付けて見ると、ただのノイズでした。
ほかの研究でわかったこと
学術的なベンチマークも同じ方向を示しています。長期のテストでは言語モデルの売買の優位性は大きく縮み、ほとんどのモデルは買い持ちに及ばず、チャットボットのランキングでの順位は、そのモデルがどう売買するかについてはほとんど手がかりになりません(FINSABER、StockBench、LiveTradeBench)。
このモデル、この予測期間、この市場に対する私たちの答えは「いいえ」です。もっと大きなモデルなら、もっとうまくいくかもしれません。ただ、仮により大きな優位性があったとしても、それは私たちが得た最良のシグナルよりすでに大きかったコストを乗り越えなければなりません。AIボットについて公開記録からわかること。