【計算リソースが枯渇?】密かにクソ化するChatGPT

Share
【計算リソースが枯渇?】密かにクソ化するChatGPT
Photo by Zulfugar Karimov / Unsplash

最近のChatGPTには不信感が募る。つい先月ごろから、WebやAndroid、そしてiOSでもデフォルトモデルがGPT6に戻される不具合が続出していたからだ。

私は回答の質的に旧モデルのGPT5.6を気に入っており、思考努力をHighにして常用していた。しかし最近は設定をいちいち開かない限り、モデルを切り替えることが出来なくなっていた。

こうしたバグは直ぐに修正されそうなものだが、何と数週間に渡り、この不具合?は残り続けた。そしてWebでは、未だ元に戻っていない。

GPT-6から戻せない

ここ最近はずっと、新規チャットを開くたびにGPT-6のMeduimが選択される。手動でその都度GPT-5.6のHighに戻す羽目になるので、これは非常に手間だ。(Geminiがいつぞや似た仕様になっていたが、GPTも追従した様だ)

解決策としては下記スレッドで挙げられていた2つ目のスクリプトをTampermonkeyにコピペし、手動で一度GPT-5.6を指定するだけで改善した。

ChatGPT sometimes switches to Medium despite manually selecting GPT-5.6 Sol High
@gush I tried a different approach to the same issue. Instead of intercepting fetch and rewriting the conversation payload, this recommits the model already selected by the new composer through its existing onModelChange() handler. It relies on ChatGPT’s internal React Fiber structure, so it may break after frontend changes. It also fails the PATCH /settings/user_last_used_model_config eligibility check, but nevertheless fixes the regression. ▶ userscript

また、表示上は5.6でも中身は6のまま、というパターンもあるらしい。最近は手動で5.6を選択しても途中で何故かバカになる挙動が観測されていたが、これが原因だとは思いもしなかった。

Claudeは秘かにナーフ

似たパターンとして、Claudeの品質劣化疑惑がある。モデルのリリース直後は高性能だが、1週間ほど経ち皆が有料プランに乗り換えた頃合いで、性能を意図的に劣化させて資源を節約している、という疑いの声が挙がっていたのだ。

GitHub - ninjahawk/livenerf: Benchmark for tracking model capability after release.
Benchmark for tracking model capability after release. - ninjahawk/livenerf

ClaudeOpus5.5のナーフベンチ(非公式)

しかし、実際に私がOpus5.5を使ってみた印象だと、特に性能面での劣化は感じなかった。どうやら、ナーフには何らかの条件があるらしい。

ただし、こうした”説明も無しに意図的に性能を劣化させる行為”が事実だとしたら、到底許されるものでは無いだろう。

目的は計算資源の節約か

これらの目的は一体何なのか。私が思うに、それはただ一つ。「コストの節約」だ。

約3000円と言う月額費用で見た場合、実際に使える計算資源の量としては、Claudeに比べてGPTが圧倒的に多い。その理由は、GPTのチャットにある。

GPTの利用枠はCodex用とChat用で分かれているのだが、ClaudeはCodeやCoworkと共通だ。なので、平等に利用枠分、モデルへのアクセス権を買っている計算になる。

GPTにもCodex枠の方には厳しい制限があるが、Chatにはこれが存在しない。以前は約3000回/週などの制限が存在したが、現在は消去されている​。

中程度、高、超高を手動で選ぶと、GPT-6 を選択している場合は GPT-6 Sol が、GPT-5.6 を明示的に選択している場合は GPT-5.6 Sol が使われます。思考モードの利用上限に達すると、ChatGPT は利用可能な別のモデルで続行する場合があります。 (出典:https://help.openai.com/ja-jp/articles/20001354-gpt-6-and-other-models-in-chatgpt)

一応思考モードの利用制限は存在する様だが、私が思考努力Highで十何往復の会話を繰り返す限りでは、今のところ目にしたことは無い。

Opus-5.5で同じことをやると、30分で5時間枠の半分を食い潰してしまった。ここから見る限りでは、GPT-Plusは相当に太っ腹なサブスクと言えるだろう。(API換算だと膨大な額になるはず)

こうして見ると、OpenAIが何とかして多数のライトユーザーから計算資源を回収しようとする行動自体は理解できる。事実、巨額の赤字を垂れ流している訳だ。

しかし、設定をUIの奥深くに隠すくらいならまだしも、外部スクリプトを用いないと品質が劣化する、というレベルは流石に不誠実ではないだろうか。

とはいえ、いずれは皆が正当な対価を払ってAIを使う世界が来るはずだ。計算資源の効率化が先か、AIバブル崩壊が先かは分からないが、月3000円で超知能を使い倒せる今、それを最大限利用してAIスキルを身に着けた方が得なのは間違いないだろう。

Read more

【月3000円】AI課金を知的インフラとして考える

【月3000円】AI課金を知的インフラとして考える

私はChatGPT-Plusを使っている。最初に契約したのが去年の秋だから、もう1年になる。それ以前からチャッピーは使っていたが、有料版にしてからの進化には心底驚かされた。 これまで使っていた頭脳が馬鹿らしく思えるほどの進化だったからだ。例えるなら、頭の良い小学生と話していたのが、急に教授レベルに変わったようなものである。 知っている知識としては完全に私を超え、そしてそれを使いこなす知力も、私を到底上回るレベルであると直感的に悟った。ここが、私がAIに敗北したポイントだったように思う。 3000円を何に払うか そして最近、またまたGPTからの乗り換えの波がやってきた。この波は半年ごと位に訪れる。流石に鶏では無いので以前のことを数日で忘れたりはしないのだが、数か月となると話は別だ。 前々に結論に至り、その過程を日記に事細かに書き記していたのにも関わらず、再び同じことを考え、それを読んだAIに前も同じことを考えてましたよ、と諭される日々。これは少々、気まずい。人間のプライドとして。 であるならば、ここに書き残しておこうと思った。主に、AIにどのように課金すべきか、と言った話だ

By やさかめ
【月440円】povo2.0+IIJmioデータeSIMのデュアルは最凶だ

【月440円】povo2.0+IIJmioデータeSIMのデュアルは最凶だ

私はMVNOを使っている。昔はスマホに3000円前後払うのが普通だと思っていたが、Povo1.0の登場で20GB使えるのにお値段変わらず、と言うのに衝撃を受けたのだ。そして、残念ながら私は通信料をほぼ使わないので、Povoからは早々に離脱した。 そしてどこに移ったのかと言うと、IIJである。データesimという電話番号が無い契約形態があり、それを使うと月440円(2GB)でドコモ網の通信を使うことが出来るのだ。 とはいえ、競合は多くある。なぜこのプランの組み合わせが私には合っていたのか。それを今一度考えてみたい。 月440円で冗長性を確保 まず、冗長性である。丁度これに変えたタイミングで、auで大規模な通信障害が発生した。無論au系のPovoも影響を受け、一切通信ができなくなった。これには非常に困り、1社に頼ることの不甲斐なさを嚙み締めさせられた。 対して、IIJはdocomoである。山中で使うことが多い私にとっては、山に強いドコモ、が440円で手に入るのはお得に見えた。 日本通信には繰り越しが無い 競合になるのは、日本通信だろう。最近知ったが、合理的プランというやつ

By やさかめ
【過去問4割】応用情報技術者・午前をダメ元で受けたら何故か合格した

【過去問4割】応用情報技術者・午前をダメ元で受けたら何故か合格した

いわゆる難関資格ではあるはずの、応用情報技術者試験に午前のみ、合格してしまった。みっちり勉強をしていったのなら未だしも、ほぼ手抜きで過去問も4割が最高だったのに、だ。 なぜ今回、62.5点というギリギリで合格できたのか。当の本人が最も驚いているが、ただあったことを事実として残しておく。 基本情報は取得済み まず、私は基本情報技術者は取得済みだ。いわゆるルーキーが2週間勉強して取得しました!という豪傑とは違う。ITの素養は多少ある、とされる側だろう。とはいえ、FEは午前免除で午後は猛特訓した。血反吐を吐きながらアルゴリズムと格闘したのだ。 私はアルゴリズムが嫌いである。コーディングも大嫌いである。何が楽しいのかさっぱり、一ミリも理解できない。コードを作ることよりも、動いているコードが壊れて、それを直す時の方が何倍も楽しい。 日々の情報収集が役立つ 応用情報は午前試験のみだと、割といろいろな分野から出る。特定の分野が良く出たよ!というとアウトと受験前の説明に書いてあったので、それだけしか言えない。しかし、ほんとに幅広く、それこそここから出るのか?というような場所からも出てい

By やさかめ
【軽量コンパクト】Pixel 5の乗り換え先を真剣に考えたらGalaxy S23になった

【軽量コンパクト】Pixel 5の乗り換え先を真剣に考えたらGalaxy S23になった

以前からPixel 5の乗り換え先を探している。セキュリティアップデートが切れているのが、この情報漏洩時代には怖くなったためだ。就職を機に、せめてOSアップデートがまともなスマホに乗り換えたい、と思うようになった。 しかし、今は金欠である。ホイホイと最新のiPhoneやGalaxy、そしてPixelを買える状態ではない。ではどうするか。勿論、中古市場である。偉大なメルカリには、多数の中古スマホが転がっている。 この中からどれを選ぶか。かなりの苦労の末にPixel 5に辿り着いたので、その後継を選ぶのは並大抵ではない。 【軽量・コンパクト・大画面】Pixel5がスマホの完成形である理由私はPixel5をもう数年使っている。発売日は2020年末だから、もう6年も前のスマホだ。2020年に6年前のスマホというと、iPhone5sとかになるから、如何にスマホが習熟期に入ったのかが良く分かる。 Pixel5でも、日常の業務には何の不満も無い。GoogleMapもサクサク動くし、検索結果も素早く表示される。スクロールがガクガクしたり、検索に待たされたりするローエンドスマホの時代は、もう終わっ

By やさかめ