ローカルでAIを動かして元を取るまで何年かかるかがわかる「Sunk Cost」、例えばメモリ64GBのMac Studioではどれだけの時間が必要なのか？

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

PCの購入費用やAIの利用量などを基に、ローカルでAIを動かした場合に何年で元が取れるかを試算できるサイト「 Sunk Cost 」が公開されています。費用だけでなく、そのPCに収まるAIモデルや生成速度、クラウドモデルとの能力比較もまとめて確認できます。 Sunk Cost https://sunkcost.ai/ Sunk Costの画面上部には、PCの機種とチップ、メモリ容量を選ぶ欄が並んでいます。初期状態の設定は「Mac Studio」「M5 Max」「64GB」で、本体価格は3499ドル(約52万4850円)です。購入価格がサイトの設定と異なる場合は、「I paid something else」から変更可能。値引き価格や中古価格で計算することも想定されており、単に機種を比較するだけでなく、自分が実際に支払う金額に合わせて試算できます。

画面右側の「What fits」には、AIモデルがカード形式で並んでいます。GPUの利用できるメモリを48GBとした今回の構成では、39モデルのうち27モデルがメモリに収まると表示されていました。

選択されている「Qwen3.8 27B(Q4_K_M)」はコンテキスト長が約3万2000トークンの場合、必要メモリが19GB、生成速度が毎秒25トークンとなります。モデルを選ぶ際はメモリに収まるかに加えて、どの程度の速度で回答が返ってくるかも確認できます。ただし、ここで示されている速度は実測値ではなく、あくまでも推定値です。

画面左側には「You're underwater for 43.6 years.」という結果が大きく表示されています。意味するところは「PCの購入費用を回収するまで43.6年かかる」ということ。グラフの右肩上がりの線は「選択したAIをAPI経由で使用した場合の累積コスト」を示していて、API料金を43.6年払い続けるとPC購入費と同額になります。グラフは「Copy Link」で共有用URLを取得できるほか、「Download card」でグラフをPNG形式でダウンロード可能。また、「Post on X」でX(旧Twitter)に結果を共有することができます。

グラフ下に表示されている情報は以下の通り。 ・Mostly for： 主な用途を選ぶ欄で、今回の「Agentic coding」では入力と出力の比率が15:1に設定されています。コードやツールの実行結果など、多くの情報をAIに渡す使い方を想定した条件です。 ・Tokens a day： 1日に使うトークン数。APIをすでに使っている人なら、利用履歴のトークン数をここに反映すると、自分の使い方に近い比較ができます。今回は入力と出力を合わせて50万トークン。 ・Context window you want： AIが一度に扱う情報量の設定。今回の約3万2000トークンという条件では、処理済みの情報を保持するKVキャッシュが2.1GB必要と表示されています。

その下に表示されているのはコストの内訳。今回の条件では、比較対象となるQwen3.8 27BのAPI費用(API cost per month)は月6.94ドル(約1041円)。一方、ローカル実行の電気代(Electricity per month)は月0.26ドル(約39円)で、差額は月約6.68ドル(約1002円)にとどまります。この節約額で3499ドル(約52万4850円)の本体価格を回収するため、約43.6年という計算になるわけです。

費用の下には、モデルの能力を比較する「How smart is Qwen3.8 27B, really?」もあります。Qwen3.8 27Bは「Sonnet-class」と表示され、ベンチマーク上の位置付けをクラウドモデルと見比べられます。

「Your time is not free」では、回答の待ち時間も比較されています。今回の設定では、1000トークンを生成するのにローカルで40秒かかるのに対し、APIでは13秒。Sunk Costの計算では、1日の利用量に換算すると約15分の追加待ち時間が発生するとのこと。API費用を節約できても、回答待ちが長くなる可能性があることになります。

さらにその下の「How this is calculated」を展開すると、回収期間の計算式や消費電力、生成速度などの前提条件を確認できます。

なお、Sunk Costの試算は本体購入費の全額を回収対象としており、PCをほかの作業に使う価値や、将来売却した場合の金額は含めていません。また、データを外部へ送らずに処理できる利点も金額には換算されていません。

・関連記事 コスト削減のためにAIエージェントの出力を短くすると逆にコストがかさむ事例をGitHubが公開、うまくコスト効率を向上するにはどうすればいいのか - GIGAZINE AmazonでAIのコストが壊滅的なレベルでかさんで予算を860％も超過した事例が報告される、Amazonは「小規模なケースだし2億円は誤差」と反論 - GIGAZINE AIチップのコストの63％がメモリに、GPUよりメモリの方が高い時代へ - GIGAZINE AIモデルは1つに決めない方が安くて高性能、Kimi K3とFable 5の使い分けで最大50倍のコスト効率という実験結果 - GIGAZINE 大規模AIプロジェクトで「高性能な計画役＋安価な実行役」を使うとコストが約8分の1になったとCursorが報告 - GIGAZINE AIにコードを書かせまくると検査コストが爆発すると専門家が指摘、生成量を減らす考え方が重要 - GIGAZINE

You can read the machine translated English article 'Sunk Cost' tells you how many years it … .