おちつきAIラジオ

← おちつきAIラジオ1 oct · 1 h 45 min

ローカルLLM用のPC、何を買う?RTX 3090か中古M1 MaxかDGX Sparkか(ep.109)

ローカルLLM用のPC、何を買う?RTX 3090か中古M1 MaxかDGX Sparkか(ep.109)1 oct1 h 45 min

<p>※収録日:2026/09/21</p><p>【公式切り抜きチャンネル、はじまりました】</p><p>おちつきAIラジオの公式切り抜き「おちつきAI【切り抜き】」を開設しました。1本15分前後で、本編のパートだけを切り出してお届けします。</p><p>▼Spotify</p><p><a href="https://open.spotify.com/show/1ZDi70pwl9jQaLGD9mIDPq" rel="ugc noopener noreferrer" target="_blank">https://open.spotify.com/show/1ZDi70pwl9jQaLGD9mIDPq</a></p><p>▼Apple Podcasts</p><p><a href="https://podcasts.apple.com/jp/podcast/id6814639855" rel="ugc noopener noreferrer" target="_blank">https://podcasts.apple.com/jp/podcast/id6814639855</a></p><p>こちらもフォローと「★5」のレビューで応援してください。</p><p><br /></p><p>【1周年祭のお知らせ】</p><p>初の単独イベント「おちつきAIラジオ 1周年祭 2026」を、2026年10月3日(土)に東京で開催します。</p><p><br /></p><p>▼「1年後のAI予測」投稿フォーム</p><p>イベントに来られない方も、どなたでもご参加いただけます。事前に集めた予測を当日読み上げ、2周年イベントで答え合わせをします!</p><p><a href="https://forms.gle/xzgHP9AFfMgEUXGfA" rel="ugc noopener noreferrer" target="_blank">https://forms.gle/xzgHP9AFfMgEUXGfA</a></p><p><br /></p><p>▼1周年記念Tシャツは、まだ買えます</p><p><a href="https://ochitsuki-ai.com/e/1st/tee-pod" rel="ugc noopener noreferrer" target="_blank">https://ochitsuki-ai.com/e/1st/tee-pod</a></p><p><br /></p><p>【トーク内容】</p><p>「ローカルLLM(自分のPCで動かすAI)を始めたいけど、何を買えばいいのか」。AI素人のかねりんが、現役AIエンジニアのしぶちょーに聞きます。目標は、いまローカルで定番のQwen3.8-27Bを手元で動かすこと。</p><p><br /></p><p>CPU・GPU・RAM・VRAMの違いから、モデルを軽くする「量子化」、VRAMに入りきらない分を本体側に回す「CPUオフロード」まで。そのうえで、かねりんの自作PC(RTX 3090・VRAM 24GB+RAM 128GB)、中古で人気のM1 Max、約100万円のDGX Sparkを比べます。結論は「大事なのはVRAM」と「買う前に、小さいモデルとQwenのAPIで試してみる」。</p><p><br /></p><p>後半は、電気代とマイニングの思い出、MacからWindowsへの乗り換えと水冷PC、睡眠の話、しぶちょーの近況まで。</p><p><br /></p><p><br /></p><p>【目次】</p><p>00:00:00 オープニング/今日はローカルLLMを動かすPCの話</p><p>00:06:01 本命モデルはQwen3.8-27B/脱線:R32 GT-Rの車検代</p><p>00:13:35 PCはレンタルしたい?なぜローカルで動かすのか</p><p>00:24:45 PCの基礎:CPU・GPU・RAM・VRAM。足りない分はCPUオフロード</p><p>00:38:27 かねりんのPCはRTX 3090+RAM 128GB。量子化で軽くする</p><p>00:43:51 Appleの統合メモリ:中古のM1 Maxが熱い</p><p>00:49:01 本命はDGX Spark、約100万円。AI発信者の背景には必須?</p><p>00:55:57 ローカルの電気代とマイニング/まずはLM Studioで</p><p>01:00:58 MacからWindowsへ:メモリ不足と自作PC・水冷</p><p>01:09:00 ゲームする時間がない/睡眠と健康、ショートスリーパーは本当か</p><p>01:22:48 話を戻して:まとめはVRAMが大事</p><p>01:28:00 結論:小さいモデルとQwenのAPIで試す/Qwen Code</p><p>01:33:08 しぶちょーの近況:YouTubeと登壇</p><p>01:39:21 エンディング</p><p>01:40:46 アフタートーク</p><p><br /></p><p><br /></p><p>【今回の放送回に関連するリンク】</p><p><br /></p><p><br /></p><p><br /></p><p>【今回の要チェックキーワード】</p><p>Qwen(クウェン):Alibabaが開発するAIモデルのシリーズ。手元のPCで動かせる公開版もある。今回の主役はQwen3.8-27B。</p><p>ローカルLLM:外部のサーバーではなく、自分のPCでLLMを動かす方法。オフラインで使え、データを外へ送らずに済む。</p><p>CPU:PC全体の処理を受け持つ汎用の計算装置。LLMも動かせるが、速さを求めるならGPUを使う。</p><p>GPU:似た計算を大量にまとめて速く処理する装置。LLMの計算と相性がよく、生成の速さを左右する。</