こんにちは！秋ノ原窓也です！
みなさん、タイトルを見て「は？」と思われましたよね？でも、嘘は書いていません。
今からやり方をお見せしましょう。
仕組み
今回使用するものはこれです。
EXPGDCです。
これは何かというと、expresscardという、昔のパソコンにあった拡張スロットからpcie×16を取り出すことができるものです。expresscardは内部でpcie1.0もしくは2.0の×1を使用しているのでこんな荒業ができてしまいます。中華謎技術ってすごい。
こ↑こ↓から購入することができますが、怪しそうな出品者ばかりで大陸発送と思われるので購入はおすすめしません。（アフィカスリンクではないよ）
使用したもの
500円でハードオフから買ってきた青いvaioくんです。core i5 m560（後で判明しますがコアが物理的に一つ死亡しています。）にddr3 2gb*2、hdd320gbを搭載しています。
次にEXPGDC
RTX2070。大好きなギガバイトちゃん。
その他にはATX20ピン（20+4pinに分けられる電源）が使用でき、GPUに満足な電力が供給できる電源が必要です。
いざ実践
いざ実践の前になのですが、今回はrx590とgt730で試してだめだったのでやけくそでRTX2070を突うずるっ込んだ結果成功してしまったという流れです。なので、ここでは記事の長さ的なアレのため成功した部分に限ってお伝えしようと思います。
OSのインストール
検証の結果このVAIOは「EXPGDCを接続すると画面は出ないものの正常に起動する」という挙動になることが判明したので、画面がなくてもSSHして使えるubuntu serverをインストールしていきます。インストール時は画面を見るために外しておいて、インストール後にEXPGDCを接続していきます。
ここで問題が発生します。コアが物理的に一つ死んでいてカーネルパニックを起こしてしまいます。
そこで起動時にgrubが表示されたらeキーを押して編集モードに入り、”linux”と書いてある行にスペースを開けて”maxcpus=1″と記載し、ctrl+xで起動します。こうすることで死亡したコアにタスクが割り振られなくなってOSがインストールできます。
ドライバー当て
インストールが完了したらexpgdcを接続して起動します。起動には二分くらいかかることもあるので気長に待った後、SSHして操作を開始してください。このときのためにインストール時に静的ローカルIPを割り振っておきましょう。
その後はnvidiaのドライバーをインストールしてください。nvidia-smiを実行してGPUが正しく認識されれば成功です！やったね！
これができた後の机上はこんな感じ。なんか禍々しさを感じません、、、？
いざローカルLLMの実行
今回使うソフトはollamaです。llama.cppやkobold.cppは適切なオプションでビルドしてもAVX命令に対応していないと弾かれてしまいますが、ollamaは弾かれずに起動できました。
後はollama run gemma4:e2b-it-q4_K_Mを実行するだけです。
実行の様子。（62mbあります。おっそいですが動いてます。）
やってみて
なんて変態的なマシンを爆誕させてしまったんだろうな俺は、、、。こんなにアンバランスなマシンって他にないんじゃないか？あと1c1tってすっごく遅いんですね。もうそれはものすごく。一度vncからの制御を試したかったのでxubuntu-desktopをインストールしようとしましたが10分かかって半分しか終わらず。おっっっっそい。
今回のことについてなにか質問等あればぜひ書き込んでください！それでは！
コメント