秒間124トークンを達成!脱獄したPS5がローカルAIマシンへと変貌を遂げた技術的背景と実力
ゲーム機としてお馴染みのPlayStation 5(PS5)ですが、なんとジェイルブレイク(脱獄)環境下において、ローカルAIモデルを高速で動作させることに成功したというニュースが飛び込んできました。単なるお遊びの域を超え、秒間100トークンを超える処理速度を叩き出しているということで、テクノロジー愛好家の間で大きな注目を集めています。
今回は、この驚きの技術的進展の裏側にある仕組みや、実際のパフォーマンス、そしてコミュニティが指摘する実用上の限界について詳しく見ていきましょう。
PS5LMのフォーク版が生んだ「GPUネイティブ化」の衝撃
今回のブレイクスルーの立役者となったのは、Redditユーザー(u/AdIllustrious7246)による、「PS5LM」(Mert Cobanov氏によるPS5向けllama.cppポート)のフォーク版です。従来のCPUペイロード方式では、利用可能なRAMが約6GBに制限されていました。しかし、今回のネイティブアプリケーション化により、それが約11.4GBへと大幅に拡張されました。
さらに重要なのが、PS5の強力なハードウェアを直接叩く「GPUアクセラレーション」の導入です。「PS5_Vulkan」(RADVグラフィックスドライバーのポート)を活用することで、普段は厳重にロックされているAMD製のカスタムGPUに命令を送り、CPUと処理を分散・分担させることに成功しました。これにより、CPUを事実上ハイジャックし、GPUや大容量メモリへのフルアクセスを実現しています。
驚異的なトークン処理速度:実際のパフォーマンスは?
気になる処理速度ですが、テスト環境において以下のような驚きの数字が記録されています。
- Llama 3.2 3B: 秒間 約124トークン
- Gemma 4 E4B: 秒間 約61トークン
- Qwen 3.8-27B: 秒間 約20トークン
軽量なモデルであれば秒間124トークンという、実用上も十分すぎるほどの高速応答を達成しています。さらに、ネットワーク上の他のデバイスからリモートでこれらのLLMとチャットできる機能まで備わっており、さながら「自前のAIサーバー」のような挙動を見せています。
専門家とコミュニティの視点:革新的なデモか、実用的な選択肢か
ハードウェア専門メディアや開発者の間では、PS5が持つ16GBのGDDR6メモリと448 GB/sという圧倒的なメモリ帯域幅が、ローカルAIの実行基盤として非常に高いポテンシャルを秘めていると高く評価されています。
一方で、コミュニティの反応は称賛一色というわけではありません。冷静な視点として、以下のような課題や意見も挙がっています。
- 非公式ドライバーへの依存: GPUが完全にオープン化されているわけではないため、非公式なグラフィックスドライバーのバイパスや、低ビット量子化(2-bitなど)に頼らざるを得ない制約があります。
- コストパフォーマンスの疑問: 「2-bit量子化のモデルは実用性が低い」「同等の投資や手間を考えるなら、素直にRyzenのミニPCを買ったほうが高性能で確実だ」という冷ややかな声も存在します。
また、こうしたハックの進展によって、脱獄可能なファームウェアを搭載した中古PS5の市場価格にどのような影響が出るのか、別の意味で注目を集めているのも事実です。
まとめ
今回のPS5におけるローカルAI実行は、眠っているハードウェアの限界をホームブリューの力で引き出した、技術的に極めてエキサイティングな試みだと言えます。本格的なAIサーバーとして日常的に運用するには、量子化の壁や非公式環境ならではのハードルがあるものの、コンソール機の新たな可能性を示すマイルストーンになったことは間違いありません。
今後のオープンソースプロジェクトのさらなるアップデートや、ホームブリューシーンの動向から目が離せませんね。