탈옥 PS5로 로컬 AI를 돌린다고? PS5LM 포크 버전의 성능과 실용성의 진실

최근 레딧과 깃허브 등 테크 커뮤니티에서는 집에 잠들어 있는 콘솔 기기를 활용해 인공지능 모델을 돌리는 이색적인 프로젝트가 큰 주목을 받고 있어요. 바로 탈옥된 PS5에서 네이티브 앱 형태로 대형언어모델(LLM)을 구동하는 PS5LM 포크 버전 이야기인데요. '설마 콘솔로 AI가 되겠어?' 하고 의문이 드실 수도 있을 거예요. 이번 글에서는 이 프로젝트가 어떤 원리로 작동하며, 실제 성능과 한계는 어떠한지 자세히 파헤쳐 볼게요.

1. CPU 페이로드에서 네이티브 GPU 가속으로의 진화

초기 홈브루 방식을 떠올려보면, 주로 CPU 페이로드를 활용하는 형태였기 때문에 메모리 사용량이 약 6 GiB 이하로 엄격하게 제한되는 치명적인 단점이 있었어요. 하지만 최근 공개된 PS5_Vulkan(RADV 그래픽 드라이버 포트) 기반의 네이티브 앱 프로젝트는 전혀 다른 방식을 취하고 있답니다.

이 방식은 PS5가 탑재하고 있는 AMD GPU와 16 GiB 통합 메모리 중 무려 약 11.4 GiB라는 상당한 용량을 직접 활용할 수 있도록 길을 열었어요. 콘솔 IP를 활용해 다른 기기에서 원격으로 OpenAI API 호환 채팅 인터페이스에 접속할 수 있고, 듀얼센스 패드로 제어하는 것도 가능해져 기술적으로 상당한 완성도를 보여주고 있죠.

2. 실제 벤치마크 성능: '100+ 토큰' 헤드라인의 진실

많은 매체들이 '초당 100토큰 이상'이라는 자극적인 헤드라인을 내걸어 호기심을 자극했는데요, 과연 실제 속도는 모델 크기별로 어떻게 나올까요? 공개된 벤치마크 결과는 다음과 같아요.

• Meta Llama 3.2 (3B 소형 모델): 초당 약 124토큰 (124 tok/s)
• Google Gemma 4 E4B: 초당 약 61토큰 (61 tok/s)
• Qwen 3.8 (27B 대형 모델): 초당 약 20토큰 (20 tok/s)

커뮤니티와 테크 매체들의 분석에 따르면, 100토큰을 넘기는 수치는 어디까지나 가벼운 소형 모델을 구동했을 때의 기준이에요. 27B 규모의 제법 쓸만한 대형 모델로 넘어가면 속도가 초당 20토큰 수준으로 떨어지기 때문에, 헤드라인만 보고 무조건 실용적인 고성능 AI 서버가 되었다고 기대하기는 아직 이른 감이 있어요.

3. 전문가 평가와 커뮤니티 반응: 놀라운 재활용인가, 실속 없는 장난감인가?

개발자들과 테크 매체들은 소니의 커스텀 AMD 하드웨어와 고속 통합 메모리 대역폭을 비게임 용도로 확장했다는 점 그 자체로 **'인상적인 테크 데모'**라고 평가하고 있어요. r/LocalLLM이나 해커뉴스 같은 커뮤니티에서도 "집에 굴러다니는 PS5로 상시 모니터링 서버를 구축해보고 싶다"며 뜨거운 반응을 보였죠.

하지만 일각에서는 신중한 시각도 만만찮아요. 전문가들은 특정 펌웨어 버전의 탈옥이 전제되어야 하고, 저비트 양자화(Low-bit Quantization) 등 기술적 타협이 필수적이라는 점을 지적하고 있어요. 범용 미니 PC나 전용 데스크톱 GPU 환경에 비춰보면 실용성이나 범용성 측면에서 아쉬울 수밖에 없다는 분석이죠. 또한, 탈옥 가능한 중고 PS5 콘솔의 시세가 영향을 받을지에 대해서도 소소한 토론이 이어지고 있는 상황이에요.

맺음말

탈옥 PS5를 활용한 로컬 LLM 구동은 콘솔 하드웨어의 숨겨진 잠재력을 극한까지 끌어낸 매력적인 홈브루 도전임에 틀림없어요. 다만 펌웨어 제약이나 저비트 퀀텀에 따른 성능 타협 등 해결해야 할 현실적인 벽도 명확합니다. 더 깊이 있는 기술 문서나 소스 코드가 궁금하시다면 GitHub - cobanov/PS5LM 공식 저장소를 방문해 직접 코드를 확인해보시는 것도 좋은 방법이 될 거예요.