게임기로 AI를? 탈옥된 PS5에서 대형 언어 모델 Qwen 27B가 구동된 기술적 비밀
집에서 잠자고 있던 콘솔 게임기가 갑자기 고성능 AI 서버로 변신한다면 믿으시겠어요? 최근 테크 커뮤니티를 깜짝 놀라게 한 흥미로운 실험 결과가 나왔어요. 바로 탈옥(Jailbroken)된 소니의 플레이스테이션 5(PS5)에서 270억 파라미터 규모에 달하는 대형 언어 모델(LLM) 'Qwen 27B'가 구동되었다는 소식인데요. 과연 게임기라는 하드웨어가 어떻게 거대 인공지능을 품을 수 있었는지, 그 기술적 배경과 명과 암을 함께 들여다볼게요.
탈옥된 PS5에서 거대 언어 모델이 돌아간 사연
이번 실험은 오픈소스 프로젝트인 'PS5LM'(및 포크 버전인 PS5LM Plus)을 통해 이루어졌어요. 탈옥된 PS5 콘솔 환경에서 특정 펌웨어 버전(7.00 ~ 13.60)을 대상으로 kstuff-lite, etaHEN 등의 페이로드를 활용해 작동한 것인데요.
여기서 사용된 모델은 그냥 원본이 아니에요. 메모리 용량이 제한된 콘솔 환경에 맞추기 위해 극한으로 양자화된 버전인 'Qwen3.8-27B-UD-IQ2_XXS'가 쓰였답니다. 약 2비트 수준으로 압축된 이 모델의 크기는 약 6.8GB에 불과해요. 이 모델을 PS5의 GPU(Vulkan 및 RADV 드라이버 활용)에 올려 테스트한 결과, 초당 약 20 토큰(20 tok/s)이라는 놀라운 생성 속도를 기록했다고 해요.
승리의 일등 공신, 16GB GDDR6 메모리와 대역폭
그렇다면 왜 하필 스마트폰이나 일반 미니 PC가 아니라 PS5였을까요? 그 비밀은 바로 하드웨어 구조에 숨어 있어요.
전문가들의 분석에 따르면, LLM의 토큰 생성(Inference) 속도는 고성능 연산 장치 자체의 성능보다 '메모리 대역폭'에 훨씬 크게 좌우돼요. PS5는 16GB GDDR6 통합 메모리를 탑재하고 있으며, 무려 448 GB/s에 달하는 엄청난 메모리 대역폭을 자랑하거든요. 평소 게임 구동 시에만 쓰이던 이 고성능 대역폭이 로컬 AI 구동에서도 강력한 잠재력을 발휘한 셈이에요.
여기에 그치지 않고, 네이티브 앱 포팅 방식을 적용해 기존 페이로드 방식에서는 6GB에 불과했던 가용 메모리를 무려 11.4GB까지 확장했어요. 덕분에 모델을 적재할 수 있는 충분한 작업 공간을 확보할 수 있었답니다.
테크 커뮤니티의 뜨거운 반응과 전문가 시선
이 소식이 전해지자 레딧(Reddit)을 비롯한 각종 테크 커뮤니티는 그야말로 뜨겁게 달아올랐어요. 유저들 사이에서는 '이러다 데이터센터에서 PS5를 대량으로 사들이는 것 아니냐', 'PS5 채굴이나 클러스터링의 시대가 오는 것인가'와 같은 유쾌한 농담이 오갔죠. 엑스박스(Xbox) 유저들 사이에서도 안 쓰는 콘솔로 저런 기능을 쓸 수 있다면 좋겠다는 부러움 섞인 반응이 나오기도 했어요.
물론 실용적인 목적의 AI 서버라기보다는, 테크놀로지 호기심을 한껏 충족해 주는 경이로운 '홈랩 장난감이자 기술적 성취'로 보는 시각이 지배적이에요. 기존에 생각하지 못했던 디바이스의 한계를 소프트웨어와 아이디어로 뚫어냈다는 점에서 개발자들에게 큰 영감을 주고 있어요.
화려한 속도 뒤에 숨겨진 2비트 양자화의 명과 암
초당 20 토큰이라는 속도와 27B 모델의 구동 성공 뒤에는 분명 명확한 트레이드오프가 존재해요. 전문가들은 2비트 수준이라는 극한의 양자화를 거친 만큼, 모델 본래의 추론 능력 저하나 논리적 오류(정확도 하락)가 불가피하다고 지적하고 있어요. 실제로 복잡한 질의응답이나 깊이 있는 맥락 파악 과정에서는 환각(Hallucination) 현상이나 답변 품질 저하가 나타날 수 있죠.
또한, 장시간 AI 연산 서버로 구동할 때 발생하는 콘솔의 발열이나 전력 효율성 측면에서도 일반적인 데스크톱이나 전용 AI 가속기 대비 실효성이 높다고 보기는 어려워요.
이번 PS5의 Qwen 27B 구동 실험은 비록 실무에 바로 쓰이는 상용 솔루션은 아니지만, 하드웨어의 숨겨진 대역폭 잠재력을 극한까지 끌어낸 훌륭한 기술적 도전이에요. 앞으로 또 어떤 독특한 디바이스가 로컬 LLM 구동 실험의 대상이 될지 지켜보는 것도 정말 흥미로울 것 같네요!
