Una PlayStation 5 con jailbreak può ora eseguire modelli linguistici in locale sfruttando la GPU, con risultati che fino a due settimane fa sembravano fuori portata per una console. Il merito è di PS5LM Plus , un fork pubblicato su GitHub dallo sviluppatore abhi245y e annunciato su Reddit, costruito sopra PS5LM, il porting di llama.cpp firmato da Mert Cobanov. La differenza è sostanziale: il progetto originale girava sulla CPU Zen 2 della macchina, mentre il fork trasforma il software in un’applicazione nativa che accede alla memoria e all’acceleratore grafico, aprendo la strada a modelli da decine di miliardi di parametri. Cobanov aveva pubblicato la sua versione il 1° ottobre, pochi giorni dopo la diffusione dell’exploit che sblocca la console. « La PS5 è stata jailbroken qualche giorno fa, così ci ho portato llama.cpp», aveva scritto l’autore, aggiungendo che il passo successivo sarebbe stato proprio la GPU. Quella prima release funziona come payload , cioè codice iniettato nel sistema accanto all’interfaccia e ai servizi di bordo: una soluzione rapida, però limitata a circa 6 GiB di memoria e a poco più di 1,6 GB di modello tenuto in RAM, pena il blocco della schermata principale. Il catalogo si fermava quindi a Qwen3.5 0.8B (13-21 token al secondo) e Qwen3.5 2B (circa 9). Registrandosi invece come vera e propria applicazione, PS5LM Plus ottiene i 12 GiB di memoria diretta della console e un heap unificato da 11,44 GiB, con llama-server appoggiato al backend Vulkan di ggm

🇬🇧 Summary in English

Una PlayStation 5 con jailbreak può ora eseguire modelli linguistici in locale sfruttando la GPU, con risultati che fino a due settimane fa sembravano fuori portata per una console. Il merito è di PS5LM Plus , un fork pubblicato su GitHub dallo sviluppatore abhi245y e annunciato su Reddit, costruito sopra PS5LM, il porting di llama.cpp firmato da Mert Cobanov. La differenza è sostanziale: il progetto originale girava sulla CPU Zen 2 della macchina, mentre il fork trasforma il software in un’applicazione nativa che accede alla memoria e all’acceleratore grafico, aprendo la strada a modelli da decine di miliardi di parametri. Cobanov aveva pubblicato la sua versione il 1° ottobre, pochi giorni dopo la diffusione dell’exploit che sblocca la console. « La PS5 è stata jailbroken qualche giorno fa, così ci ho portato llama.cpp», aveva scritto l’autore, aggiungendo che il passo successivo sarebbe stato proprio la GPU. Quella prima release funziona come payload , cioè codice iniettato nel sistema accanto all’interfaccia e ai servizi di bordo: una soluzione rapida, però limitata a circa 6 GiB di memoria e a poco più di 1,6 GB di modello tenuto in RAM, pena il blocco della schermata principale. Il catalogo si fermava quindi a Qwen3.5 0.8B (13-21 token al secondo) e Qwen3.5 2B (circa 9). Registrandosi invece come vera e propria applicazione, PS5LM Plus ottiene i 12 GiB di memoria diretta della console e un heap unificato da 11,44 GiB, con llama-server appoggiato al backend Vulkan di ggm

Leggi l’articolo originale su Tom’s Hardware IT →

Fonte: Tom’s Hardware IT | Argomento: Tech News

#tecnologia #innovazione #technews