Follow
#будущее @rf
https://github.com/ggerganov/llama.cpp даже работает сразу, теперь у меня на хинкпаде есть электрический нейропиздобол, генерирующий по два токена в секунду на проце // 7B-версия
@L29Ah хинкалипад