ShinkaMan

R1-1776 4bit MLXをM3 Ultra 512GBで試す (Perplexityが提供するDeepSeek-R1 671Bの無検閲版) 約20 token/sも出た Unsloth 2.51bit も良かったけど、結局こっちがローカルモデルの決定版って感じなのかな