加载中...
Google 刚刚发布了 TurboQuant —— 一个革命性的新算法。 它的作用是:在几乎不损失质量的前提下,让大语言模型(LLM)变得更小、更快。 这意味着什么?
即使是只有 16GB 内存的 Mac Mini,现在也能在本地完整运行那些极其强大的 AI 模型了! 而且是完全离线、免费、安全地运行。