Google 刚刚发布了 TurboQuant —— 一个革命性的新算法

Google 刚刚发布了 TurboQuant —— 一个革命性的新算法。 它的作用是：在几乎不损失质量的前提下，让大语言模型（LLM）变得更小、更快。 这意味着什么？

即使是只有 16GB 内存的 Mac Mini，现在也能在本地完整运行那些极其强大的 AI 模型了！ 而且是完全离线、免费、安全地运行。