玩转本地大模型:Ollama + Open WebUI简明使用指南

在过去的几个季度里,大语言模型(LLM)的平民化运动一直在快速发展,从最初的 Meta 发布 Llama 2 到如今,开源社区以不可阻挡之势适配、进化、落地。LLM已经从昂贵的GPU运行转变为可以在大多数消费级计算机上运行推理的应用,通称为本地大模型。

read more

当下大语言模型(LLM)应用的架构

我们的目标是让你能够自由地使用大语言模型进行实验、打造自己的应用,并挖掘那些尚未被人注意的问题领域。为此,我们特意邀请了 GitHub 的两位机器学习领域的专家——高级研究员 Alireza Goudarzi 和首席工程师 Albert Ziegler,一起探讨了当下大语言模型的前沿架构。

read more