过去我常认为迷你电脑并非理想选择，但如今观点已变。相比购置一台昂贵的台式机，购买三台廉价迷你电脑或许是更优解。
本地AI已成为一项极其烧钱的爱好。显卡、内存和固态硬盘价格高企，显存更是主要瓶颈。而购买便宜的迷你电脑，正是克服这些障碍、尝试本地AI的有效途径。
运行大语言模型无需昂贵独显
提及本地AI，人们往往联想到价格虚高的独立显卡。目前RTX 5080售价超2000美元，RTX 5090标价更高达7000至10000美元。虽然高端显卡功耗大、显存占用高，但家庭部署成本其实远低于数据中心级别的传统AI形象，迷你电脑便是体验这一领域的绝佳入口。
在入门方案中，一台配备Ryzen 7处理器、集成Radeon显卡及16GB或32GB内存的迷你电脑（如GEEKOM近期测试机型），无需独立显卡即可运行较小的大语言模型。Intel平台机型亦然。根据可用内存大小，这类设备可流畅运行参数量为3B、4B甚至8B的量化模型。
诚然，迷你电脑无法提供RTX 5090级别的性能，大型模型运行速度可能较慢。但对于初次涉足本地AI的用户而言，其表现已足够出色。
统一内存缓解显存焦虑
显存不足是本地AI用户面临的主要硬件痛点。若模型无法装入专用显存，即便拥有强大GPU也无济于事。此时，迷你电脑的架构优势便显现出来。
大多数迷你电脑使用共享系统内存的集成显卡，部分高端型号更进一步。以搭载AMD Ryzen AI Max+ 395芯片的机型为例，其最高可提供128GB统一内存，其中多达96GB可分配给GPU使用。这足以加载一些无法装入RTX 5080仅16GB显存的重度量化模型。尽管这类迷你电脑价格不菲，且运行速度不及独立显卡，但对于希望尝试更大规模LLM的用户，仍值得考虑。
本地AI部署比想象更简单
若非机器学习专家，你可能担心本地运行AI涉及Python、晦涩依赖项及繁琐的故障排除。但实际体验已大幅简化。LM Studio和Ollama等工具让非专业人士也能轻松下载和运行大语言模型。LM Studio尤其对新手友好，其图形界面支持浏览、下载适配硬件的模型并直接对话。
你甚至无需独立显卡，小型模型可直接在CPU上运行。建议从小型量化模型入手，确认设备胜任后再逐步提升负载。迷你电脑即插即用的特性，使得启动设置步骤极少，极大降低了上手难度。
打造全屋私有AI服务器
迷你电脑的另一大优势在于“共享”属性。你可以将其改造为小型家庭服务器，作为本地AI的完美应用场景。与其在每台计算机上单独运行LLM，不如在迷你电脑上部署Ollama或LM Studio，并将其设为家庭网络中的访问节点。
配置好本地服务器并连接同一网络后，台式电脑、笔记本电脑乃至智能手机均可接入同一个AI模型。配合Open WebUI等工具，还能获得熟悉的聊天机器人界面体验。
低成本入门，未来可期
不要指望一台300美元的迷你电脑成为终极AI工作站，便宜自有其道理。但它能让你以远低于预期的预算进入本地AI领域。日后，你完全可以根据需求搭建更强大、专业的AI工作站。尽管硬件价格改善的希望渺茫，但低成本入门的方案依然值得期待。