在移动端直接调用本地大语言模型(LLM)曾受限于手机内存与算力,用户往往不得不依赖云端服务或臃肿的应用程序。如今,通过 LM Studio 推出的新功能,用户可在 iPhone 上以近乎零摩擦的方式,无缝访问运行在个人电脑上的高性能本地模型。

LM Link:基于 Tailscale 的加密桥梁

LM Studio v0.4.28 版本引入了名为 LM Link 的功能,旨在打通 PC 与其他设备间的模型访问壁垒。该功能基于 Tailscale 构建,提供端到端加密连接,确保 PC 不暴露于公网的同时,实现数据的安全传输。所有推理过程均在用户自有硬件上完成,数据隐私得到严格保障。

配置过程极为简便:用户在 PC 端开启 LM Link,并在 iPhone 上登录同一 LM Studio 账户,设备即可自动识别并连接。这一设置消除了传统自托管 llama.cpp 服务器时需配置 VPN 或开放路由器端口的复杂操作。

Locally App:跨网络访问本地算力

在 iOS 端,用户需下载大小为 116MB 的 Locally 应用。登录后,应用将显示已连接的 PC 及其加载的模型列表。以 Google 发布的 4-bit 量化版 Gemma 4 26B A4B 为例,该模型权重约 14.4GB,完全适配 PC 显存并支持全 GPU 卸载,确保 16K 上下文窗口下的流畅推理。

Locally 的核心优势在于其网络穿透能力。测试显示,即便 iPhone 关闭 Wi-Fi 并切换至蜂窝移动数据,仍能稳定访问卧室 PC 上运行的 Gemma 模型。这种“非同一网络环境”下的访问能力,解决了本地 AI 部署中最大的移动性痛点。

局限性与未来展望

该方案存在若干限制。首先,作为推理主机的 PC 必须保持开机且处于唤醒状态,一旦进入睡眠模式,移动端连接即中断。其次,Locally 目前仅支持 iOS 设备,Android 用户仍需依赖其他方案。此外,LM Link 当前作为预览功能免费提供,LM Studio 计划在全量发布时引入付费层级。

尽管存在上述约束,该组合工具成功将 PC 端的强大算力延伸至移动端,减少了对 ChatGPT 和 Gemini 等云服务的依赖,为注重隐私的高级用户提供了一种高效、可控的本地 AI 使用范式。