爆料人Aaron Perris近日披露,苹果正开发一款名为Harbor的新Mac应用,旨在将用户的Mac设备转化为私有的AI推理服务器。

随着MacBook Neo等亲民机型的推出,以及Mac Studio、Mac mini在本地AI运行场景中的地位日益凸显,苹果正进一步深耕这一领域。Harbor的核心价值在于利用Apple Silicon芯片,在本地运行开放权重模型,确保数据始终保留在硬件端,绝不上传云端。

核心功能:Thunderbolt 5集群与极简部署

根据Perris在社交平台分享的细节,Harbor具备以下关键特性:

  • 多机内存整合:通过Thunderbolt 5连接两台或多台Mac,Harbor可将它们的统一内存整合为单一的推理资源。这不仅支持单机无法承载的大型模型,也能应对更高的并发请求。
  • 即插即用:应用能自动检测设备并组建集群,无需手动配置、命令行操作或基础设施专业知识,几分钟内即可完成设置。
  • 内置模型管理:用户可直接在应用内浏览、下载并加载开放权重模型,由Harbor接管繁琐的管理工作,让用户专注于业务本身。

目前,Harbor正处于苹果旗下Claris品牌的内部预览阶段。知情人士透露,该应用有望在未来几周或几个月内正式向公众发布。