现代科技的迷人之处往往在于探索其极限。尽管大语言模型(LLM)通常被视为依赖强大算力或稳定Linux环境的前沿技术,但科技博主Benj Edwards近日证明,真正的超级任天堂(SNES)硬件也能运行此类模型。

Edwards在社交平台分享了这一实验成果。他利用了主频为21 MHz的Super FX 2协处理器,这款芯片曾用于1995年发布的《耀西岛》等游戏,主要负责图形缩放和精灵旋转。如今,它被用来运行一个拥有220万参数的非官方类ChatGPT聊天机器人,Edwards将其命名为“ChatGPT for SNES”。

性能表现与局限性

该项目旨在测试SNES最强GPU——Super FX 2芯片运行AI的潜力。Edwards设计了项目架构,由AI代理编写代码,并利用OpenAI开源的gpt-oss-120b模型生成训练对话数据。芯片直接从卡带ROM中读取模型的8位权重,生成速度约为每秒2个token(词元),相当于每半秒输出一个单词。相比之下,标准ChatGPT模型的运行速度可达每秒80至100个以上token。

受限于硬件,该模型的主要缺点在于逻辑连贯性。它只能提供简短的解释、笑话或回答简单问题,且有时答案会显得毫无意义。例如,当被问及“什么是LLM”时,AI曾回答:“LLM是地下黑暗安静的角落。它看不见黑暗角落。”Edwards解释称,模型必须从模糊的知识库中广泛推断含义,并通过有限词汇量输出,因此会产生有趣但奇怪的内容。

在演示视频中,模型能正确回答“马里奥是谁”。该项目包含两个版本:基础版LLM,以及一个可查阅本地事实书的增强版,后者数据来源于15万篇简易英语维基百科文章。

如何体验

尽管SNES的局限性使其无法取代标准ChatGPT的用户体验,但这一实验展示了LLM极高的灵活性。用户无需闲置的老式主机或专业技术知识即可尝试。Edwards已将两个版本的聊天机器人托管于BXfoundry.com网站,用户可直接在浏览器中点击选项进行体验。