PocketPal

PocketPal是「口袋级」离线大模型助手，把 Hugging Face 上的小型语言模型（SLM）装进手机，无需联网、零命令行，就能实现本地对话、角色扮演、多模态识图和性能基准测试，是「数据洁癖者」和「断网旅行党」的随身 AI 利器。下载、聊天、基准、识图、备份均无功能限制。没网也能跑DeepSeek、Qwen、Llama，聊天、写稿、识图、跑 benchmark 全搞定，全程零费用零上传，是目前门槛最低的移动端离线 SLM 工具 。

PocketPal怎么设置中文

1、打开 App → 点左上角「≡」三横线

2、选「Settings」→ 下滑找到「Language」

3、在弹出的列表里点「中文」→ 界面立即切换，无需重启

（若列表无中文，先把手机系统语言调成简体中文再启动 App，会自动跟随）

PocketPal怎么导入模型

A. 在线下载（最简单）

1、底部菜单 →「Models」→ 右下角「＋」

2、选「Hugging Face」→ 搜索关键词（如 deepseek、qwen2.5）

3、找带 Q4 标识的 GGUF 文件 → 点「Download」→ 完成后点「Load」即可使用

B. 本地导入（已有 GGUF）

1、把 .gguf 文件放进手机 Download 文件夹

2、Models →「＋」→「Add Local Model」→ 选中文件 → 命名 → 完成

3、返回列表点「Load」加载；加载时顶部会显示实时内存占用

PocketPal怎么删除对话

1、进入「Chat」页面 → 右上角「⋮」或「Edit」

2、出现多选框后，勾选要删除的回合 → 点「Delete」

3、若需整页清空：长按任意气泡 → 在弹出菜单选「Clear All」→ 确认后全部删除（模型不会被卸载）

PocketPal怎么训练模型

PocketPal 目前不支持真正的 LoRA / 全量微调，但可通过以下方式让模型“记住”个性：

1、系统提示词（System Prompt）

Models → 对应模型右侧→「System Prompt」→ 输入角色设定 / 知识库 → 保存后立即生效，全程对话都会遵守。

2、温度 & Top-P

同一折叠面板可调 Temperature（0.1-2.0）和 Top-P，数值越低回复越确定，适合事实问答；越高越创意。

3、持久记忆（会员实验功能）

Settings →「Persistent Memory」→ 开启后会把最近 10 条对话自动写进上下文，下次加载模型仍记得（本地存储，不上云）。

如需真正微调，请先在电脑用 llama.cpp / Axolotl 训练 GGUF，再把微调后文件按“本地导入”步骤放入手机。

PocketPal怎么自定义api

PocketPal 原生设计是“离线 GGUF”，没有开放自定义 OpenAI-Compatible API 的字段。若必须接外部服务，只能改源码或等官方后续版本。目前折中方案：

用 PocketPal 的「导出对话」→ JSON

电脑端写脚本调用任意 API → 结果写回 JSON

再导入 PocketPal 继续阅读（需手动）

官方 GitHub 已把「Custom Provider」列入 Roadmap，预计 2025-Q4 释出，届时可在 Settings →「Custom Endpoint」填写 http://ip:port/v1/chat/completions 并自定义 Header / Key。