gharasathi：一台Mac Studio打造的家庭本地AI

什么是 gharasathi？

gharasathi（马拉地语意为"为了家"）是一个完全运行在家庭内部的AI系统。它把金钱、照片和文档整合在一起，帮助家庭做出更好的决策，同时不把数据发送到任何人的云端。

这个项目基于一个核心信念：家庭数据应该留在家里。推理运行在房子里的一台 Mac Studio 上，从架构层面消除了数据外泄的风险。

gharasathi 项目主页

三条贯穿始终的原则

gharasathi 在所有模块中遵循同样的规则，这三条原则构成了整个系统的设计哲学：

数据留在家里。 推理运行在家庭内部的 Mac Studio 上，不依赖外部云服务。
代码负责计算，模型负责解释。 任何数字都不来自模型的"脑补"，计算逻辑由确定性代码完成。
每个发现都展示证据。 这意味着一条交易记录，或从文档中引用的一行原文。

第三条原则尤其关键。在家庭财务场景中，AI 给出的结论必须可追溯、可验证，否则用户无法信任它。gharasathi 通过强制展示原始证据来建立这种信任。

项目起源：200美元迷你PC上的隐私优先AI

这个项目最初起步于一台 200 美元的迷你 PC，以 Neo4j 图数据库为核心，搭配一个 3B 参数的小模型。这个起点说明了一件事：家庭级 AI 并不需要昂贵的硬件。

系列文章记录了几个关键技术决策：

在 6GB 内存上运行 LLM

边缘 AI 的模型选择是一个现实约束下的权衡问题。系列中的《Running an LLM on 6GB RAM: Model Selection for Edge AI》详细讨论了如何在有限内存中挑选合适的模型。

从 OpenClaw 学到的个人 AI 安全课

另一篇文章《What OpenClaw^广告 Teaches Us About Personal AI Security》探讨了个人 AI 助手的安全边界。家庭 AI 处理的是最敏感的数据——账单、照片、家庭财务——安全设计不能是事后补丁。

Neo4j 是一个原生图数据库，用节点和边来存储实体及其关系，而不是像关系型数据库那样用表和行。在 gharasathi 的场景里，家庭财务数据天然具有图结构：一笔交易关联到某个商户、某个账户、某张账单，账单又关联到某个家庭成员或某类支出。用图数据库存储这些关系，使得「这笔钱最终流向了哪里」这类多跳查询变得直接而高效，也便于模型在解释时沿着图结构追溯证据链。对于需要展示证据的家庭 AI 系统来说，图数据库的另一个优势是每条边都可以携带来源元数据，从而支持可验证的推理路径。

财务模块 Hishob：本地 AI 帮你找到钱去哪了

Hishob（हिशोब，意为"账目"）是 gharasathi 的财务模块，一个私密的资金仪表盘。它读取银行数据、账单和对账单，找出资金的流向，并解释该怎么应对。

这个模块的技术演进很有意思：

从 3B 到 Qwen3.5-122B

项目最初在迷你 PC 上跑 3B 模型，后来在 Mac Studio 上运行 Qwen3.5-122B 作为家庭财务分析师。硬件升级带来的模型能力跃升，让分析质量有了质的变化。但项目同时强调"keeping it honest"——保持模型的诚实性，即模型不能凭空生成数字。

3B 与 122B 的差距不只是参数量上的四十倍，更体现在推理能力、指令遵循和长上下文理解上。3B 级别的小模型可以在 6GB 内存的边缘设备上运行，适合做分类、抽取和简单问答，但在多步财务分析、跨账单关联和自然语言解释上容易力不从心，也更容易产生幻觉。122B 级别的模型（如 Qwen3.5-122B）需要大得多的显存和算力，通常要量化后才能在 Mac Studio 的统一内存上运行，但它在复杂推理和遵循「只解释、不编造数字」这类约束上表现显著更好。这种硬件升级带来的能力跃升，正是项目从迷你 PC 迁移到 Mac Studio 的核心动因。

不用 AI 也能读账单

一个反直觉的细节：系列中有一篇《Reading Bills and Statements Without AI, and the Money They Found》，讲的是在不使用 AI 的情况下读取账单和对账单，以及由此发现的资金问题。这体现了项目的务实态度——AI 是工具，不是目的，确定性解析在很多场景下比模型更可靠。

确定性解析指的是用规则、正则表达式、模板匹配或结构化格式解析器（如 CSV/PDF 表格解析）从账单中提取字段，而不是让语言模型去「读」并生成结果。它的优点是结果可复现、可审计、零幻觉：同样输入永远得到同样输出，出错时也能精确定位到哪条规则失效。缺点是面对格式多变、扫描质量差的文档时脆弱，需要为每种银行或商户维护解析规则。gharasathi 的做法是把确定性解析放在前，模型只负责解释解析出的结构化结果，从而在保证数字准确的同时保留自然语言解释的灵活性。

后续计划：照片库去云化

项目路线图中还包括照片模块：在 Mac Studio 上部署 Immich，把家庭照片库从 iCloud 和 Google Photos 中迁出。这与整个项目的隐私优先理念一脉相承——照片是最私密的家庭数据之一，同样不应该托管在第三方云上。

Immich 是一个开源的、可自托管的照片和视频管理平台，常被视为 Google Photos 的自建替代品。它提供人脸识别、物体检测、按地点和时间的智能搜索、相册共享等功能，这些能力由本地运行的机器学习模型完成，照片本身存储在用户自己的服务器或 NAS 上。在 gharasathi 的架构里，把 Immich 部署在 Mac Studio 上意味着照片库的存储、索引和智能检索全部发生在家庭网络内部，与财务模块共享同一套「数据不出门」的基础设施，也复用了已有的本地推理算力。

对家庭 AI 的启示

gharasathi 的价值不只是一个开源项目，它展示了一种可行的家庭 AI 架构范式：

本地推理是隐私的硬保障。 数据不出门不是靠隐私政策承诺，而是靠物理隔离。

可验证性是信任的基础。 "代码计算、模型解释、展示证据"这三条规则，解决了 LLM 在财务场景中最大的信任障碍——幻觉数字。

硬件门槛正在消失。 从 200 美元迷你 PC 到 Mac Studio，家庭AI的硬件选择区间越来越宽，普通家庭完全有能力承载本地推理。

对于关注数据主权、想在自己家里跑 AI 的开发者来说，这个系列提供了从硬件选型、模型选择到具体应用（财务、照片）的完整参考路径。