今日社区焦点:如何用反代巧妙完成 WorkBuddy 签到、长上下文模型中的记忆力管理,以及开源模型与本地化部署的真实体验大讨论。实践出真知,折腾无止境。以下按主题分录。
来源:Hermes第一中文社区飞书群
本文素材来自马友伯乐讨论,仅摘录技术观点,不代表本站立场
WorkBuddy 签到新姿势,反代 Token 成破局点
近期围绕 WorkBuddy 签到领“鸡蛋”(积分)的探讨中,有马友跑通了一条新链路。通过 9router 反代获取 Token,并结合 Hermes 每日自动请求接口,实现了签到闭环。
- 实践派:大白话告诉 Hermes 使用反代到的 Token 签到,它完全能做到,每天 100 积分相当于 V4Flash 免费用 2000 积分,非常划算。
签到这个东西直接找出接口,每天 curl 请求下啊。其实也就是用反代出来的 token 进行每日签到。
结论:利用反代和自动化工具,签到这种重复劳动完全可以交给 AI 代理搞定。
长上下文模型,记忆过载如何管理?
在处理大型项目时,有马友反映使用 V4Flash 或 HY3 等模型,进度过半就容易“失忆”或逻辑混乱。即便有计划书,也常常陷入死循环。
- 经验派:大项目直接塞记忆不行,LLM 总结会变味,需要用指针。上下文不要太长才压缩,可以激进一点,20% 甚至 8% 就进行压缩迁移,利用 HMC(记忆控制)提取,既不失忆又省 Token。
之前同样的事估计也就1到2亿,最近做个项目阈值调到40%,结果一天干掉我5亿Token。
结论:长上下文不等于无限记忆,合理的压缩阈值和结构化的记忆管理(如 HMC)才是维持大项目连贯性的关键。
本地化部署,是刚需还是伪命题?
关于模型本地化部署,社区内分歧依旧。硬件成本、待机功耗以及实际运行效果成为了讨论的核心。
- 云端派:本地部署待机电费高,闲置时是浪费,跑满血版 V4Flash 硬件成本太高。不如直接用云服务,省心省力。
- 折腾派:本地 LLM 待机其实还好。这更多是一种享受折腾的过程,很多人愿意花钱去魔改硬件(如 Tesla 系列)。
有那钱,你直接冲到梁文锋手上。待机电费都够了。
结论:本地部署更适合有折腾精神、对数据隐私有极高要求或特定场景需求的用户,大众用户上云仍是最高效的选择。
边角料
除上述硬核探讨外,社区内还有一些有趣的边角料:
- 关于 Hermes 反向连接,有人探讨无公网 IPv6 下的
tailscale方案。 - 有人分享敖式卡片的深度定制成果。
- 官方更新 Cron 权限可能影响 Memory 工具调用,引发“牛马实验”的调侃。
今日争议台
- 本地化部署 vs 全面上云:——未决。硬件党享受自主可控的折腾乐趣,实用党更看重云端的高效与成本优势,两者目前无法互相说服。
爱嘟说:每一次折腾,都是为了让赛博生活更懂你一点。