本文转载自微信公众号,如有侵权请联系删除。
AirLLM 不把整模型塞进显存:让权重按层短暂经过 GPU。目标是 70B 约 4GB、Llama 3.1 405B 约 8GB、DeepSeek-V3 671B 约 12GB 显存。
边界:省的是权重显存,不是一切内存AirLLM 是 Python 推理包,入口为 AutoModel.from_pretrained(),可传 Hugging...
本文转载自微信公众号,如有侵权请联系删除。
自动化覆盖了 80-90% 的工程活。但最后那 10%——边界条件、架构品味、收尾质量——才是整场比赛。
今天,Google Chrome 工程负责人 Addy Osmani 刚发了一篇 2000 字的长文,标题叫 “Earning Judgment”,第一次把这个问题拆解成了可操作的训练方法。他的核心论点只有一句话:
品味从来不是天赋,是几千...
原文:腾讯程序员 · 腾讯程序员链接:https://mp.weixin.qq.com/s/ISwjIw5lj7JlcQJV7BOx5g
作者:xiangnzhang本文是 DECO(一个跑在生产上的数仓 Agent 引擎)实践系列之一,聚焦护栏层:怎么用 Agent 框架的 Hook 切面,把 LLM 处理长文本时的”偷懒”(截断、略写、残缺)、对生产环境的”越权”(未确认发布、回刷)...
本文转载自微信公众号「seebin」,如有侵权请联系删除。
昨天刷到一条推文,782 赞、1948 收藏、31 万阅读,作者 @0xCodez 用一篇长文把 Claude Code 的 Dynamic Workflows 拆成了 14 个可复用的架构步骤。标题叫「Graph Engineering with Claude」。
它讲的不是工具用法,而是一个更大的东西:Agent 的编排思维...
本文转载自微信公众号「后端茶馆」,如有侵权请联系删除。
Julia Evans,技术圈最会讲底层原理的博主之一,第一次把 SQLite 用在了服务端生产环境。她记录下来的几个踩坑点,戳破了一个流传很广的旧印象,SQLite 早不是当年那个全局锁、不能并发的玩具数据库了。
7 月 17 日,Julia 发了篇博客,标题是《Learning a few things about runnin...
🪨 why use many token when few token do trick
项目速览
项
值
仓库
JuliusBrussee/caveman
Star
91,508(2026-07 数据)
语言
JavaScript
License
MIT
官网
caveman.so
定位
Claude Code / Codex ...
本文转载自微信公众号「田螺哥」,作者:xiaofu原文链接:https://mp.weixin.qq.com/s/Pb0dwc6_jpcH9jMV3VYJeQ
JWT 做登录认证,有一点很多人不理解:登录成功发一个 Token,前端每次请求带上,后端验签,过期了重新登录——感觉一个 Token 就能解决所有问题了。
那为什么 OAuth 2.0 规范里非要搞 Access Token 和...
项目地址:https://github.com/jackwener/opencli官网:https://opencli.info/⭐ 27k Stars · 2.6k Forks · Apache-2.0 · JavaScript · 最新版 v1.8.6(2026-07-03)
一句话介绍OpenCLI 是一个把「任意网站 → CLI 命令」的开源工具:通过 Chrome 扩展桥(Br...
原文:AI写代码的小任 · 微信公众号项目地址:charmbracelet/crush · GitHub Release v0.81.0
📖全文816字·阅读约需2分钟之前翻长会话全靠上下键盲推,推到哪心里没底。v0.81.0 加了聊天滚动条、支持 herdr 通知、降低了思考链 CPU 占用,还修了一批卡死 bug。🚀 本次更新· · ·✅ 聊天区滚动条 · 长对话翻页不...
原文:郭震AI测评 · 微信公众号项目地址:ruvnet/ruflo · MIT License · TypeScript
你好,这里是郭震AI测评!最近我在 GitHub 上看到一个增长很快的 AI 编程项目:Ruflo。它已经约 6.5 万 stars,想做的不是再加一个聊天框,而是给 Agent 补上编排、记忆、任务路由和诊断能力。项目地址:https://github....