给 AI Agent 的大脑装上 git 分支管理
本文介绍agent-memory工具,通过将AI记忆与Git分支一一绑定,实现多任务间上下文自动隔离、错误路径不污染、记忆按需沉淀,大幅提升AI编程的上下文纯净度与协作效率。
本文介绍agent-memory工具,通过将AI记忆与Git分支一一绑定,实现多任务间上下文自动隔离、错误路径不污染、记忆按需沉淀,大幅提升AI编程的上下文纯净度与协作效率。
GPT-1至GPT-3逐步确立了现代大语言模型的三大基础:预训练获得通用能力、从文本中学习任务模式、通过prompt实现零微调的任务调用。
本文系统介绍了大语言模型推理框架SGLang,围绕其如何通过RadixAttention、ContinuousBatching、ChunkedPrefill等五大优化技术,解决KVCache内存瓶颈、Prefill/Decode负载不均及调度低效等核心挑战,显著提升高并发LLM推理效率。
Lance是一种专为机器学习和AI优化的列式数据格式,通过摒弃RowGroup、引入DataPage及内置索引,解决Parquet在随机访问、超大列、大宽表支持上的不足,更好适配AI工作负载并对接主流AI生态。
QCon北京大会大模型正在重新定义软件参会总结