我是一名 ML/AI 工程师,熟悉机器学习建模与时间序列预测,业余时间专注于大语言模型和 AI 系统。我独立开发了BibGenie,一个运行在 Zotero 中的 AI 研究助手,帮助你阅读、理解和整理文献与书籍。
在这个博客里,我会记录关于 LLM、Agent、工程实践,以及一路学习与思考的内容。
Featured
AI 时代,领域知识仍然重要
使用 coding agent 开发 BibGenie 的过程中,我所悟到的一个重要结论是:在基于提示的创作和探索中,领域知识仍然是非常重要的。
从搜索引擎到RAG:检索增强生成背后的技术演进
从信息检索的视角重新理解 RAG,梳理文档切块、稀疏与稠密检索、结果融合、重排序和查询改写之间的关系。
RAG向量检索指南:从精确搜索到HNSW
从精确最近邻搜索出发,理解 IVF、PQ、HNSW 和 LSH 的核心取舍,并建立一套面向 RAG 的向量索引选型与评测方法。
LLM 是如何调用工具的
Updated:llm只是个token预测模型,为什么能上网搜索,删除文件,执行bash命令呢?
理解 LLM App 的 Message 设计:从 OpenAI、Claude 到 Vercel AI SDK 和 pi
Updated:从 OpenAI、Claude、Vercel AI SDK 和 pi 的差异出发,理解 LLM App 中 App Message、Model Message 与 Provider Message 的分层设计。
奇异值分解 Why What How
Updated:本文将尝试探索SVD背后的一些思想和分解步骤。
自动微分是什么
Updated:都知道DL中参数是通过梯度下降迭代求得的,那梯度又是如何计算的呢?自动微分!说到自动微分自然离不开计算图。本系列文章将深入讲解现代深度学习框架中扩展计算图的实现细节,并尝试在NumPy的基础上动手实现一个可以求解自动微分的计算图。
自动微分是什么?(续)
Updated:都知道DL中参数是通过梯度下降迭代求得的,那梯度又是如何计算的呢?自动微分!说到自动微分自然离不开计算图。本系列文章将深入讲解现代深度学习框架中扩展计算图的实现细节,并尝试在NumPy的基础上动手实现一个可以求解自动微分的计算图。
我又毕业了
Updated:答辩结束了,要毕业了,我突然想起上周买了 2Kg 燕麦片才刚开封,要是离校前吃不完怎么办呢?
写在Leetcode1000题之后
Updated:Leetcede1000题对我而言是一个坎,在跃过这道坎之后的半年里,我对刷题的看法发生了怎样的改变?顺便分享一些写题的方法论和写题心得
Recent Posts
autojs开发的脚本
Updated:autojs 赋能部落冲突
内积 外积 叉积
Updated:在知乎看到某文章打着外积的名号,却一本正经的在讲右手法则,瞬间不能忍了,于是就有了本文。
给Notion分享页面绑定自定义域名
Updated:将自定义域名通过Cloudflare绑定到Notion的某个分享页面上,可用于构建个人主页
2023年终小结及来年展望
Updated:毕业参加工作刚好半年,简短总结一下方方面面,也顺便在总结过程中反思一下,给自己的工作、生活、学习打个分数,然后幻想一下”美好“的2024