vault backup: 2026-11-07 16:33:44

This commit is contained in:
cheney
2026-11-07 16:33:55 +08:00
commit 7015312702
1208 changed files with 132432 additions and 0 deletions
Binary file not shown.

After

Width:  |  Height:  |  Size: 88 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 147 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 118 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 85 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 84 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 116 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 83 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 220 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 128 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 130 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 15 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 59 KiB

Binary file not shown.

After

Width:  |  Height:  |  Size: 53 KiB

+3
View File
@@ -0,0 +1,3 @@
<svg width="24" height="12" viewBox="0 0 24 12" fill="none" xmlns="http://www.w3.org/2000/svg">
<path fill-rule="evenodd" clip-rule="evenodd" d="M17.4193 2.4541L18.48 3.51476L12.7011 9.29366C12.311 9.68378 11.6819 9.68724 11.2883 9.29366L5.50942 3.51476L6.57008 2.4541L11.9947 7.87872L17.4193 2.4541Z" fill="black"/>
</svg>

After

Width:  |  Height:  |  Size: 324 B

Binary file not shown.

After

Width:  |  Height:  |  Size: 1.5 KiB

@@ -0,0 +1,169 @@
---
title: "为什么越来越多人用 MinerU?"
source: "https://mp.weixin.qq.com/s/dDW3KUNFkBf-o8yy-yjQYg"
author:
- "[[鹏磊]]"
published:
created: 2026-10-21
description:
tags:
- "clippings"
---
鹏磊 架构师专栏 *2026年10月21日 11:13*
![图片](https://mmbiz.qpic.cn/sz_mmbiz_png/v5ssib16QE9pUFOBcqwGRvp1vGLRwVMBx2lKA1jv5y6rmYDBjo4OwAqbgjf4KxNWgJicfHqt2Sic0f1sWPOeJMAkMrAWfqU0zzicic5a3dibkXnicU/640?wx_fmt=png&from=appmsg&wxfrom=5&wx_lazy=1&tp=webp#imgIndex=1)
质保 30 天不掉订阅,掉订阅,按天退差价
MinerU 是上海 AI 实验室 OpenDataLab 团队开源的一款文档解析软件,做的事儿很简单:就是把 PDF、扫描件、图片、Office 文档等转换为 Markdown 和结构化的 JSON,并且直接输入到 RAG、知识库或者自己设计的清洗流程中去。目前 GitHub 上已经有 8.2 万个 star,这样的数量级,在文档解析项目中是很少见的
和 pdfplumber 那样只提取文本内容不是一回事。公式输出为 LaTeX 格式,表格输出为 HTML 格式,标题、图片、页脚都有相应的类型和坐标信息,该模型可以全部下载到本地运行,在不离开内网的情况下也可以进行数据处理
上个月为一家做 RAG 的公司清理标书,有 2000 多个 PDF 文件,双栏、跨页表格以及 LaTeX 公式一应俱全。第一版使用了 pdfplumber 来提取文本内容,但是由于读取顺序被打乱,所以表格变成了一个只有一列数字的表格。换作使用 MinerU 运行一晚上的时候,在第二天 structured\_content.json 文件中就会看到表格已经变成了 HTML、公式也变成了 LaTeX,并且标题层次依然存在。那会儿我就明白了它为什么会传播得那么快
## 它所要解决的问题并不是抽离出文字来,而是要把版面还原出来
传统库只能根据字符坐标的大小来判断数据之间的关系,并不能够理解到语义。双栏论文按照行来阅读就会出现串栏的情况,页眉、页脚混入到正文中去,表格没有行列之间的关系,在进行扫描之后也无法得到任何信息
MinerU 的做法是把每一页的 PDF 渲染成图片,然后进行版面检测,把标题、正文、表格、图片、公式、页眉页脚等都分离开来,并按照阅读顺序重新排列。表格走结构识别输出 HTML,公式走识别模型输出 LaTeX,扫描件再叠一层 OCR
该链条在 4.0 的时候被分成四个等级,并且质量、价格都可以自己选择
| 档位 | 实际跑什么 | 典型用途 |
| --- | --- | --- |
| flash | 原生文本解析 + Flash OCR | 建索引、预览、Office 文档 |
| basic | ONNX 或 Torch 小模型 | 纯 CPU、扫描件、公式表格 |
| standard | 小模型 + 1.2B VLM | 复杂版面,默认档 |
| advanced | 同模型,更多推理计算 | 高价值文档 |
标准档背后是 MinerU2.5-Pro-2605-1.2B。模型不大,但是它被用来对文档进行解析的任务上训练过的,并不是用一般的多模态通用模型来套用的。我认为最核心的是专用的小模型,在版面中更加稳定,而且显存可以节省很多
## 命令行三分钟跑通
4.0 安装包和 2.x 完全不相干,请不要再按照老教程来安装 core、pipeline 等 extra,已经全部失效
```
# 基础包:ONNX + llama.cpp,CPU 和 Apple Silicon 够用
uv pip install -U "mineru>=4.0,<5"
# 有 NVIDIA 卡、要高吞吐再上 full,Linux 会自动装 vLLM
uv pip install -U "mineru[full]>=4.0,<5"
# 国内网络先把模型源切到 ModelScope,否则首次下载模型能卡到怀疑人生
export MINERU_MODEL_SOURCE=modelscope
```
安装完毕之后使用 `mineru-kit models show` 来查看一下实际生效后的后端情况,否则你会认为自己是在运行 GPU,实际上却一直在消耗 CPU。解析命令有两处入口,行为不同。 `mineru-kit parse` 是无状态的,默认情况下会把整个文档解析出来; `mineru parse` 是一个文档库客户端,PDF 默认只读前 10 页
```
# 单文件转Markdown,standard档:小模型+VLM
mineru-kit parse paper.pdf -o paper.md --tier standard
# 批量目录出 zip;显式 --pages all,绕开两个入口的默认值差异
mineru-kit parse ./docs -o ./out --format zip --pages all
# 只是入库检索,flash 档不跑 VLM,速度快一个量级
mineru-kit parse manual.pdf -o manual.md --tier flash
```
## 代码中如何连接
从 Python 语言的角度来看,4.0 版本把无状态入口收进了 mineru.parser 里面,并且 parse、parse\_async 都是对外开放的
```
from pathlib import Path
from mineru.parser import parse
# tier 决定了成本:flash 走原生文本,standard 才拉小模型加 VLM
result = parse(
"paper.pdf",
tier="standard",
ocr_mode="txt", # 文本型 PDF 不做 OCR,扫描件换成 ocr
page_range="1-20", # 页码从 1 开始,闭区间
)
# markdown() 给人看,to_json() 给程序用,来自同一次解析
Path("paper.md").write_text(result.markdown(), encoding="utf-8")
Path("paper.json").write_text(result.to_json(), encoding="utf-8")
```
批量任务使用异步入口,注意一个坏文件不会把整批都拖垮
```
import asyncio
from pathlib import Path
from mineru.parser import parse_async
asyncdefmain():
for pdf insorted(Path("./docs").glob("*.pdf")):
try:
# 已经处在事件循环里就直接 await,不要外面再套一层
result = await parse_async(str(pdf), tier="standard")
Path(f"./out/{pdf.stem}.md").write_text(result.markdown(), encoding="utf-8")
except Exception as exc:
print(f"{pdf.name} 解析失败: {exc}")
asyncio.run(main())
```
## 有三种部署方式可以选用,根据团队大小来选择
一个人使用的话,就直接命令行模式,不要设置为服务,模型下载一次之后就结束
两个或者几个业务需要共享同一个模型,并且起 V1 API,模型只加载一次,比每个进程各自使用一份显存要划算得多
```
# V1 API,接口都在 /v1/*,旧的 /file_parse 和 /tasks 在 4.0 已经删了
mineru-kit api-server --host 0.0.0.0 --port 8000 --tier standard
# 多卡或多机,router 统一入口,按 --local-gpus 自动拉 worker
mineru-kit router --host 0.0.0.0 --port 8002 --local-gpus auto
```
客户端可以复用同一个解析器实例,能力发现、上传、轮询、下载都包含在内,每次调用都会自己打开和关闭会话,并且不需要手动释放
```
from mineru.parser import MinerUApiParser
# api_url 填 /v1 之前的根地址,密钥走 MINERU_API_KEY,别写死在代码里
parser = MinerUApiParser(api_url="http://127.0.0.1:8000", tier="standard")
print(parser.parse("contract.pdf").markdown())
```
第三种是使用 Gradio 做前端界面, `mineru-kit webui` 起一个,给不会用代码的同事来做人工校验。不要把生产当作接口来使用,它只是一个可视化的外壳
## 真正能够留住人的就是那些中间产物
很多解析服务只会给你一份 Markdown,看上去很美,但是下游无法使用。除了 Markdown 之外,MinerU 还保留了 middle.json 和 structured\_content.json 两个文件,其中每个块都有 type、page\_idx、bbox 等字段
这就意味着你能够自己编写切片逻辑:表格块整体进入向量库,公式块单独抽取出来进行检索,页眉和页脚按照坐标进行过滤。RAG 中最让人头疼的“表格被分割了”的问题,在这层就可以解决了
```
# structured_content 按页给块、按块切比按字符切靠谱得多
for page in result.structured_content()["pages"]:
for block in page["blocks"]:
if block["type"] == "table":
store_table(block["content"]) # 表格 HTML,行和列的关系仍然存在
elif block["type"] == "equation":
store_formula(block["content"]) # LaTeX
```
## 在什么样的情况下不要使用它
纯文本 PDF,只要文字不要结构,使用 pypdf 后几十毫秒就可以完成任务,上 MinerU 是拿高射炮打蚊子
对于延迟非常敏感的在线接口也不适合,standard 档一次解析是秒级到十几秒级,老老实实做异步任务队列
另外还有一个坑要提一下,在 3.1 版本之后,许可证就变成了基于 Apache 2.0 的 MinerU 开源许可证,相比之前的 AGPL 时代更加舒适一些。但是使用之前还是要看一下 LICENSE.md 文件,不要相信别人的一句“随便用”。
## 我的判断
MinerU 热门并不是因为它的榜单第一,而是在于它可以做到以下三点:可以进行私有化部署、可以批量运行、可以产出结构化的中间结果。做 RAG 的团队里最缺乏的东西并不是再去调用一个云上的 API,而是在于对数据入口的控制
我使用的办法是先用 flash 全量跑一遍来做索引,命中率高的文档再走 standard 重解析,可以降低成本一半以上。这套组合拳要比无脑全量 standard 务实性强一些
至于它是“最好的”解析器吗?我不会得出这样的结论。但是在我所接触过的项目中,它是我目前少数能够掌握住整个数据链条的工具
我是鹏磊,持续分享 AI 编程干货,今天就到这里,我们下期见
质保 30 天不掉订阅,掉订阅,按天退差价
@@ -0,0 +1,109 @@
---
title: "提升自己的思维和讲话能力 20 张图解"
source: "https://mp.weixin.qq.com/s/Qnf7_3IgN98ifuDzGLeMuQ"
author:
- "[[李正高]]"
published:
created: 2026-11-04
description:
tags:
- "clippings"
---
李正高 李正高 *2026年11月2日 23:11*
思路不清晰,表达不出来,有功劳也说不出来,自己感觉什么都知道,就是说不出来,怎么办?
其实通过这样的互动,也越来越认识到问题所在,通过不断调整和迭代,才能成为自己。
晚上复盘,就分享这些我手绘图。
![[Image.webp|图片]] ![[Clippings/attach/Image.jpg]]
提升思维小册子,讲话小册子,总计发货二册,发顺丰快递
7天无理由
¥138
已售17
![[fae7be51-beb6-4e61-aad8-4c1f7ccfab83.png]]
李正高小店
![[arrow_down_regular.svg]] 收起
使用手机微信
扫码了解商品信息
![[Clippings/attach/Image 1.jpg|图片]] ![[Clippings/attach/Image 2.jpg|图片]] ![[Clippings/attach/Image 3.jpg|图片]] ![[Clippings/attach/Image 4.jpg|图片]] ![[Clippings/attach/Image 5.jpg|图片]] ![[Clippings/attach/Image 6.jpg|图片]] ![[Clippings/attach/Image 7.jpg|图片]] ![[Clippings/attach/Image 8.jpg|图片]] ![[Clippings/attach/Image 9.jpg|图片]] ![[Clippings/attach/Image 10.jpg|图片]]
这些图,都是我根据自己工作存在的问题和一些读者的反馈,我进行优化和迭代的。
还有手绘了图解。
重点是帮助你理解你吸收。
晚上就是复盘一下,自己还是没有睡着,看着一些自己比较喜欢的内容,还是分享出来。
有目标,有路径,有模板,可训练,就好。
今天最大的触动就是,一定要有目标感,有目标以后,就会有下一步行动路径。
也许第一个行动方案不行,但是你通过验证后,就会有新的收获。
只要你行动了。就会有收获。
晚上我是用手机打字的,随笔,简单的,把自己想说的话,记录一下就好。
用达尔文的进化论来指导自己进化,我这些手绘,在进化🧬─=≡Σ(((つ•̀ω•́)つ。
因为每天都要赶时间,交付,只能简笔画是最好的,也容易出现意境。
每一张虽然简单,但是我画这些很容易进入心流的状态。
这也让我想起月亮和六便士的故事,主人翁也是画画的方式去追梦♫(。◠‿◠。♫)。
画这的是一个好工具,画简笔画,画思维导图,都可以。这里只是辅助,不谈艺术作品创作。仅限日常工作中的运用。
临在当下,进入心流的任何一种方式都可以治愈自己。
其实我画简笔画的时候,也是很治愈自己的过程(╹◡╹)✏️。
明天继续进化🧬!
怎么从一个业务骨干,技术骨干,跨越到项目负责人,部门负责人,或者分局负责人,这是一个很大的跨越,重点还是思维上的固化的突破,到成长型思维的跨越。今天文章已更新🆕
还有表达方式的改变,都是可以训练来改变的。文章模板也有更新。
当自己意识不到这个问题存在的时候,你是不觉得有问题的。
当别人说了你有问题,你也不会承认问题的存在的。
心里就是这样奇怪🤔
当你意识到自己有问题的时候,但是不知道具体问题是什么?你希望有人给你反馈的时候。
这个时候,你把问题说出来,你们才能产生同频共振。
不然就是两条平行线。不会有交集的,更不会同频。
有人给你反馈,有些反馈是真问题,有些反馈视角不一样,你还是意识不到,盲区就是很多。
你是处于开放的状态,把你的问题原原本本的说出来,哦,原来是这个问题的存在呀。
你不知道,并不代表问题不存在。
不可知论。
最近在反思写作?
我真的会写吗?
会的话?停止探索新思路了。
不会的话?就会无穷无尽地去探索不可知。
保持好奇心,去探索未知,不可知。
永远年轻,永远热泪盈眶ฅ՞•ﻌ•՞ฅ\[爱心\]
@@ -0,0 +1,302 @@
---
title: "知乎收藏夹里的好东西,如何一键自动转存"
source: "https://mp.weixin.qq.com/s/R1p6ZiiR79nXcBsbv8wtiA"
author:
- "[[IX]]"
published:
created: 2026-08-20
description: "书到用时方恨少,那你快把 Skills 装好"
tags:
- "clippings"
---
IX Renaissance Lab *2026年8月1日 23:45*
KNOWLEDGE · WORKFLOW2026.08
收藏了,就等于拥有了?
把旧知识送回工作现场
修好收藏与使用之间的路
本地知识库 · AI 阅读 · 人来判断
rl-zhihu-sync
OPEN SOURCEOBSIDIAN
📦 3 Key Points
👉 导读
PART 01
断掉的链路
收藏为何失效
PART 02
新的工作流
AI 参与调用
PART 06
开始使用
安装与同步
我在知乎收藏了 460 篇内容。
它们曾经让我产生一种错觉:这些东西已经属于我了。
但真正写文章、做方案、研究问题的时候,我还是想不起来,也找不到。
最后只能重新搜索、重新阅读、重新判断。
所以,收藏的知识其实一文不值。
只有当它再次参与你的判断、创作和工作时,它才开始产生价值。
而收藏和使用之间,一直缺了一条链路。
01
PART
过去,这条链路是断的
BROKEN · 失效的调用路径
假设你正在写一篇关于“长期主义”的文章。
你隐约记得,自己以前收藏过几个非常好的回答。
接下来会发生什么?
你打开知乎,翻收藏夹。
找不到。
你换关键词搜索,搜出来的又不是当时那一篇。
然后你开始怀疑:它究竟是在知乎、微信公众号、小红书,还是某个已经关掉的浏览器标签里?
十几分钟过去,你放弃了。
最后还是打开搜索引擎,从头再来。
过去的链路是
遇到问题 → 隐约记得自己看过 → 打开不同平台寻找 → 重新阅读和筛选 → 找不到 → 从头搜索
你过去花在阅读和筛选上的时间,几乎没有进入下一次工作。
你不是没有知识。
你只是没有一条把知识送到工作现场的路。
02
PART
安装 Skill 之后,这条链路变了
WORKFLOW · 新的知识调用
我写了一个开源工具: **rl-zhihu-sync** 。
它可以把知乎收藏夹里的内容同步到本地,转换成 Markdown 文件。
我的 460 篇知乎收藏,已经全部进入 Obsidian。
这一步的意义不只是“备份”。
当这些内容变成本地文件以后,它们就有机会进入一条新的链路:
遇到问题 → 搜索本地收藏 → 找到过去筛选过的材料 → 让 AI 阅读、比较和提取 → 人来判断 → 形成文章、方案或者决策
比如,我可以把与某个主题有关的收藏找出来,让 AI 帮我回答:
1
这些文章有哪些共同观点?
2
哪些观点彼此冲突?
3
哪篇文章提供了真正的证据?
4
哪些内容适合放进我正在写的方案?
5
我过去关注这个问题时,有没有反复出现的判断?
过去,我只能一篇篇翻。
现在,我可以先让 AI 阅读,再把自己的时间放在判断上。
这才是这个工具真正想创造的东西:
让过去收藏的内容,重新参与今天的工作。
03
PART
它在做的,是一层基础设施
INFRASTRUCTURE · 铺好调用的路
**rl-zhihu-sync** 不会自动把你变成一个更有知识的人。
它也不会替你完成思考。
它做的是更靠前、也更基础的一步:把原本被关在平台里的内容,变成可以搜索、读取和继续处理的本地材料。
有了这一层,后面的很多事情才有可能发生:
✓ 让 AI 从过去的收藏中寻找答案;
✓ 把相关内容组合成专题;
✓ 对多个作者的观点进行比较;
✓ 为文章和方案寻找素材;
✓ 发现自己长期关注的问题;
✓ 建立属于自己的研究语料库。
同步本身不是终点。
它是在修一条路。
以后你遇到真实问题时,过去读过的内容可以沿着这条路,重新回到你的工作里。
04
PART
哪些人适合使用?
FIT · 谁会获得最大价值
这个工具更适合三类人。
01收藏很多,但经常找不到的人
如果你的知乎收藏夹里已经有几百篇内容,那么你真正缺少的可能不是更多内容,而是把旧内容重新调出来的能力。
02需要持续输出的知识工作者
写作者、研究人员、咨询顾问、产品经理、运营人员,都会反复处理相似的问题。过去筛选过的资料如果能够再次使用,会直接减少重复搜索和重复阅读。
03已经在用 AI 重构工作流的人
如果你的 AI 能够读取本地文件,或者能通过 MCP 访问你的知识库,这些收藏就不再只是供人翻看的文章,也可以成为AI 工作流的输入材料。
它会放大的,是你原本就有的能力:
你筛选信息的判断力;你过去积累的阅读量;你提出问题的能力;你把材料转化成结果的能力。
你过去积累得越多、输出得越频繁,这条链路的价值就越大。
05
PART
哪些人不适合?
BOUNDARY · 工具的边界
如果你很少使用知乎,也没有多少收藏,这个工具的价值不会特别大。
如果你只想把内容搬到另一个地方继续囤着,它也解决不了问题。
如果你希望安装以后,AI 自动读完所有文章、建立知识体系、替你完成思考,那它也做不到。
它创造的是“可以被使用”的条件。
至于最后能不能创造价值,仍然取决于你拿它解决什么问题。
另外,工具需要读取本机 Chrome 中的知乎登录信息,并在本地缓存 Cookie。不能接受这种方式,或者电脑中存在敏感账号环境,就不建议安装。
06
PART
怎么使用?
TUTORIAL · 安装与同步
项目已经开源:
https://github.com/RenaissanceLab-cj/rl-zhihu-sync
安装
...bash
pip install git+https://github.com/RenaissanceLab-cj/rl-zhihu-sync.git
同步
...bash
zhihu-sync \\
 -c "知乎收藏夹地址" \\
 -n "收藏夹名称" \\
 -o "本地文件夹路径"
同步完成后,你可以直接在 Obsidian 里搜索。
如果你的 AI 工作台能够访问这个目录,还可以继续设计检索、阅读、比较和写作的工作流。
!当前边界 🕳
部分无法正常获取的文章可能只保存标题和摘要,图片目前也不会下载到本地。具体边界和更新记录以 GitHub 为准。
///
LAST
收藏不是积累,调用才是
CONCLUSION · 写在最后
我们已经进入了一个不缺内容的时代。
每天都有新的文章、新的视频、新的工具出现。继续收藏很容易,难的是让过去看过的东西,在真正需要的时候重新出现。
**rl-zhihu-sync** 现在只打通了知乎收藏夹。
但它验证了一种可能:
平台负责帮我们发现内容;本地知识库负责保存材料;AI 负责阅读和组织;人负责提出问题、判断和创造。
我想继续做的,也是这一类基础设施。
不是再制造更多信息,而是让我们过去付出时间筛选过的信息,终于可以被重新使用。
既然看到这里了,如果觉得有用,随手点个赞、在看、转发三连吧。
点赞
在看
转发
THANKS FOR READING
AI自习室 · 目录