利用 Deepseek 抓取PDF的文字并矫正。

nanimarcus

0 w2 |9 }- w4 ^. L. T+ I' R& W( S把PDF上传，然后让他抓取文字，并修改可能的错误。
然后deepseek完美的完成了任务。
' m: t6 W) @0 B9 `& M段落清楚，列清楚，页眉页脚全部去掉。
我要疯掉了！
% o; x2 W) C7 @( t赶紧把自己那些成年老书给搬出来，deepseek，这是党和人民考验你的时候了！
7 P8 o8 ~6 Q! E====
中文也很完美。
经验值，每次十页比较稳定。
现在我这里API还不能用，等恢复了，全自动了。
====
第二次疯掉了！
我上传英文文件后，让他抓取文字，矫正，然让他按页划分，前面放英文，后面放中文，结果仍然完美。
====
现在我让他从PDF抓取文字，矫正后，按段落翻译，可以一次翻译多个段落，每次翻译不超过一个固定数目，结果仍然完美。
- X0 {4 e4 v, {  g* I但是任务多了后，每次翻译的页面数是减少的。
好吧，我五体投地，继续探索。
====
' _: ]* O2 Q, ]( ~, T1 {, ^* P  I. Z9 U为了防止中间结束，可以告诉他必须所有页面全部处理完就可以了，我现在是应该佩服我自己呢还是应该佩服 deepseek 呢，抑或都佩服。
====
7 M  |2 V4 z" X# U# n4 {好吧，有些东西是不给翻译的，哈哈。
* Q7 i8 y+ t# L% B6 P7 W5 E
Sorry, that's beyond my current scope. Let’s talk about something else.
3 ]2 K3 W, \* V" A/ A, Y====
然后我的英文命令也让deepseek 帮我修改，呵呵。
1 P2 x% q8 V3 M% Y9 {3 I! H====
+ F% Z# a; O( i, i# u6 U  e! t% Z日语的文本他也可以处理，过程一模一样的。问题也是一模一样的，假名太多，汉字很少，我不懂日语，翻出来都不知道对不对。
" ~# V4 Y& E$ t  C9 t====
时间段的话，北京时间的下午和晚上用比较好。
$ E8 ^% z* i% U3 H& u7 f$ z6 V后半夜和早上，美国人上班了，要么在用，要么在黑客攻击。
) y; X0 G" }& t8 B====
4 n7 u* u/ t) _* U用千问吧，非常稳定，非常强大。
https://chat.qwenlm.ai/
====
Deepseek，API 看上去可用了，但是不给充钱。


9 Z0 [) g" F' G" ]; O+ `- M

马鹿

这功能很赞呀

nanimarcus

马鹿 发表于 2025-2-2 03:53
这功能很赞呀

简直太赞了，我现在正在思考还有什么工作需要 deepseek 干的，现在的上限是我的上限，不是 deepseek 的上限。

indy

有没有上传整本书试试

nanimarcus

indy 发表于 2025-2-2 04:13
有没有上传整本书试试

目前看来，差不多十页左右就停止了，看看还有什么诀窍不。

马鹿

以后让deepseek 读出土的竹简
! _0 |0 o: z* O- k
5 A4 E) H3 L* d8 x+ f. Z还有把古文翻译成现代白话

& E; R8 c) ~6 v  Z以后不认识的字不查字典了， 直接问deepseek

方恨少

请教是如何实现的？
0 g4 _) U( t$ Q: |0 M' j  U
  ]' \0 \4 t1 m2 o3 i* `, L我在网页版和手机版都尝试了，都不行，网页版上传PDF文件始终不成功，手机版上传之后，发出指令提取文件中文字，始终是文件解析中。直接在DS里问如何上传PDF文件，并提取文件中文字，照做其实是一样的。

nanimarcus

方恨少 发表于 2025-2-3 01:23
请教是如何实现的？

0 g/ \4 t6 p. H9 p: c$ ?6 s  m/ @我在网页版和手机版都尝试了，都不行，网页版上传PDF文件始终不成功，手机版上传之后 ...

& P* X/ c3 }4 k0 k5 b
9 X. _0 a* p3 O! E6 P我现在也上载不了了，"upload failed"，几个小时前还好好的，应该是服务又受攻击所以功能收缩了。
3 o6 Q9 y" U7 U. N6 S2 o文字之类的没问题。估计deepseek现在暂时只保证主要功能。
美国人就这样，打不过就耍流氓，估计要等一段时间才能完全恢复。
/ C8 W: i* t! q! B. }& [2 s

nanimarcus

方恨少 发表于 2025-2-3 01:23
请教是如何实现的？
6 g) y" O& V/ b1 Y8 b* ?/ s" ^" S
3 f+ W& a  M- y0 m" `我在网页版和手机版都尝试了，都不行，网页版上传PDF文件始终不成功，手机版上传之后 ...

+ z, u. C: G6 F1 jhttps://chat.qwenlm.ai/
$ U; @9 r% }% O$ o/ s试一下千问，估计美国人没有攻击他，所以资源敞开用。
很稳定，质量不错，好像最多一次处理15页。
/ z4 b  r0 k6 ?+ N我直接拿deepseek的指令用，没有区别。

heinsect

试了这个工具，可以转成markdown，正确率很高，有漏行，图片会放在一个指定的目录下。
6 G, ^+ E* m  J4 P( I处理一本100页左右的扫描版本的中文PDF，一份某行业的接口标准，纯CPU，几分钟时间。
这个工具不能处理表格，我把文件拖到豆包里，“把这个文件中的表格转换成 markdown。只是表格，不需要其它内容”，表格多的话，要发好多次“请继续”。
0 A3 [' O+ a( n2 ^3 ^
https://github.com/oomol-lab/pdf-craft

1. 这个工具要求装 python3.10
2. pip install onnxruntime==1.21.0, 有英伟达的卡：pip install onnxruntime-gpu==1.21.0
3. pip install pdf-craft
+ X% k$ g% w2 h, B5 f& {' i+ S4. 把下面的内容写到一个文件里，例如 a.py

- b4 B2 g: {' y

1. from pdf_craft import PDFPageExtractor, MarkDownWriter
   ( G% a1 G' o0 Z6 N1 P2 j+ v4 ^+ X9 I
2. 
   2 [, H' y+ r2 G* ~+ ^3 u
3. extractor = PDFPageExtractor(
   
4.   device="cpu", # If you want to use CUDA, please change to device="cuda" format.
   ( z7 R* Z2 g/ G' [
5.   model_dir_path="/path/to/model/dir/path", # The folder address where the AI ​​model is downloaded and installed
   9 T8 y( Q5 m' B3 Q! l' C3 j
6. )
   
7. with MarkDownWriter(markdown_path, "images", "utf-8") as md:
   ! \0 {2 S* z! h6 |7 u* G# l
8.   for block in extractor.extract(pdf="/path/to/pdf/file"):
   , \' c2 D& u2 C+ O
9.     md.write(block)

复制代码

' X' }+ V7 |6 f& d, `要修改的内容：
* E# e9 I8 S& e; O; S4.1 /path/to/model/dir/path：存放模型的路径。第一次运行这个脚本会从 huggingface.co 下一个模型，国内的要科学上网，国内的镜像上没这个模型
4.2 markdown_path：输出的 markdown 路径文件名
4 W& i7 t  W- e; R7 t4.3 /path/to/pdf/file: 输入的源PDF路径文件名

5. 运行 python3 a.py

nanimarcus

4 q8 s8 C& n4 _; m7 A4 k
目前为止PDF转纯文字的最佳办法。
先写个小程序，把PDF按章节切成小的PDF。
9 k. R1 Y% U* g( Q然后，把PDF一个个传到deepseek，让她抓取，除错，输出。
效果非常好。

deepseek，qwen，chatgpt 三个，deepseek是最好的。
1 K' f1 @7 R7 V- }
1 y+ d; G* i% a+ ]2 \deepseek 把页脚页眉页号全给去除干净了，跨页的段落也给你修好了。
而且deepseek不会加戏，chatgpt有时候会想当然的加上没有的文字，让句子看上去想那么回事。
我曾经修一个历史文章，chatgpt给我活活加了三段，真是文豪。
& l& \. E, q# m  L, N
API到目前为止，差强人意，不如网页版本修得干净。

2 X. o: p) u) c4 Qdeepseek可以同时开四个。
" @2 O% u+ i; P; v

三力思

( H' P4 r4 F% `# p. L
让Deepseek给你开发本地架构的抓取PDF软件，并负责上传，下载。 AI监工AI。 LOL

nanimarcus

三力思 发表于 2025-4-17 12:26
让Deepseek给你开发本地架构的抓取PDF软件，并负责上传，下载。 AI监工AI。 LOL ...

5 {: `5 x7 t$ a" R细说一下，听上去很不错，多谢。

三力思

nanimarcus 发表于 2025-4-17 16:33
5 T0 W' R- b; B  X1 B细说一下，听上去很不错，多谢。

; R8 J8 F& m; B% \$ ?直接问DS，“用C#，JAVA语言开发把PDF分成单页PDF并上传DS程序的源代码”

nanimarcus

, ?( G/ X* V6 _7 e
' l/ s8 q/ B6 E9 ~' ]$ s已经搞定.
. K2 o. {! P, q; J2 z! `
2 K/ x+ l, o4 }3 ]+ {/ w首先 PDF 本身已经OCR了，Adobe Acrobat Pro中自带这个功能。

1, python + pypdf 按章节拆分小的PDF

- G- o/ [2 d( e  p3 e2, pdftotext -enc UTF-8 -nopgbrk -eol dos input outputfile
2 U7 ], T5 Z4 @) i2 u% S+ ^9 K
得到text file

3, python 读取整个outputfile，丢给deepseek 矫正。

5 Y& F6 Q1 J, L  A8 J' w0 p* [4 j模型是 deepseek-chat

7 s5 t  W' d  r/ {max_tokens 最大是 8192，别的不用改。

  T! O; q; b2 Q7 i8 T0 x参考：
https://api-docs.deepseek.com/api/create-chat-completion

4，费用：

实测：
1 L8 s# Y* D, S+ [: d; e7 Y
- q2 m% N  Z5 s7 y  D  K! n7 a296K 字母，用了 9 美分。
! _' Y: A8 p$ u" t! \' _
% d) i% P/ O1 ?/ C' k! N( \英文字母 到 token 用量大约 1/3

( |, p& ~: Y* b$ s8 `  _0 ^2 _tokens: total, 11782 completion,  3729 prompt,  8053 | s:  32899
: ~- U' ]  [; q2 L
32899 个字母花费 11782 tokens，包含输入输出的 tokens
" i9 Z% U% V# G
* k& n5 a/ l5 d" a1 g价钱，非常非常便宜了。
" p$ }$ I5 u$ H) G. Y, S
参考如下可以计算，懒得算了。

https://api-docs.deepseek.com/quick_start/pricing
( d- E  i+ O/ L' ?- E5 }
9 s; E1 _; F) X" V/ \6 v1M TOKENS INPUT (CACHE HIT)(4)                $0.07                $0.14
1M TOKENS INPUT (CACHE MISS)                  $0.27                $0.55
: R4 D7 d1 r7 g) B! E3 A6 y! p& ^2 f1M TOKENS OUTPUT(5)                                              $1.10                $2.19

5, Balance

5 U. e# w; o& [# j. L, h7 f* ~可以在程序里调用，知道每次运行结束后，balance还剩多少。
% A1 t' R( q4 E9 G- {7 J参考：
3 u8 Y) \* Y8 V6 Zhttps://api-docs.deepseek.com/api/get-user-balance

6, Models

目前就两个
# deepseek-chat
# deepseek-reasoner
" F- i# Y5 u1 q# Z
$ y2 B4 H3 J/ x) B1 o" z; t参考：
3 |: }7 j, Q! A4 y3 ]https://api-docs.deepseek.com/api/list-models

8 z% s8 v$ D# T) O; J. v
7 r' v* A* U9 e+ \: B$ Q0 m7, 问题

deepseek 会将前后两段合成一段。
7 @! n0 n  x! k6 |; \3 t特别是那种大量的对话的段落，deepseek会给你合成一大段。

- k0 y: s' F4 c. E* B* G/ r8 |8 }8, 钱说了算。

. E. Z) n! R, b+ _deepseek 如果是免费的网页版，有时候会出现超出范围的提示，不干了。
但是API就不会出现这种情况，毕竟我们给钱了。
, W& j; `6 w& K3 b7 Lchatgpt也是这样的。


5 I9 {* A' G$ {7 r$ o0 }