空格从PDF提取和奇怪的单词解释中消失了

时间:2012-06-18 17:16:54

标签: python pdf unicode pypdf

使用下面的代码段,我试图从this PDF文件中提取文本数据。

import pyPdf

def get_text(path):
    # Load PDF into pyPDF
    pdf = pyPdf.PdfFileReader(file(path, "rb"))
    # Iterate pages
    content = ""
    for i in range(0, pdf.getNumPages()):
        content += pdf.getPage(i).extractText() + "\n"  # Extract text from page and add to content
    # Collapse whitespace
    content = " ".join(content.replace(u"\xa0", " ").strip().split())
    return content
然而,output I obtain在大多数单词之间没有空格。这使得难以对文本执行自然语言处理(我的最终目标,这里)。

此外,“手指”一词中的“fi”始终被解释为其他内容。这是相当有问题的,因为这篇论文是关于自发的手指运动...

有人知道为什么会这样吗?我甚至不知道从哪里开始!

7 个答案:

答案 0 :(得分:9)

不使用PyPdf2使用具有相同功能的Pdfminer库包,如下所示。我从this得到了代码,因为我想编辑它,这段代码给了我一个文字文件,其中有单词之间的空格。我使用anaconda和python 3.6。对于安装PdfMiner for python 3.6,您可以使用此link

from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter
from pdfminer.converter import TextConverter
from pdfminer.layout import LAParams
from pdfminer.pdfpage import PDFPage
from io import StringIO

class PdfConverter:

   def __init__(self, file_path):
       self.file_path = file_path
# convert pdf file to a string which has space among words 
   def convert_pdf_to_txt(self):
       rsrcmgr = PDFResourceManager()
       retstr = StringIO()
       codec = 'utf-8'  # 'utf16','utf-8'
       laparams = LAParams()
       device = TextConverter(rsrcmgr, retstr, codec=codec, laparams=laparams)
       fp = open(self.file_path, 'rb')
       interpreter = PDFPageInterpreter(rsrcmgr, device)
       password = ""
       maxpages = 0
       caching = True
       pagenos = set()
       for page in PDFPage.get_pages(fp, pagenos, maxpages=maxpages, password=password, caching=caching, check_extractable=True):
           interpreter.process_page(page)
       fp.close()
       device.close()
       str = retstr.getvalue()
       retstr.close()
       return str
# convert pdf file text to string and save as a text_pdf.txt file
   def save_convert_pdf_to_txt(self):
       content = self.convert_pdf_to_txt()
       txt_pdf = open('text_pdf.txt', 'wb')
       txt_pdf.write(content.encode('utf-8'))
       txt_pdf.close()
if __name__ == '__main__':
    pdfConverter = PdfConverter(file_path='sample.pdf')
    print(pdfConverter.convert_pdf_to_txt())

答案 1 :(得分:6)

您的PDF文件没有可打印的空格字符,只是将字词定位在需要的位置。您可能需要做额外的工作来找出空格,也许通过假设多字符运行是单词,并在它们之间放置空格。

如果您可以在PDF阅读器中选择文本并正确显示空格,那么至少您知道有足够的信息来重建文本。

“fi”是一种印刷结扎线,显示为单个字符。您可能会发现“fl”,“ffi”和“ffl”也会发生这种情况。您可以使用字符串替换来替换“fi”来表示连字。

答案 2 :(得分:6)

作为PyPDF2的替代方案,我建议pdftotext

#!/usr/bin/env python

"""Use pdftotext to extract text from PDFs."""

import pdftotext

with open("foobar.pdf") as f:
    pdf = pdftotext.PDF(f)

# Iterate over all the pages
for page in pdf:
    print(page)

答案 3 :(得分:1)

我尝试在这里给出答案,但它对我不起作用。以下在我的情况下有效:

from pdf2image import convert_from_path
import pytesseract

images = convert_from_path("sample.pdf")
for i,image in enumerate(images,start=1):
    image.save(f"./images/page_{i}.jpg","JPEG")

print(pytesseract.image_to_string("./images/page_1.jpg"))

这里的想法是首先将 PDF 转换为图像,然后从中读取文本。这种方法保留了空格。

依赖:

  • conda install -c conda-forge tesseract
  • conda 安装 pdf2image
  • conda 安装 pytesseract

答案 4 :(得分:0)

PDFBox是一个非常好的工具,可以使用Java从PDF文件中提取文本。文本提取是它的强项;如果您想修改/注释或查看PDF文件,另一个工具可能会更好地为您服务。它具有识别文件空间的代码。

它还有用于处理连字的代码,但是你需要在类路径上有一个特定的国际化库才能工作--Icu4j。

您可以将Python中的PDFBox文本提取器作为命令行程序调用,而无需编写任何Java代码。

答案 5 :(得分:0)

PyPDF不读取换行符。

所以使用PyPDF4

使用

安装
pip install PyPF4

并以该代码为例

import PyPDF4
import re
import io

pdfFileObj = open(r'3134.pdf', 'rb')
pdfReader = PyPDF4.PdfFileReader(pdfFileObj)
pageObj = pdfReader.getPage(1)
pages_text = pageObj.extractText()

for line in pages_text.split('\n'):
    #if re.match(r"^PDF", line):
    print(line)

答案 6 :(得分:0)

我已经通过使用R解决了这个问题:

library(pdftools)
pdf_file <- "xxx/untitled.pdf"
text <- pdf_text(pdf_file)
cat(text[1])