こんにちは、AI Labの神﨑です。
今回は、PDFをAzure Document Intelligence(以降、Document Intelligenceと呼ぶ)のような高コストなAIサービスにかける前に、送られてきた文書がFAXDMであるかを低コストで判別するシステムの検証プロジェクトを行いました。このプロジェクトでは、FAXDMが一般的に黒塗りの部分が多いことから、PDFを画像化して各ピクセルにおけるRGB値を取得し、画像内に占める暗いピクセルの割合を算出することでFAXDMを判別しています。
このシステムの実現により、大量の文書の中からFAXDMを除外することが可能となります。大量の文書を一度にDocument IntelligenceでOCRを行っている現状において、不要な文書をDocument Intelligenceに通すことを防ぎ、長期的なコスト削減が見込めます。結果として、この方法でテストデータに紛れ込ませたFAXDMを全て弾くことに成功しています。
目次
グレースケール変換
今回はPython上でOpenCVを使用しました。PDFから変換された画像データからピクセルデータを抽出し、暗いピクセルを含む割合を算出します。
OpenCVで用いられている輝度計算では、R, G, Bそれぞれに以下のように重みをつけて変換します。
Y = 0.299・R + 0.587・G + 0.114・B
グレースケール変換は、カラー画像を白黒画像に変換する処理であり、画像の各ピクセルの色情報(赤(R)、緑(G)、青(B))を明るさ(輝度)に置き換えます。このとき、単純にRGBの平均を取るのではなく、人間の目の感度に基づいて重み付けを行います。
具体的には、緑の光が最も目にとって明るく感じられるため、緑の成分には最も高い重み(0.587)が割り当てられています。赤は次に感度が高く、0.299の重みがつけられ、青は最も低いため0.114という小さな重みが付与されます。これらを組み合わせることで、視覚的に自然な明るさを持つグレースケール画像を生成します。
この計算はITU-R BT.601という国際標準に準拠しており、テレビや映像産業における輝度計算の基準となっています。OpenCVのcv2.cvtColor()関数はこの標準に従ってRGB画像をグレースケールに変換するため、私たちが目で見る明るさに近い結果を得られるのです。
今回のプログラムでは、PDFから取得したカラー画像をこの方法でグレースケール化したのち、指定した閾値より暗いピクセルを数え、その割合を算出することで、ページ内の暗さの程度を客観的に評価しています。これにより、FAXDMのように暗いピクセルを多く含む画像ページを効果的に検出できる仕組みとなっています。
環境構築
まずはテストデータを作成します。
- 入力用PDFデータの作成(FAXDMを含む) 判別精度の検証を行うため、通常の資料の中に意図的にFAXDMを紛れ込ませた入力用PDFデータを作成しました。具体的には、以下のページをFAXDMとして設定しました。
4, 9, 14, 18, 25, 32, 42, 49, 54, 61, 64, 71, 77ページ
このPDFファイルを用いることで、私たちが開発したロジックが、通常の書類とDMを正確に区別できるかを厳密にテストすることができました。
- 検証環境の準備 開発プロセスを通じて、処理対象のPDFファイルが格納されたフォルダ(カレントディレクトリ)に対して、判別スクリプトを実行する形をとりました。
71ページのPDFに上記の13ページ分のFAXDMを全体に分散させて配置し、計84ページのPDFをテストデータとして使用しました。
ディレクトリ構成
check_faxdm/ ├── src/ │ ├── check_dark_ratio.py # analyze_pdf_for_faxdm関数 │ └── main.py # 実行用スクリプト ├── target_pdf/ │ └── document_with_faxdm.pdf # 処理対象のPDFファイル ├── output/ │ └── result.json # 解析結果のJSONファイル(実行時に作成) ├── README.md ├── .gitignore └── requirements.txt
メイン処理の実装フロー
Phase 1: 単純な二値化アプローチ
方針と実行
初期方針としては、画像データを二値化し、黒と判定されるピクセル数を全体のピクセル数で割るというシンプルなものでした。
課題
この単純な二値化手法では、変換が極端なため文字と塗りつぶされた背景が同等に扱われてしまうことが課題となりました。 ここから精度を向上させるため、方針を変更しました。
Phase 2: 画像化したPDFの輝度に基づく判定基準への変更と閾値設定
上記Phase 1の課題を解決するため、黒か白かの二値ではなく、輝度に着目したロジックへと改良しました。
改良後のアプローチでは、以下の二つの閾値に基づいて判定を行うようにしました。
暗いピクセルとする閾値 (DARK_THRESHOLD):80
輝度値が80以下であるピクセルを「暗いピクセル」と定義しました。
FAXDM判定基準 (FAXDM_THRESHOLD):0.07 (7%)
暗いピクセルが画像全体に占める割合が7%以上であれば、DMと判定する基準としました。 また、入力画像がカラーであった場合を考慮し、処理の冒頭でグレースケール化を行うようにしました。これにより、FAXDM判定時における条件を一定以上暗いピクセルの割合として算出し、閾値を設定できるようにしました。
課題と解決
初めは暗いピクセルの判定に用いる閾値を全体の7%としていましたが、1枚のみFAXDMを判定できていなかったため、実行しながら閾値の調整を行いました。 最終的に、閾値を5%とすることで全てのFAXDMを判別することが可能になりました。
最終的なスクリプトと動作解説
check-dark-ratio.py
from pathlib import Path
import numpy as np
import cv2
import pypdfium2 as pdfium
def analyze_pdf_for_faxdm(pdf_path, dark_threshold=80, faxdm_threshold=0.05):
pdf_path = Path(pdf_path)
pdf = pdfium.PdfDocument(str(pdf_path))
results = {
"pdf_file": pdf_path.name,
"pages": [],
"faxdm_pages": []
}
for page_index in range(len(pdf)):
page = pdf.get_page(page_index)
pil_image = page.render(scale=200 / 72).to_pil()
img = np.array(pil_image)
if img.shape[2] == 4:
img = cv2.cvtColor(img, cv2.COLOR_RGBA2RGB)
gray = cv2.cvtColor(img, cv2.COLOR_RGB2GRAY)
dark_pixels = np.sum(gray < dark_threshold)
total_pixels = gray.size
dark_ratio = dark_pixels / total_pixels
results["pages"].append({
"page_number": page_index + 1,
"dark_ratio": dark_ratio
})
if dark_ratio >= faxdm_threshold:
results["faxdm_pages"].append(page_index + 1)
page.close()
pdf.close()
return results
main.py
from pathlib import Path
from check_binary import check_dark_ratio
import os
import json
import re
def inline_lists(json_text):
pattern = re.compile(r'\[\s*(.*?)\s*\]', re.DOTALL)
return pattern.sub(lambda m: '[' + m.group(1).replace('\n', '').replace(' ', '') + ']', json_text)
if __name__ == "__main__":
base_path = Path(__file__).parents[1]
target_pdf_folder = os.path.join(base_path, "target_pdf")
pdf_file_path = os.path.join(target_pdf_folder, "document_with_faxdm.pdf")
output_folder = os.path.join(base_path, "output")
result_json_path = os.path.join(output_folder, "result.json")
analysis_result = check_dark_ratio.analyze_pdf_for_faxdm(pdf_file_path)
os.makedirs(output_folder, exist_ok=True)
json_str = json.dumps(analysis_result, ensure_ascii=False, indent=2)
json_str_cleaned = inline_lists(json_str)
with open(result_json_path, "w", encoding="utf-8") as f:
f.write(json_str_cleaned)
動作解説
本スクリプトは、PDFファイルの各ページを画像としてレンダリングし、グレースケールに変換した上で暗い画素の割合を計算し、その割合が閾値を超えたページをFAXDMと判定します。以下に主要な処理の流れを説明します。
- PDFの読み込みとページ数の取得 analyze_pdf_for_faxdm関数内で、PDFファイルを読み込みます。 読み込んだPDF内の全ページ数を取得し、1ページずつ処理します。
pdf = pdfium.PdfDocument(str(pdf_path))
for page_index in range(len(pdf)):
page = pdf.get_page(page_index)
- ページ画像のレンダリング ページを200dpiにスケールアップしてレンダリングし、PIL形式の画像に変換します。
PIL画像を
numpy配列に変換し、OpenCVで扱いやすいデータ構造に整えます。
pil_image = page.render(scale=200 / 72).to_pil() img = np.array(pil_image)
- 色空間の調整 pypdfium2レンダリングの画像はRGBA(4チャンネル)形式で返されることが多く、透明度情報(アルファチャンネル)を含みます。
画像のチャンネル数が4の場合、OpenCVの
cvtColorを用いてRGB(3チャンネル)に変換し、アルファ成分を除去します。
if img.shape[2] == 4:
img = cv2.cvtColor(img, cv2.COLOR_RGBA2RGB)
- グレースケール化 RGB画像をグレースケール画像(輝度画像)に変換します。
OpenCVの
cv2.COLOR_RGB2GRAYを使い、各画素の色の明るさを表す1チャンネルの画像に変換します。
gray = cv2.cvtColor(img, cv2.COLOR_RGB2GRAY)
- 暗い画素の割合計算 グレースケール画像の中で、輝度値が
dark_threshold(デフォルト値を80に設定)未満の画素数をカウントし、 全画素数に対する比率(暗さの割合)を算出します。
dark_pixels = np.sum(gray < dark_threshold) total_pixels = gray.size dark_ratio = dark_pixels / total_pixels
判定と結果保持 該当ページの番号と暗い画素割合を
results["pages"]に格納し、暗い割合がfaxdm_threshold(デフォルト0.05)以上のページ番号をresults["dm_pages"]に追加します。JSONファイルへの保存 main.pyでは、解析結果のJSONを読みやすく整形したうえで、改行やスペースの扱いを調整し
result.jsonに保存しています。
JSONには以下のような形式で保存されます。
{
"pdf_file": "pdf_with_faxdm.pdf",
"pages": [{"page_number": 1,"dark_ratio": 0.0037108014927988843},{"page_number": 2,"dark_ratio": 0.003246822064018305},{"page_number": 3,"dark_ratio": 0.02330314063668834},{"page_number": 4,"dark_ratio": 0.1547925843938516},{"page_number": 5,"dark_ratio": 0.022440836806932343},{"page_number": 6,"dark_ratio": 0.009997399647323938},{"page_number": 7,"dark_ratio": 0.01771238238315344},{"page_number": 8,"dark_ratio": 0.012951617414194825},{"page_number": 9,"dark_ratio": 0.16367772583390933},{"page_number": 10,...
"faxdm_pages": [4,9,14,18,25,32,42,49,54,61,64,71,77]
}
今後の展望
今回の検証プロジェクトにより、FAXDMの持つ「黒塗り部分の多さ」という視覚的特性を利用した判別手法が、低コストでありながら極めて高い精度を持つことが証明されました。
今後の展望としては、以下の点が中心となります。
タイトルのキーワード検出との統合検討
今回の手法は画像バイナリデータに基づくものですが、このプロジェクトの初期構想には、書類タイトルだけでもFAXDMと判断できるかという検証も含まれていました。もし、輝度判定が苦手とする種類のDM(例:黒塗りが少ないDM)が存在する場合に備え、将来的には、タイトルベースのキーワード検出など、他の低コストな判別手法と組み合わせてロバスト性(堅牢性)を高めることも視野に入れています。
閾値の継続的な最適化
今回の検証では、テストデータとして使用した通常の資料の暗いピクセル率は5%以下であるという知見を得ました。今後の多様なFAX文書に対応するために、DARK_THRESHOLD (80) や DM_THRESHOLD (0.05) の値を、継続的な運用データに基づいて柔軟に調整・最適化するメカニズムを検討します。これにより、誤検知や見逃しを最小限に抑えることを目指します。
この画像処理に基づくDM判別システムは、複雑で高価なAIソリューションを導入する前に、事業効率とコスト削減を両立させています。



