現場の日報を生成AIに読ませる前に ― Garbage In, Garbage Out とデータの一次性
「過去数年分の紙の日報やヒヤリハット報告書をPDF化して生成AI（LLM）に読ませ、異常予兆や類似不具合を対話で検索できるようにする」——製造業DXで人気のこの取り組みには、運用を始めた多くの現場でぶつかる致命的な壁があります。Garbage In, Garbage Out（ゴミを入れれば、ゴミしか出ない）です。この記事では、なぜ手入力データ×生成AIが危ういのか、そしてAIを活かす前提として何が必要かを整理します。
Garbage In, Garbage Out（GIGO）とは
GIGOは、入力データが不正確なら、どれほど優秀な処理をしても出力は不正確になる、という情報処理の原則です。生成AIは高度な言語処理能力を持ちますが、与えられたテキストを基本的に「正しい事実」として扱います。土台のデータが歪んでいれば、AIはその歪みを増幅する装置になります。
手入力データに必ず紛れる3つのノイズ
人が手書きした日報やExcelの手入力には、認知科学的にも現場実態としても、次のノイズが避けられません。
- 入力モレ・省略：忙しい現場で、微細な異音やわずかな寸法ブレなど「書くほどでもないこと」が省かれる
- 事後修正・記憶の捏造：作業後にまとめて書くため、時刻や数値が記憶ベースの「だいたい」になる
- 保身による隠蔽・改ざん：「自分のミスにしたくない」「ラインを止めると怒られる」から、規格ギリギリの値を「問題なし」に書き換える
これらは個人のモラルの問題というより、圧力下で起きる構造的な現象です（背景は「性善説の品質管理はなぜ破綻するのか」）。
生成AIは「テキストの真偽」を検証できない
生成AIは、「入力された数値が、物理現象として本当にその時刻に発生したか」を検証する能力を持ちません。加えて、事実に基づかないもっともらしい出力（ハルシネーション）も起こり得ます。経済産業省・総務省のAI事業者ガイドラインでも、こうした生成AI特有のリスクへの留意が求められています。結果として、改ざんされたデータや漏れだらけの日報を元に、AIは「高精度に見える誤った分析」を出力します。
オートメーション・バイアス ― AIの答えを信じ込む
人は「AIが過去データを検索して言っているのだから客観的だろう」と信じ込みやすい傾向があります（オートメーション・バイアス）。これが悪循環を生みます。元データが歪んでいれば、AIは誤りに"客観性"の衣を着せてしまいます。下図はその一例です。
現場が忙しさから「微小な振動」の記録を省略
AI「過去データ上、異常振動の予兆なし。設備摩耗ではなく操作ミス」
管理者がAIを信じ「作業者の再教育」を指示（誤った対策）
根本原因（機械的摩耗）が放置される
設備の突発停止・不良流出が発生
現場の事象は3層構造になっている
製造現場の事実（Fact）は、次の3層で捉えられます。紙日報をAIに読ませるアプローチは、最も不確実な第3層だけをすくい取ろうとしている点に無理があります。
| 層 | 内容 | 性質 |
|---|---|---|
| Physical Layer（物理層） | 温度・圧力・寸法・トルク・設備信号などの一次データ | 改ざんしにくい客観的事実 |
| System Layer（構造層） | 誰が・いつ・どの手順で・どの資材を使ったかのメタデータ | 記録の仕組みで担保できる |
| Human Layer（人間層） | 作業者が「どう感じ、どう記録したか」の二次テキスト | 主観・省略・改ざんが混入する |
真のポカヨケや品質解析に必要なのは、第1層・第2層の「改ざんできない一次データ」です。
結論：AIを賢くする前に「データの一次性」を担保する
生成AIの活用自体を否定するものではありません。AIを品質管理のパートナーにする前提は、食わせるデータそのものを"嘘のつけない"構造にしておくことです。
- 一次データを直接吸い上げる：手書き・事後入力をやめ、センサー・秤・PLCから直接取得する
- 手順をシステムで拘束する：スキャン・通過しなければ次へ進めない物理インターロック（Hard Interlock）
- 改ざん不能に保存する：後から書き換えられないWORM（Write Once, Read Many）構造で残す（監査に強い記録とは）
よくある誤解
- 「AIを入れれば現場の課題が魔法のように解決する」：土台のデータが歪んでいれば、AIは歪みを増幅するだけです
- 「デジタル化＝一次データ化」：タブレット入力でも、人が打つ限り省略・改ざんは残ります
- 「AIの分析だから客観的」：オートメーション・バイアスに注意。出力の前提データを疑う姿勢が要ります
- 「テキストが多いほど精度が上がる」：Human Layerの量ではなく、Physical/System Layerの正確さが効きます
まとめ
- GIGO：入力が歪めば、生成AIの出力も歪む
- 手入力には入力モレ・事後修正・保身の改ざんが必ず紛れる
- AIはテキストの真偽を検証できず、ハルシネーションも起こす
- オートメーション・バイアスで、誤りが"客観"として信じ込まれる
- AI活用の前提は、一次データ・物理インターロック・WORMで「嘘のつけない土台」を作ること
この分野を扱うなら ― QUALIKEEP でできること
ここまでは生成AI活用の落とし穴とデータの一次性そのものを解説してきました。正直にお伝えすると、QUALIKEEP はAIによる分析や、センサー・PLCからの物理一次データ（温度波形など）の自動取得そのものは行いません（それらはAI基盤・計測設備の領域です）。QUALIKEEP が担えるのは、前述のうち主にSystem Layer（誰が・いつ・どのロットを・どう扱ったか）の記録です。QRスキャンでサーバー時間に記録し、改ざん検証付きで残すため、"あとで書き換えた日報"ではない一次記録の一部をそろえられます。AIに食わせる前段の、嘘の入りにくい記録を仕組み化したい場合の選択肢になります。
まず「嘘の入りにくい現場記録」を、スキャンから積み上げませんか。
QUALIKEEP の機能や料金を詳しく見る →ご注意
本記事は一般的な考え方と公開情報を整理したものです。AI活用の指針は、経済産業省・総務省のAI事業者ガイドライン等の最新情報をご確認ください。
参考・出典
※ 外部サイトの内容・URLは変更される場合があります。最新の情報は各機関の公式ページをご確認ください。