ホーム読み物

AIの間違いは、AIが読んだ材料の間違いだった

本記事・一次資料に当たり直した記録から

2026-08-28 / 凪WORKS

「解説を三つ読んだ。どれも同じことが書いてあった。だから、そうなのだと思った」。制度や法改正について、この形で理解している事柄は、誰にでもいくつかある。当社にもあった。そして今月、そのうちの一つが違っていた。

この記事は、当社が自分の書きかけの文章を止めて、書き直した記録である。AIが事実と違うことを答える仕組みと、根が同じだと考えている。

解説記事を根拠に、法解釈を書きかけた

八月、士業の事務所へ向けた案内文を書いていた。切り口に選んだのは、行政書士法の改正である。根拠にしたのは、事務所や支援機関が出している解説記事だった。そこには、ある種類の書類の作成が、改正によって独占業務として明確になった、という趣旨のことが書かれていた。一本ではない。複数の記事が、似た説明をしていた。

社内の別の担当が、一次資料に当たった。国会に提出された法律案の要綱である。衆議院のサイトで誰でも読める。

そこで確認できたのは、デジタル技術の活用による業務改善が職責として明記されたこと、そして、行政書士以外の者による有償の書類作成の禁止について、その趣旨を「名目を問わず」と明確にしたことだった。

解説記事が書いていた「その書類の作成が新たに独占業務になった」という説明にあたる記述は、要綱の文面からは確認できなかった。確認したのは2026年8月22日である。

案内文は、要綱で確認できる範囲へ書き換えた。送っていない。もし送っていれば、受け取るのは行政書士である。法解釈を誤った文章が、その法律を扱う専門家に届いていたことになる。

なぜ、二次解説は事実に見えるのか

解説記事が悪いという話ではない。要綱や条文は、読み手を選ぶ。分量があり、言い回しが硬く、それ単体では何がどう変わったのかが掴みにくい。解説は、その間を埋めるために書かれている。当社も助けられている。

問題は、数の錯覚のほうにある。同じ説明を三度見ると、三つの独立した確認をしたように感じる。実際には、どれかがどれかを参照していることがある。出所が一つなら、確認は一回である。三本読んだという事実は、三本が同じ元を写した可能性を打ち消さない。

そして、検索でもAIの回答でも、先に出てくるのは解説のほうである。条文や要綱のページは、読みやすく作られていない。他のサイトから引かれることも少ない。機械が材料を集めるとき、集まりやすいのは解説記事である。

そう考えると、AIが制度について事実と違うことを答える場面の一部は、AIが話をこしらえているのではない。AIが読んだ材料が、そうなっている。当社は事業者のサイトについて「AIが古い情報を答える」と測っている。その当社が、二次解説を信じて文章を書いていた。

一次資料に当たる手順

特別なことはしていない。順に書く。

まず、その主張が誰の言葉として書かれているかを見る。「改正で○○となりました」と書いてあって、条文番号も資料名も添えられていないなら、それは書き手の要約である。要約が誤っているという意味ではなく、確かめる先がまだ示されていない、という意味である。

次に、出所の名前を探す。法律なら、法律案要綱、新旧対照表、公布された条文。制度なら所管する省庁のページ。統計なら、その調査を実施した主体。名前が分かれば、たいてい辿り着ける。

そのうえで、発信元のサイトで現物を開く。国会に提出された段階の法律案なら衆議院や参議院のサイト、公布後なら e-Gov 法令検索がある。孫引きをせず、原本のURLを控えておく。

開いたら、自分の言葉で差分を書き出す。「変わったこと」と「変わっていないこと」を分けて書く。今回、食い違いはここで見えた。要綱に書かれていたのは職責と禁止の趣旨の話で、業務範囲そのものの新設ではなかった。

最後に、確認した日を書き添える。制度は動く。日付のない確認は、あとから見たときに、いつの時点のものか分からなくなる。

時間は、思っているほどかからない。今回、要綱を開いて該当箇所を読むまでは、一度に片付く分量だった。書きかけの文章を止める判断のほうが、時間を使う。

自分のサイトに、何を置くか

ここから先は、読まれる側の話である。

事務所や会社が制度について書くとき、二次解説とまったく同じ書き方をすれば、材料としても二次解説と同じ扱いになる。区別がつく形にするなら、置くものは三つある。

一つは、根拠のURLである。条文、要綱、省庁の資料。本文中に置く。文末に「参考文献」とまとめるより、その主張の隣にあるほうが、人にも機械にも対応が分かる。

二つは、確認した日付である。「2026年8月22日時点」と書いておく。後から読む人が、その記述をいつのものとして扱えばよいかを判断できる。

三つは、書き分けである。「○○と定められている」と「○○と解説されている」と「当事務所はこう考える」を、同じ段落に混ぜない。混ざった文章は、どこまでが確かめられる話なのかが読み取れない。読み取れないものは、引用されるときに区別されないまま運ばれる。

目的は、読み手が自分で確かめられるようにすることである。その形にしておくと、機械も同じ道を辿れる。辿れない主張は、どこかの誰かの要約と見分けがつかない。

これで解決しないこと

一次資料に当たっても、決まらないことがある。改正法は、公布と施行で日付が違う。政令や省令、通達に委ねられている部分は、法律の本文を読んでも分からない。要綱の段階のものは、最終的な条文と表現が異なることもある。今回当社が見たのも要綱であって、施行後の運用まで確かめたわけではない。

一次資料へリンクを置いても、AIがそれを読むとは限らない。当社が自社について測った範囲では、回答の根拠に先に挙がったのは公式サイトではなく第三者のページだった(こちらの記事に記録がある)。リンクを置くことは、材料を用意することであって、読ませることではない。

そして、法令の解釈そのものは当社の領分ではない。今回分かったのは「解説記事の説明にあたる記述を要綱から確認できなかった」ということであって、当社がその解説を誤りだと判定したわけではない。個別の判断は、その分野の専門家に確かめていただくほかない。

「みんながそう書いている」は、根拠にならない

同じ構図は、自社の情報についても起きる。どこかのサイトに載った古い記載が、別のサイトに写され、その二つを材料にしてAIが答える。数が増えるほど、それらしく見える。当社は、事業者の登録番号が四つの情報源で二つの値に割れていた例を別の記事に書いた。あのときも、AIは作り話をしていなかった。書かれているものを、そのまま読んでいた。

確かめる側に回るときは、出所まで戻る。書く側に回るときは、読んだ人が戻れるように、URLと確認日を添えておく。当社が今回やり直したのは、この二つである。

制度についての説明や、自社の情報が、AIの回答と手元の資料とで食い違っていないか。気になる方は、お問い合わせからご相談ください。

凪WORKS/AI来客整備。本文中の法律案要綱の確認は、2026年8月22日に当社が衆議院のサイトで行ったものです。案内文の宛先・文面・業種の内訳は伏せました。要綱についての記述は、当社が同日に読み取った範囲であり、法令の解釈を示すものではありません。制度の内容についての個別のご判断は、専門家にご確認ください。AIの回答は日時や利用環境によって変わります。特定の表示順位・推薦・来客数の増加を約束するものではありません。

今すぐ相談 →