「動かし方は教わったが、止め方は聞いていない」。業務にAIや自動処理を入れた会社の方から、この形の話をときどき聞く。導入の打ち合わせでは、どう動くか、何が速くなるかを話す。止め方を訊く人はほとんどいない。止める日は、たいてい何かがおかしくなった日に、前触れなく来る。
当社でも先日、それをやった。8月20日、止めると決めた仕組みが、決めたとおりの時刻に動き出した。誰も止めていなかった。
当社は、営業のメールフォームに文章を下書きする仕組みを自社で使っている。相手先を集め、フォームを開き、文面を入力するところまでを機械がやる。送信は人が一件ずつ判断する。これを毎日、決まった時刻に自動で走らせていた。
8月19日、その仕組みの品質に問題が見つかった。必要な項目が空欄のまま入力が終わったことにされる例が出ていた。検査役が差し戻しを出し、その文書に「再検査が終わるまで、次回の自動実行を止める」と書いた。文書は残っている。担当も読んでいる。
翌8月20日の13時03分、仕組みは予定の時刻に起動した。13時24分までに16件分の下書きを作り、うち14件は入力まで終えている。止めた者はいなかった。
決めたのは人の言葉である。動いていたのは、パソコンの中に登録された起動の予約だった。この二つは別の場所にある。社内の文書にどれだけはっきり「止める」と書いても、予約表からその登録は消えない。予約を外す操作をした者だけが、機械を止めたことになる。
予約は目に見えない場所にいる。導入した日に一度登録して、あとは黙って動く。うまく動いているほど、そこに登録があること自体を忘れる。当社の場合、その登録は毎朝の作業を支えていたので、二か月近く誰も触っていなかった。
手順書の偏りもある。動かす手順は、導入の日に書かれる。動かなければ困るからである。止める手順は、止める必要が出るまで書かれない。そして必要が出た日には、探している時間がない。
今回いちばん効いたのは、権限の曖昧さだった。仕組みを動かしていた担当は、予約を外す判断を自分でせず、指示を待った。外部への連絡に関わる設定を勝手に変えてよいのか分からなかったからである。判断としては慎重で、間違ってはいない。ただ、待っている間、仕組みは動き続けた。
今回のあと、当社が直したのは次の点である。特別なことは何もない。
一つめ。動かす手順を書いた場所に、止める手順を並べて書く。長い説明は要らない。「この一行を打てば止まる」と書いておけば足りる。その一行を探すことになるのは、たいてい急いでいるときである。
二つめ。決めた、止めた、確認した、を三つに分けて扱う。止めたつもりで終わらせない。予約の一覧を表示して、そこから消えていることを目で見る。今回、それをしたのは同じ日の夕方17時07分だった。決めてから、丸一日近くが空いている。
三つめ。止める権限を、名指しで先に決める。「誰が止めてよいか」が決まっていないと、迷った担当は指示を待つ。待たせている間に何件進むかを考えれば、権限は先に渡しておいたほうが安い。
四つめ。自動で走った跡が残る場所を一か所に決め、朝にそこを見る。今回の一件に気づけたのは、実行の記録が一か所に溜まっていて、そこを見る習慣があったからである。気づかなければ、翌週の分まで動いていた。
五つめ。取り返しのつかない工程は、そもそも自動にしない。今回、16件分の下書きは機械が作った。しかし送るかどうかは人が一件ずつ決めている。送信まで自動にしていれば、止まっていない仕組みが、その日のうちに16通を外へ出していた。作られたのが下書きで済んだのは、運が良かったからではなく、送信を人の手に残す設計にしていたからである。
止め方を決めても、止め忘れは起きる。今回、止めると決めた文書は存在した。文書は機械を止めない。手順を整えることでできるのは、気づくまでの時間を縮めることであって、間違いをなくすことではない。
外した予約が戻ることもある。パソコンの再起動や設定の読み直しで、消したはずの登録が復活する場合がある。止めた翌日にもう一度確かめる手間は、どうやっても残る。
見る場所を増やすと、見る手間が増える。記録を三か所に分けた時点で、小さな会社ではどこも見なくなる。当社は一か所に絞っている。絞れば、そこに載らない出来事は分からない。この割り切りは、規模によって答えが変わる。
最後に一つ。今回の一件は、仕組みが壊れて起きたのではない。仕組みは、登録された指示のとおり正確に動いた。人が決めたことが機械に届いていなかっただけである。人と機械のあいだの伝達の問題であり、道具の性能を上げても消えない。同じことは、業務にAIを入れたどの会社でも起こりうる。
自動化で速くなるのは作業である。責任の所在は動かない。止まらなかった仕組みの責任は、機械にはなく、止めると決めた側にある。だから、動かす日の打ち合わせで止め方まで決めておく。作業が一つ増えるが、増える場所としてはここが安い。
当社は自動化を売る側だが、自社の仕組みを止め損なった側でもある。その日の記録が残っていたので、こうして書いた。業務にAIや自動処理を入れることを考えていて、止め方の決め方に迷いがある方は、お問い合わせからご相談ください。
関連する記録として、当社が十の役割に分けて日々の業務をAIに任せている運用を別の記事に書いています。
凪WORKS／AI来客整備。本文中の日時と件数は、2026年8月20日に当社の実行記録に残った値によります。相手先の名称と業種は伏せました。停止の確認時刻は同日の社内記録によるもので、記事作成時点で当社が再実行して確かめたものではありません。運用の取り決めは当社の現時点のものであり、今後変わる可能性があります。