ビズサプリの三木です。

「AIは人間を滅ぼすのか」・・・この問いを、最近あちこちで目にします。怖くて、興味深く、たしかに気になるテーマです。ただ、内部統制やリスク管理を生業にしている立場からは、人間の滅亡というキャッチーな問題より先に、もっと差し迫った問題が足元で静かに進んでいるように感じます。それはAIに判断を渡し始めたことで、「人間が考え、確かめ、責任を持って承認する」という、これまでの組織の当たり前の営みが変容しつつあることです。

今回は、AIが人間を滅ぼすかどうかではなく、AIが人間の判断をどう空洞化させ、それが内部統制にとって何を意味するのかを考えてみたいと思います。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
■　1．形骸化の危うさ
----------------------------------------------------------------------

AIが人間を滅ぼすかどうかはひとまず置いておくとして、現場ではもっと地味な変化がすでに起きています。AIが生成した文章やデータを、忙しさのなかで人間がろくに検証せずそのまま採用する現象です。

AIはとにかく速く便利で効率的です。しかし内部統制の目で見ると、形式上は「人間が確認し、承認している」のに、実質的な判断はすでにAIに移っているケースが発生しています。AIの管理には人間の関与が欠かせない、すなわちHuman in the Loopという考え方のもと、承認の証跡だけは人間が残しているものの、この承認の形骸化がAIによってさらに進んでいるのではないかということです。承認の形骸化は、人材不足や管理職の多忙化、あるいは過剰な内部統制整備によってこれまでも問題となってきましたが、AIはこれまでにない速さと規模でこの形骸化を引き起こしかねません。

そしてこの問題は、現時点での統制の話にとどまりません。AIの答えを鵜呑みにする習慣が身につくと、人はだんだん自分で問いを立て、考え、検証する力を失っていきます。いわば思考の空洞化です。AIによる効率化の裏側で、説明責任や人材育成といった面で、組織にとって本当に大事なものが痩せていくおそれがあります。

この危うさに気づいて手を打ち始めた企業もあります。ソフトウェアテスト大手のSHIFTは、新人研修の中であえてAIを使わせない時間を設け、若手に課題設定力や仮説思考力といった「自分で考える力」を鍛えるトレーニングを取り入れたと報じられています（日経ビジネス、2026年）。AIを避けるわけではないけれど、AIを使いこなすためにはまず人間が考える力を持っていなければならない、という問題意識だと思います。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
■　2．AIエージェント時代への対応
----------------------------------------------------------------------

このAIによる空洞化はどこに向かうのでしょうか。この問題は、①ヒト・ヒト、②AI・ヒト、③AIエージェントという3段階に分けると見えてきやすいと思います。

まず①の「ヒト・ヒト」です。これまでは、ヒトがやった作業を、ヒトがチェックしていました。もっとも、これも建前どおりに機能していたとは限らず、「あの人がやったのだから大丈夫だろう」という思い込みにより実際にはほとんどノーチェックというケースは珍しくありませんでした。

そしていまは、②の「AI・ヒト」、すなわちAIの作業を人間がチェックする段階です。AIの言語能力の高まりとともにAIの出力を無条件に信じる傾向（自動化バイアス）があると指摘されており、人間の作業ですら怪しかったチェックが、相手がAIになって、いっそう形だけになりつつあります。AIが誤った情報を出力するハルシネーションの本当の脅威は、AIが誤情報を出力することではなく、正しそうな誤りを見抜けなくなる組織としての内部統制能力の低下にあると感じます。

そしてこれからは、③の「AIエージェント」（目標を与えると、一連の業務を自律的に判断・実行するAI）です。こうなると、AIエージェントがやった作業を、人間・・・もはやチェックしないかもしれません。たとえ人間による承認を残したとしてもAIエージェントの自動処理の速さと量の前で実際に内容はノーチェックとなり、統制が効いているように見えて実際には誰も中身を見ていない状況が起きかねません。

つまり、今の段階で形ばかりの承認があふれている会社は、AIの普及に伴いさらに統制が崩れる懸念があります。人間が検証しているように見えて実はノーチェック、そしてそれが暗黙の了解として問題視もされない社風のままAIエージェントを導入すれば、もはや人間としての管理を放棄したようなものです。AI活用を進めるうえで、ここはまじめに向き合うべき論点と考えています。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
■　3．人間が見るべき勘所
----------------------------------------------------------------------

では、どうすればよいのでしょうか。ポイントは、「すべてを人間が見る」でも「すべてAIに任せる」でもなく、対象の性質に応じて人間が確かめるべき勘所を設計することです。

たとえば、AIエージェントに業務を任せる場合は、個々の処理を後から追うより渡す権限そのものを制御し、人間がチェックすべき重要な分岐や最終確定箇所は人間がゴーサインを出すプロセス設計が重要になります。一方、大量に生成されるデータについては一つひとつを人間が確認するのは非現実的ですから、個別の結果ではなく仕組み、すなわちその出力を生み出しているロジックや前提の妥当性を確かめるべきでしょう。報告書のたたき台をAIに作らせるといった少量で個別性の高いデータであれば、従来どおり人間が中身を直接読んで内容そのものを確かめる必要があるでしょう。

こうして見ると、いずれの場合も「全部見る」ことでも「AI任せ」でもなく、量と検証可能性に応じて人間の有限の時間を配分しています。要するにリスクに応じた内部統制リソースの配分です。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
■　4．AIガバナンス
----------------------------------------------------------------------

もっとも、勘所を設計しただけでは十分ではありません。そもそも人間は、24時間365日、注意を払い続けられるような生き物ではありません。注意力の高い人もいれば低い人もいて、時には気を抜いたり体調不良の時もあります。それでも誰か一人がうっかりしても全体として大事故を起こさないようにしておくことが必要です。内部統制の要点は、個人の努力や注意力に過度に頼らず、組織の仕組みとして担保することにあります。

AIの確認についても、まったく同じことが言えます。「気をつけて確認しましょう」だけでは個人の注意力に責任を押し付けることになり、仕組みとして担保しているとは言えません。誰がどのように、どの箇所でAIの出力を検証するのか、まずいものを見つけたら誰に上げてどう対処するのか、どの業務でどこまでAIの利用を認めるのか、といったことを、ルールや体制として定め、プロセスを設計しておく必要があります。利用ルールの整備、判断に迷ったときのガイダンス、AI活用を束ねる管理組織、トラブル発生時の報告・対応の道筋。こうした仕組みを整えることが、いま各所で語られている「AIガバナンス」の実質です。「AIガバナンス」は新しい言葉ではありますが、中身はどれも内部統制がこれまで積み上げてきた発想の延長線上にあります。

これはAIにブレーキをかけるための話ではありません。AIは圧倒的に便利で、生産性を大きく引き上げてくれる強力な武器です。思いきってアクセルを踏むためにこそ、どこで人間が握るかという仕組みが必要です。AIガバナンスは、AI活用を縛る側面もゼロではありませんが、その趣旨は安心してAIに任せられる範囲を広げ、その活用を後押しするためのものです。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

AIが人間を滅ぼすかどうかは私には分かりません。ただ、AIに判断を委ねきったときには、いざAIが暴走しても暴走に気づくのが遅れてしまいます。こうしたことが積み重なって、AIが人間を滅ぼすリスクは静かに高まっていくのかもしれません。もう少し踏み込んで言えば、自分で考えることをやめた時点で、すでにある意味、AIによって「人間としての一部」を滅ぼされ始めているのかもしれません。

私たちの中心事業である内部監査や内部統制にとってもAIは巨大なトピックです。私たちもAIにどう向き合えばよいのか考える日々が続いています。これからも考えることをやめないようにして、上手いリスク管理でAIを使いこなす、そのための土台づくりを、内部統制の観点からお手伝いできればと思っています。

本日もAW-Biz通信をお読みいただきありがとうございます。