鳥取県が自律型AI活用の指針を改訂 住民の意向を踏まえた人間主導のAI活用へ

自律型AIは、決められた処理を繰り返すだけでなく、状況に応じて次の作業を選ぶ仕組みです。問い合わせ対応や社内申請では便利ですが、誤った判断がそのまま顧客や住民への対応につながる場面もあります。

海外では、AIエージェントの自律性をどこまで許すかという議論が続いているでしょう。BinxAIが企業の導入現場で見てきた範囲では、性能比較より先に承認・監視・記録・停止の担当を決める方が、運用を始めやすい傾向があります。

この記事の対象読者

次のような立場で、生成AIや自律型AIの利用ルールを考える方を想定しています。情報システム部門だけでなく、業務部門の責任者にも関係するテーマです。

• 生成AIの社内ルールを、禁止事項の列挙から業務手順へ更新したい方
• AIエージェントを顧客対応、審査、申請処理へ組み込みたい方
• AIの誤作動が起きたとき、誰が止めるか決まっていない企業
• 導入効果を自動化率だけでなく、確認工数や復旧時間でも見たい方
• 既存の情報管理規程や業務手順書へAIの統制を追加したい方

鳥取県の改訂方針から企業が読み取る運用の変化

改訂の概要と背景

日本経済新聞の報道によると、鳥取県は2024年6月に策定した職員向けの人間主導AI活用指針を改訂する方針です。AI技術の進化を踏まえ、2026年8月中に改訂を完了する見通しとなっています。

改訂では、AIの想定外の動作への対策と、住民の意向を優先する考え方が強化される見通しです。

企業が読み取るべき変化の本質

この動きは、AIを使うか使わないかだけを決める段階からの移行として読めます。AIに何を任せ、人間がどこで判断するかを定める段階へ進んでいるということです。

企業では、住民を顧客や取引先に置き換えて考えると、既存業務へ応用しやすくなります。

人間主導AIの実務上の焦点は、AIの性能ではなく、判断を人間へ戻す条件です。

• 承認、AIの提案を誰が確定するか
• 監視、出力や実行結果を誰が確認するか
• 記録、入力、判断、変更内容をどこへ残すか
• 停止、異常時に誰が利用を止めるか
• 説明、本人や顧客へ判断の経緯をどう伝えるか

今すぐ問い合わせる

自律型AIで先に決めるべき業務単位の境界線

業務単位で切り分ける理由

自律型AIの適用範囲は、部署単位ではなく業務単位で切り分けます。同じ営業部でも、議事録の整理と値引き承認では、許される自動化の範囲が異なるためです。

まずはAIが扱うデータと、外部へ影響する操作を分けましょう。社内文書の要約は人間の確認を前提に進めやすい業務です。一方、顧客への送信や契約条件の変更は、確定前に人間の承認を置く設計が考えられます。

• AIが実行してよい処理、検索、分類、下書き、候補提示など
• 人間の承認が必要な処理、送信、登録、金額変更、契約判断など
• 異常として扱う条件、根拠不足、入力外の依頼、想定外の操作など
• 停止する条件、誤送信、情報漏えいの疑い、出力の反復エラーなど
• 停止後の連絡先、業務責任者、情報システム、法務や広報など

この一覧を業務フローへ重ねると、AIへ任せる範囲が明確になるでしょう。規程に「適切に確認する」と書くだけでは、確認者の不在時や緊急時に判断が揺れやすい。

人間主導AIをROIにつなげる導入手順

導入効果を測るには、最初から全社展開を目指さないことです。業務を一つ選び、AIが作業を進める箇所と、人間が確認する箇所を図にします。

• 業務タスクを、入力、処理、判断、出力、例外対応に分解する
• 入力データに個人情報や機密情報が含まれるか確認する
• AIの自動実行と、人間の承認をフロー上で分ける
• 異常時のエスカレーション先と停止権限を決める
• 導入前後の確認工数、手戻り、復旧、説明の負担を記録する

ROIは、AIが処理した件数だけでは捉えにくいものです。確認にかかる時間が減ったか、判断のばらつきが抑えられたか、事故時に業務を戻せたかを同じ業務で比較します。

導入前に基準値を記録しておくと、AIの導入後に「便利になった」という印象だけで判断せずに済みます。自動化率が上がっても、確認や事故対応が増えれば、業務全体の負担は下がらないかもしれません。

鳥取県の事例を社内規程へ落とし込むときの留意点

行政事例を企業へ置き換える視点

鳥取県の指針改訂方針を企業へ応用する場合、行政と企業の違いを踏まえた読み替えが必要です。住民の意向を顧客や従業員の意向に置き換えて考えましょう。

AIが効率を上げても、本人が望まない処理を進めれば、業務の受け手に不利益が生じる可能性があります。

社内規程は、AIの利用禁止事項だけで完結させません。業務ごとに、利用目的、入力データ、承認者、停止条件、判断履歴、本人への説明方法を記載します。

• 利用目的を、業務名と成果物の単位で記載する
• 入力してよいデータと、入力してはいけないデータを分ける
• AIの提案を確定する最終判断者を置く
• 異常時の介入担当者と、利用停止の権限者を定める
• ログの保存範囲と、見直しのタイミングを決める

想定外の動作への備え方

想定外の動作は、テスト時に見つからない形で発生することがあります。通常ケースだけでなく、入力が欠けた場合や依頼が曖昧な場合、外部サービスが停止した場合も想定して確認しましょう。

規程を作るだけでは運用になりません。停止訓練と記録確認まで業務手順へ含めます。

今すぐ無料相談する

自社で進めるときに詰まりやすい設計作業

自社だけで進める場合、最初に詰まりやすいのはAIの選定ではありません。業務の境界線と責任の所在を、関係者の合意として残す作業です。

• 業務タスクを分解しても、例外処理が手順書に書かれていない
• 現場責任者と情報システム部門で、停止条件の認識が異なる
• ログを残す項目が決まらず、導入効果を比較できない
• 規程は完成しても、担当者が実際の画面で確認できない

外部の支援を使うと、業務の棚卸し、データ基盤、業務アプリ、規程、研修を別々に進めずに整理できます。社内の担当者が判断すべき箇所と、技術面で補う箇所を分けやすくなるでしょう。

BinxAIの「みっちゃくん」は、月額5万円からで、初期費用と追加費用はありません。API、サーバー、ツールの費用は実費です。業務タスクの棚卸し、AI推進や社内規約策定支援、研修、AIアドバイザー、月次レポートなどを提供しています。

みっちゃくんの支援内容を確認する

よくある質問

Q1. 自律型AIは どの業務から始めるとよいですか？

停止しても人間が代替できる業務から始めましょう。社内文書の整理や問い合わせの下書きなど、最終送信や確定処理を人間が担える業務が候補です。

Q2. 人間の確認は すべての処理に必要ですか？

すべてに同じ確認を置く必要はありません。外部への影響、扱うデータ、誤りが起きた場合の回復可能性を見て、承認が必要な処理を業務ごとに決めましょう。

Q3. 既存の生成AI社内ルールには何を足せばよいですか？

利用目的や入力禁止データに加えて、AIの実行範囲、承認者、異常時の連絡先、停止権限、判断履歴の保存方法を追加します。抽象的な注意書きは、業務フロー上の担当へ置き換えるとよいでしょう。

Q4. AIガバナンスの効果は何で測ればよいですか？

処理件数だけでなく、確認工数、手戻り、判断のばらつき、事故後の復旧、説明に要する工数を記録します。導入前の状態を残すと、改善の有無を比較できるでしょう。

Q5. 専任のAIガバナンス部門がなくても始められますか？

専任部門がなくても着手できます。既存の情報管理規程と業務手順書に、利用目的、入力範囲、承認フロー、エスカレーション先を追記します。まず一つの業務で停止手順を試すところから始めてください。

鳥取県の改訂方針が示すのは、AIを導入する前に、住民や顧客の意向を踏まえた判断者を置く考え方です。まず対象業務を一つ選び、承認・監視・記録・停止の担当を書き出すところから始めてください。

本記事に挙げた他社の料金や制度は、執筆時点で公開されていた情報です。お申し込みの前に、各社の最新の内容をご確認ください。