【連載】自治体・企業の業務を変革する「AIエージェント」活用実践　第3回

～「使う」から「任せる」へ。業務自動化の新しいアプローチ～

AIに「仕事」を任せるための3条件。精度・安全・統制のセキュリティ対策

・「AIが嘘をついたらどうするの？」
・「住民の個人情報を入力して、情報漏洩しないか？」
・「誰でも勝手に使えてしまうのは危険ではないか？」

今回は、こうした不安を解消し、AIに安心して仕事を任せるための「3つの柱（精度・安全・統制）」について解説します。

1.【精度】AIに「カンニングペーパー」を渡す（RAG技術）

2.【安全】データは「学習させない」、環境は「閉じる」

3.【統制】「誰が・何を・どう使うか」を管理する

4.信頼できるパートナー選びが成功の鍵

【精度】AIに「カンニングペーパー」を渡す（RAG技術）

一つ目は「AIの回答が信用できない」という点です。
ChatGPTなどの生成AIは、インターネット上の一般的な知識しか持っていません。そのため、社内固有のルールや最新の条例については知らず、嘘をつくことがあります。
これを防ぐのが、RAG（ラグ：検索拡張生成）という技術です。簡単に言えば、AIに「社内のマニュアルや規定集」を渡し、「ここから答えを探してね」と指示する仕組みです。

・これまで：「交通費の精算方法を教えて」→ AI「一般的な企業のルールは…（嘘）」
・RAG活用：「交通費の精算方法を教えて」→ AI「（社内規定PDFの第5条を参照して）当社のルールでは、領収書を添付して〇〇システムから申請してください」

このように、AIの脳みそだけでなく、「確かな根拠」を参照させることで、業務で使えるレベルまで精度を高めることができます。

【安全】データは「学習させない」、環境は「閉じる」

二つ目は「情報漏洩」です。無料のAIサービスに個人情報を入力すると、そのデータがAIの学習に使われ、他社の回答に現れてしまうリスクがあります。
これを防ぐための鉄則は以下の2点です。

1. 入力データを学習させない設定： Azure OpenAI Serviceなどの企業向けサービスを利用し、「入力したデータをAIの学習には使わない」という契約・設定を行うこと。
2. 閉じられた環境：インターネットを経由せず、専用線やVPNで接続された「閉じたネットワーク」の中にAI環境を構築すること。

特に自治体様の場合、LGWAN（総合行政ネットワーク）という特殊な環境で業務を行っています。アイネスでは、このLGWAN環境内からでも安全に生成AIを利用できる仕組みを提供しており、既に多くの自治体様で「セキュアなAI活用」を実現しています。

【統制】「誰が・何を・どう使うか」を管理する

三つ目は「ガバナンス（統制）」です。全ての職員が、すべてのデータにアクセスできてしまうのは問題です。例えば、人事評価データや未公開の政策情報などは、限られた人しか見られないようにする必要があります。
そこで重要になるのが、「権限管理」の機能です。

・人事部のAI：全社員の評価データを参照できる。
・一般職員のAI：社内規定とマニュアルだけを参照できる。

このように、ユーザーの役職や所属に応じて、「AIに見せてよいデータ」を制御する機能が不可欠です。また、「誰がどんな質問をしたか」というログを管理者がチェックできる仕組みも、不正利用の抑止には欠かせません。

信頼できるパートナー選びが成功の鍵

AIエージェントを導入する際は、単に「便利そうだから」だけでなく、今回ご紹介した「精度・安全・統制」の3条件が揃っているかを確認することが重要です。
私たちアイネスは、長年、自治体様や金融機関様の「絶対に止まってはいけない、漏れてはいけないシステム」を支えてきました。その実績とノウハウを活かし、LGWAN対応やセキュアな環境構築を含めた、「安心して業務を任せられるAI基盤」をご提供します。

つなぎAIソリューションの詳細はこちら

第1回　第2回

※ 本文に掲載されている会社名・団体名および製品名は各社または団体等の商標または登録商標です。