〇 米OpenAI（オープンAI）のサービス「ChatGPT」をはじめとする生成AIを、地方自治体の業務に活用しようとする動きが広がりつつある。
2023年4月に活用を表明した神奈川県横須賀市を皮切りに、10自治体以上が活用を決定し、試行利用・試験導入を実施するなど取り組みを開始している。
活用に向け検討を始めるという自治体はさらに多い。
活用に取り組む自治体が期待するのは、行政文書に多い文章作成などの業務効率化に加え、政策立案や施策実施に伴うアイデアの気づきの補助だ。一方で、個人情報や非公開情報・機密情報の漏洩、間違った生成情報の拡散、著作権侵害などが大きなリスクになるという点が懸念されている。
そうした中、兵庫県神戸市も2023年5月にChatGPTの活用を決定し、6月23日から試行利用を開始している（9月22日まで実施）。条例を改正し、独自の利用環境の下、本格利用に向けた検討を進めている。同市が6月22日に出した報道発表資料によると、この条例改正は全国に先駆けて実施したものだという。
この発表の通り、同市の取り組みで特徴的なのは、まず生成AIを業務で利用するためのルールを条例で定め、それに基づくガイドライン（第1版、試行利用版）を策定して試行利用に臨んでいることだ。その意図や、ガイドライン策定と利用環境構築の経緯などを、神戸市企画調整局デジタル戦略部課長（情報政策担当）の尾田広樹氏と、同デジタル戦略部課長（ICT業務改革担当）の箱丸智史氏に聞いた。
生成AIの利用によるリスクから市民の権利を保護。
生成AIを業務利用するにあたって改定した条例とは、「神戸市情報通信技術を活用した行政の推進等に関する条例」である。安全性の確認されていない生成AIに個人情報をはじめとする機密情報の入力を制限する条項を追加した。追加された条項は、「本市の機関等の職員は、職務上知り得た情報のうち神戸市情報公開条例第10条各号に掲げるものを含む指令を、次の各号に掲げるものに対して与えてはならない。ただし、安全性が確認されたものとして市長が別に定める場合を除く」というものだ。
この条項を追加したのは、生成AIを職員が業務利用することで、市民の権利を侵害するリスクが生じるという懸念があったためだという。尾田氏は「個人情報や機密情報の漏洩リスクが考えられる。また職員が学習された情報だと気づかず使用した情報が、さらに学習され間違った情報となって拡散されるおそれがある。セキュリティポリシーを逸脱するような従来のリスクとは異なるリスクが、生成AIの利用にはあると考えた」と話す。
ChatGPTの活用に関心を持ち、庁内で実施したデモンストレーションに参加した市長も、同様の懸念を表明。市民の権利・義務に関わる重要なことであるため、市長のリーダーシップの下、ルールを条例で規定して市民の不安を解消していくこととした。
条例に追加された条項は、生成AIのうちAIチャットボットのみを対象としており、文言も「AIチャットボット」だけを使っている。生成AIという技術の定義や活用法が流動的であるため、限定した記述にしたという。「神戸市の情報セキュリティポリシー（神戸市情報セキュリティポリシー）では“生成AI”と表記し幅広く規制をかけているが、法文である条例（神戸市情報通信技術を活用した行政の推進等に関する条例）で生成AIを定義し規制するのは時期尚早と考えた。そこで情報漏洩の危険がより高い、テキストを入力して使うAIチャットボットとした」（尾田氏）。
数少ない「ひな型」を参考にガイドライン作成。
AIチャットボット利用に関する条例改定作業の次に取り組んだのが、実際に職員が利用するための具体的な指針を解説した「神戸市生成AIの利用ガイドライン」の作成である。利用に際して職員が順守すべき事項や禁止事項、利用・構築する場合に必要な手続きなどのほか、活用例や上手なプロンプト入力方法などマニュアル的な内容も盛り込まれている。現時点では試行用のガイドラインであり、「試行の中で出てきた事実や課題に基づいて、本格利用の際などに随時改定していくもの」（尾田氏）としている。
ガイドライン作成で苦労したのは、参考にできる情報が極めて少なかったことだという。前述の通り、条例改定、ガイドライン策定に至った背景には、自治体による生成AIの活用は市民の権利・義務に関わる事柄だという認識がベースにある。そのため利用にあたっては、まず安全性を確保するためにどうしたらいいかを明示する必要があった。
だが「通常は下敷きになるような法令や条例があるものだが、自治体が生成AIを利用した例がなく、どうガイドラインを作ったらいいものか悩ましかった」と尾田氏は振り返る。“安全性の確保”と言いつつも、具体的に何が実現されれば確保されるのかを示すことが難しかったのだ。検討の過程で唯一、参考にできそうと考えてそうしたのが、日本ディープラーニング協会（JDLA）が策定・公開していた生成AI利用ガイドラインのひな型「生成AIの利用ガイドライン」である。
「神戸市生成AIの利用ガイドライン」は、デジタル戦略部で情報セキュリティに携わる尾田氏ら数名に、兵庫県弁護士会所属の弁護士を加え、約1カ月で作成した。「相談に乗ってもらった弁護士の柿沼太一先生は、偶然にもJDLAの有識者委員も務めていたため非常に心強かった」（尾田氏）。また生成AIの活用に関する項目に関しては、デジタル戦略部でICT利活用を推進する箱丸氏らのメンバーもチェック作業に加わった。
| 神戸市情報通信技術を活用した行政の推進等に関する条例 ※改定 |
|---|
|
| 神戸市情報セキュリティポリシー（神戸市情報セキュリティ対策基準）※改定 |
|
| 神戸市生成AIの利用ガイドライン（試⾏利用版）※新たに制定 |
|
公開情報であっても原則として利用禁止。
「神戸市生成AIの利用ガイドライン」では、条例でAIチャットボットに対して非公開情報の入力を禁止していることをあらためて提示。プライバシー情報や審議検討中の情報など、神戸市情報公開条例で示されている該当項目を具体的に挙げている。また利用に際して注意すべき事項として、業務以外での利用禁止をはじめ、活用範囲や出力内容を職員自ら適切に判断し自らの責任の下で利用することなどを挙げている。
尾田氏は、記載内容を決めるまでの経緯を「非公開情報の入力禁止や業務以外の利用禁止などは一般的に言われている事項であり、それらを明記することに関してメンバーからの異論はなかった」と振り返る。試行錯誤したのは、利用制限や禁止事項をどう表現するかだったという。「そもそも生成AIという技術の実態を、われわれ自身もよく理解していなかったのが当時の状況で、安全性を担保するために何を避けるべきかを主に検討した」（尾田氏）。
条例に追加された条項は、生成AIのうちAIチャットボットのみを対象としており、文言も「AIチャットボット」だけを使っている。生成AIという技術の定義や活用法が流動的であるため、限定した記述にしたという。「神戸市の情報セキュリティポリシー（神戸市情報セキュリティポリシー）では“生成AI”と表記し幅広く規制をかけているが、法文である条例（神戸市情報通信技術を活用した行政の推進等に関する条例）で生成AIを定義し規制するのは時期尚早と考えた。そこで情報漏洩の危険がより高い、テキストを入力して使うAIチャットボットとした」（尾田氏）。
数少ない「ひな型」を参考にガイドライン作成。
AIチャットボット利用に関する条例改定作業の次に取り組んだのが、実際に職員が利用するための具体的な指針を解説した「神戸市生成AIの利用ガイドライン」の作成である。利用に際して職員が順守すべき事項や禁止事項、利用・構築する場合に必要な手続きなどのほか、活用例や上手なプロンプト入力方法などマニュアル的な内容も盛り込まれている。現時点では試行用のガイドラインであり、「試行の中で出てきた事実や課題に基づいて、本格利用の際などに随時改定していくもの」（尾田氏）としている。
ガイドライン作成で苦労したのは、参考にできる情報が極めて少なかったことだという。前述の通り、条例改定、ガイドライン策定に至った背景には、自治体による生成AIの活用は市民の権利・義務に関わる事柄だという認識がベースにある。そのため利用にあたっては、まず安全性を確保するためにどうしたらいいかを明示する必要があった。
だが「通常は下敷きになるような法令や条例があるものだが、自治体が生成AIを利用した例がなく、どうガイドラインを作ったらいいものか悩ましかった」と尾田氏は振り返る。“安全性の確保”と言いつつも、具体的に何が実現されれば確保されるのかを示すことが難しかったのだ。検討の過程で唯一、参考にできそうと考えてそうしたのが、日本ディープラーニング協会（JDLA）が策定・公開していた生成AI利用ガイドラインのひな型「生成AIの利用ガイドライン」である。
「神戸市生成AIの利用ガイドライン」は、デジタル戦略部で情報セキュリティに携わる尾田氏ら数名に、兵庫県弁護士会所属の弁護士を加え、約1カ月で作成した。「相談に乗ってもらった弁護士の柿沼太一先生は、偶然にもJDLAの有識者委員も務めていたため非常に心強かった」（尾田氏）。また生成AIの活用に関する項目に関しては、デジタル戦略部でICT利活用を推進する箱丸氏らのメンバーもチェック作業に加わった。
| 神戸市情報通信技術を活用した行政の推進等に関する条例 ※改定 |
|---|
|
| 神戸市情報セキュリティポリシー（神戸市情報セキュリティ対策基準）※改定 |
|
| 神戸市生成AIの利用ガイドライン（試⾏利用版）※新たに制定 |
|
公開情報であっても原則として利用禁止。
「神戸市生成AIの利用ガイドライン」では、条例でAIチャットボットに対して非公開情報の入力を禁止していることをあらためて提示。プライバシー情報や審議検討中の情報など、神戸市情報公開条例で示されている該当項目を具体的に挙げている。また利用に際して注意すべき事項として、業務以外での利用禁止をはじめ、活用範囲や出力内容を職員自ら適切に判断し自らの責任の下で利用することなどを挙げている。
尾田氏は、記載内容を決めるまでの経緯を「非公開情報の入力禁止や業務以外の利用禁止などは一般的に言われている事項であり、それらを明記することに関してメンバーからの異論はなかった」と振り返る。試行錯誤したのは、利用制限や禁止事項をどう表現するかだったという。「そもそも生成AIという技術の実態を、われわれ自身もよく理解していなかったのが当時の状況で、安全性を担保するために何を避けるべきかを主に検討した」（尾田氏）。
その中で大きな一歩を踏み出せたのは、非公開情報の利用禁止に加え、公開情報であっても原則として利用を禁止したことだったという。
「神⼾市情報セキュリティポリシー」では、AIチャットボットやそれ以外の⽣成AI（画像や⾳楽などを出⼒するもの）は、扱う情報の機密性に関わらず情報セキュリティ管理者の審査を受けて許可を得なければならないと明記している。これは、「公開済みの情報」であっても、審査と許可なしでは利用禁止であることを意味する。利用する場合は、非公開情報と同様に「情報セキュリティ管理者の審査と市長指定が必要」とした。尾田氏は、「そこまで踏み込むことについてメンバーの意見対立はなかったものの、悩ましい判断だった」と説明する。情報の内容によっては公開情報なのか非公開情報なのか微妙な場合もあり、見解の違いが起こりうるからだ。
そこで、安全性を担保するという原則にしたがって、いったんは一律利用禁止として、その上で安全性が確認された情報だけ入力可能にしていくという方針を打ち出した。「公開された情報に対しては、安全性うんぬんに関係なく利用していいとの考えがあることは承知しているが、自治体職員として市民に不安を抱かせる利用は避けるべきだと考え、原則として利用禁止に踏み込んだ」（尾田氏）。
安全性を確認した生成AIとして「Azure OpenAI Service」を指定。
ガイドラインには、生成AIを利用・構築する場合に必要な手続きについても示されている。
神戸市職員が生成AIを利用する場合、市長が指定したもの、もしくは情報セキュリティ管理者が許可したシステムおよび入力可能な情報を、適切に使用する必要がある。クラウドサービスなど外部サービスの利用を含むシステムを構築する場合についても、指針が明記されている。こうした内容に基づいて、安全性を確認し市長が指定した生成AIサービスが、米Microsoft（マイクロソフト）の「Azure OpenAI Service」（AzureからChatGPTを使えるようにするサービスのこと）である。これを、職員が内製した安全性の高いシステム環境に限定して、利用を認めている。
条例で利用が認められている「安全性を確認したもの」（ツール）の具体的な指針は、「神戸市情報セキュリティポリシー」のなかの「神戸市情報セキュリティ対策基準」に明記した。ここで、安全性を担保するために挙げてある点は2つ。1つは、入力情報が許可なく学習されないこと。そしてもう1つは、許可なくシステム提供事業者による監査などにより閲覧されないこと、つまりログなど利用の記録を事業者に取得されないことである。
尾田氏は「学習されないことは、Azure OpenAI Serviceの契約で明記されていたし、（Azure OpenAI Serviceが利用している）オープンAIのサービスにおいても個別に利用契約を結ぶことで実現可能だった。ログに関しては、採用検討時に調べた限りではAzure OpenAI Serviceは提示した条件を認めれば取得しないと確認できた」と説明する。こうして、安全性が担保されたサービスとしてAzure OpenAI Serviceを採用することにした。
神戸市は以前からMicrosoft 365を導入しており、職員のコミュニケーションツールとしてMicrosoft Teamsを利用していることもAzure OpenAI Serviceの採用を後押しした。Teamsをユーザーインターフェースとして、Azure OpenAI Serviceを利用するチャットボットを構築できるからだ。
Microsoft 365の活用技術に詳しい職員が、TeamsやAzure OpenAI Serviceを使いこなすにあたって、どのような方法があるかマイクロソフトなどから情報収集していく中で、開発ツールを使って内製できることがわかったという。「開発コストをかけず、スピード感を持って試行環境を開発できると考えた」（箱丸氏）。
チャットボットの開発環境としては、マイクロソフトの「Power Virtual Agent」を採用した。Power Virtual Agent は、Microsoft 365（Teams）のライセンスを所有している場合は無料で使えるというメリットもある。
Teamsを利用したチャットボットを開発したのは、デジタル戦略の一環としてMicrosoft 365の活用に関する研修会などを開催したりMicrosoft 365で使えるアプリを開発したりしている職員だ。「この職員が（Microsoftの）ユーザーコミュニティから情報収集し、安全性を担保できる利用環境としてTeamsを利用したチャットボットを提案し、内製に至った」（箱丸氏）。
開発したアプリのソリューションに関する解説と、前述の利用ガイドライン（試行用）は、神戸市のホームページで公開している。こうした理由を尾田氏は「我々が（ChatGPT利用の）先行自治体かどうかわからないが、苦労を重ねて作成してきたので今後活用を検討する自治体に対して参考になるのであればという想いで公開した」と話す。
条例の改定が他の自治体からの関心を集めたことも背景にある。「特に、DX先進自治体と言われているところからの問い合わせが多かったが、議会に上程する前の段階だったため答えることができずにいた。ガイドライン策定についても同様に問い合わせがあると予想したことも、公開した理由だ」（尾田氏）。
試行利用に様々な部署の112人が参加、資料作りでの活用が目立つ。6月23日に始まった試行利用には、112人が参加している。当初100人を想定して参加希望者を募ったところ、各局・区役所など様々な部署から参加申し込みがあったという。
試行利用における用途は様々だが、事務職員が資料作りに活用するケースが目立つという。例えば、PowerPointによる資料作成で、プレゼン用に記述するノート欄の説明文をChatGPTで作成するといった使い方だ。このほか、教育関係の職員が運動会で40人のクラス全員が参加できる集団競技のアイデア出しをするという使い方もみられた。市内にある有馬温泉をPRするための事業計画において、こんなPR活動をしたら市民がどんな反応をするかといったことを事前に探るという利用例もあったという。
参加職員の利用状況は当初の想定通り、試行開始時点と比較すると徐々に減少傾向にあるという。新しいツールの利用開始からしばらくして見られる傾向だとしながらも、「利用を再び活性化させるため、具体的に検証したい内容を参加職員に投げかける施策も行い、情報収集していきたい」（尾田氏）とした。また、適切な回答を得られやすい上手なプロンプトの入力方法など、利用ノウハウを集積することも検討している。
また、試行利用では従量課金制であるAzure OpenAI Serviceの利用コストの検証と、それに対する費用対効果が得られるのかという検討も重要だと指摘する。「現在の100人程度の利用ならば大きなコストにならないが、全職員1万人が本格利用開始したときに費用対効果が得られるのか、利用によって業務の効率化や市民サービス提供の質向上が可能なのかを検討する必要がある」（尾田氏）。
神戸市では、8月末に試行利用途中段階の分析を実施。9月22日の試行期間終了後に、様々な分析を施して、本格利用の際に全庁規模へ移行するのか、利用対象をある程度絞って利用開始するのかを検討していく予定だという。
