全国初・神戸市がAI条例を施行 リスクを正しく恐れ、実務者がAIを利活用できる制度設計

　条例が施行されることで、神戸市の職員がAIを利用する際には、活用結果が及ぼす影響レベルに応じたリスクアセスメントを行い安全性を確認することを義務付けます。また、生成AIの利用にあたっては、非公開情報の入力を禁止し、議会説明でもAIに判断を委ねることなく自らの責任で説明することを定めます。その他にも、神戸市の事業を受託する事業者は、AIを活用する場合や業務上知りえた情報を生成AIに入力する場合は、神戸市に事前協議することが定められます。

なぜ今、包括的なAI条例なのか：求められるルールメイキング

　欧州議会で包括的なAI規制法案が可決されたことをはじめ、世界各国でAIに関する規制の動きが加速している中、日本でも同様に、AIに関する規則の見直しが進んでおり、2024年3月を目途に新たなAI事業者ガイドライン※1が策定される見通しです。新たなガイドラインの策定後、企業や官公庁などの利用者側では、独自の規制や自主的な取り組みが求められることになります。

　このたびのAI条例は、今後、生成AIに限らず様々なAIの利用が行政分野で進んでいくことを考慮し、情報漏えい以外のリスクも想定した包括的なAIに関して市の活用ルールを定めることで、市民の権利や利益を保護することを目的としています。

※1 AI事業者ガイドライン関連ページ(総務省) https://www.soumu.go.jp/main_sosiki/kenkyu/ai_network/02ryutsu20_04000019.html

神戸市のAIに対するリスク対応

AIの利用が進む中で、従来のデジタル技術とは異なる個人の権利・利益に対するリスクが生じることが懸念されています。過去にはオランダで、児童手当の電子申請システム内で不正な申請や詐取を通知するAIが差別的な動作をし、不正をしていないにも関わらず返還等を求められた結果、約26,000世帯が経済的に困窮したという事案も発生しました。
神戸市では、AI活用により、このような事案を発生させないため、有識者会議を設置し、国や諸外国の最新動向を踏まえた検討を行いながら、AI利用者として神戸市のAI活用ルールの整備に着手しました。この動きについて、有識者会議の構成員である江間有沙氏（東京大学国際高等研究所東京カレッジ 准教授・国AI戦略会議構成員）からは「国でガイドラインの策定が進んでいるが、実務事例が必要であり、神戸市の取組みが自治体のテストケースとなるのであれば素晴らしい」といった発言もいただきました。
　条例の施行後は、職員の責務などAI活用に関する基本事項などを定めた基本指針や、市が利用するAIのリスクアセスメント基準を2024年9月末までに策定する予定です。

神戸市が目指すAI利活用の姿：庁内において積極的なシミュレーションを実施

　神戸市はデジタル技術を使った業務改革を進めており、阪神・淡路大震災以後の財政悪化により職員数を削減しながら、他都市よりも効率的に速いスピードで行財政改革を進めてきました。これから行財政改革を進めるうえでは、AIなどのデジタル技術の活用が不可欠です。
　生成AIについては、2023年6月から３か月間の試行利用の結果、アンケート案やペルソナ作成などの場面で行政業務の効率化が見込まれ、2023年12月にとりまとめた試行利用の報告書※2を踏まえ、2024年2月から本格利用を開始しました。アンケート案の作成では、実証実験に対する市民向けのアンケートを行うために、アンケートの設問や回答の選択肢を提示してもらいました。その結果、アンケートの質や作業スピードが向上しました。またペルソナの作成では、新型コロナワクチン接種を進めるため、仮想の市民をペルソナとして生成AIで作成し、そのペルソナが市の広報紙を見てどのような感想を持つか、どのような行動をとるかといったシミュレーションしながら、広報コンテンツの検証を行い、生成AIを活用した業務の効率化に大きな可能性を感じる結果を得ることができました。
　今後は単に使ってみるだけでなく、様々な業務が存在する市役所において、AIが実務に役立つ場面・条件を１つずつ明らかにしながら、「どの場面でどう使えばAIが役立つのか」という、実効性のある活用モデルを確立することで、先進的な取り組みを進めていきます。
　さらに、庁内マニュアルなどの独自データを活用して、AIに回答してもらう環境構築も進めています。
　革新的な技術であるAIを積極的に活用しつつ、リスク管理を行いつつ適切な活用を目指します。

▼ 「神戸市におけるChatGPT試行利用検証報告書」より

※2 神戸市におけるChatGPT試行利用検証報告書 https://www.city.kobe.lg.jp/documents/63928/hokokusho.pdf

ニュースレターの配信登録

　神戸市では、報道機関の皆様に、本市のAIやデータ利活用、行政DXなど、本市のスマートシティの取り組みの背景や事例、効果などをより深く理解していただくために、ニュースレターの形式で最新情報をお届けすることにいたしました。配信を希望される方は、以下の要領でご登録をお願いします。

登録URL：https://a4f55249.form.kintoneapp.com/public/4e478028e2cbb552a0095963eb19b9879df5883dc1f301fa941aec495e10a17c 【登録情報】 ・報道機関名 ・部署 ・役職 ・氏名 ・配信先のメールアドレス ▲ 登録ページ

ニュースレターの内容

神戸市のスマートシティの取り組みについて、以下のような内容を詳しくお伝えします。
・事業を実施する背景（背景課題、国の動向、デジタル技術の動向など）
・デジタル技術の紹介（デジタル技術の仕組みと特長）
・デジタル技術やデータを利活用した事例の紹介
・市民や事業者の声やニーズ、参加や協力の方法
・デジタル技術やデータ利活用の取り組みがもたらす効果
・神戸市の独自性や特色、他の自治体との比較
・今後の展望や目標

配信の流れ

①ニュースレター配信のご登録（登録のあった宛先にニュースレターを配信）
　↓
②神戸市からニュースレター配信
　↓
③ニュースレターを踏まえた個別取材等

配信頻度

年数回程度の配信を予定