生成ＡＩの急激な進化と国内外の対応の変化

　２０２３年４月に「チャットＧＰＴ」を開発している米国企業、OpenAI社のＣＥＯ（最高経営責任者）サム・アルトマン氏が来日して当時の岸田文雄首相と面会した頃から、生成ＡＩ活用の是非について議論が活発化し、さっそく５月には中央省庁でまず機密性の低い文書から、職員による生成ＡＩの使用を認めていくことになりました。同じく５月に政府は「ＡＩ戦略会議」を設置して「ＡＩに関する暫定的な論点整理」を取りまとめました。

　この「論点整理」で示された日本のＡＩ政策の三本柱は、①国際的な議論とリスクへの対応、②最適な利用、③開発力の強化であり、これに基づいて、リスクへの対応に関しては、まずは法律よりも機敏な対応が可能なガイドラインを中心に検討が始まりました。

　一方、同じく５月に広島で開かれたＧ７サミット（主要7カ国首脳会議）では、日本が議長国として、信頼できる高度ＡＩシステムに関するルールを策定する「広島ＡＩプロセス」がスタートしました。

　同じ頃、ヨーロッパではいち早くＡＩ法規制の議論が進んでいましたが、米国においても近いうちにＡＩ規制法が導入されるのではないかという説がありました。著名な科学者などがＡＩの高度化のリスクを指摘して話題になり、当時のバイデン大統領もＡＩ規制の必要性について言及するなど、法規制へ向かう雰囲気もあったように思います。

　結果的には、米国では７月末に主要ＩＴ企業（いわゆるビッグテック）が「ボランタリー・コミットメント（自主的取り組み）」を発表しました。これは、企業がホワイトハウスに対して、安全なＡＩ開発のために自主的に努力しますと約束したような形です。安全性やセキュリティは確保しつつも、ＡＩ開発を停滞させず、イノベーションを促進させるという米国の意図かと思います。

　米国では、同年10月末に大統領令が発表され、企業の自主的取り組みを尊重しつつも、安全保障上必要な場合には既存の法令を使うなど、できることを最大限進める姿勢を表明しました。武器開発にも利用可能と見られる大規模汎用ＡＩモデルの開発者には、政府への事前の届出を求め、クラウドインフラを大量に使用する外国事業者を確認するといった方針が示されました。

　11月には、英国のリシ・スナク首相が提唱したＡＩの安全性をテーマとする「ＡＩセーフティサミット」が開催され、それをきっかけにＡＩの安全性向上策を検討するＡＩセーフティ・インスティテュート（ＡＩＳＩ）が英国、米国、日本、シンガポール、韓国などで創設されることになりました。今後も設立する国が増えていくと思われます。

広島ＡＩプロセス

　前述した「広島ＡＩプロセス」は、閣僚級会議等を経て２０２３年末に国際指針を含む包括的な政策枠組みの合意に至りました。これは非常に大きな成果でした。23年に世界中で生成ＡＩの急速な進化に対する懸念が広がっていた、まさにそのタイミングで世界初の国際的な指針等にＧ7各国が合意できたからです。全12項目で構成された内容は、大規模生成ＡＩなどの高度なＡＩシステムに焦点を当て、全てのＡＩ関係者向けの指針と、開発者向けの国際規範があります。

　まず、ＡＩを市場に投入する前にリスクを特定、評価、低減するための対策を求め、市場投入後には脆弱性やインシデントの発見と改善を求めています。また、ＡＩの特性や限界、不適切な利用領域を公表すべきとしています。

　それから、ＡＩガバナンス方針の策定・開示など予防的な管理体制の構築を求めています。今では、たとえＡＩを利用している自覚がなくても実はバックグラウンドでＡＩが稼働しているといったケースも増えており、ＡＩ利用者は既に1億人以上に達しているかもしれません。こうした状況下で万一ＡＩが不正に乗っ取られたらリスクは非常に深刻かつ広範に及ぶと考えられ、ソフトウェア、ハードウェア両面からの徹底したセキュリティ対策が欠かせません。

　広島ＡＩプロセスでは、ＡＩで生成されたコンテンツを閲覧者が識別できるようにするための「電子透かし」やコンテンツの出典を閲覧者が知ることができる来歴管理技術の開発や導入が奨励されています。現在の技術では、画像をカメラで撮影してＰＤＦ化すると「電子透かし」が消えてしまうとか、まだテキストには対応できないといったこともあり、「奨励」という形にとどまりました。

　指針ではＡＩ利用者のリテラシー向上も重要なポイントとしています。ＡＩは間違った回答をする可能性があるので、問題が発生した際に適切に対応できるように利用者がＡＩの仕組みを理解しておくことが重要です。

　この指針には世界各国から賛同が集まりました。賛同国・地域が集まる「広島ＡＩプロセス・フレンズグループ」の参加国・地域は現在55となっています。

ＡＩガバナンスをめぐる議論の活発化

　日本は、ＯＥＣＤのＡＩ原則や広島ＡＩプロセスの議論も踏まえ、総務省・経済産業省が２０２４年４月に「ＡＩ事業者ガイドライン（第１・０版）」を策定しました。高度なＡＩシステムを開発する事業者に対しては、広島ＡＩプロセスの国際指針等が引用されています。ＡＩの開発・利用の方法は事業者によって異なることから、すべてのＡＩ関連事業者がそれぞれ自社のＡＩ活用リスク等を考え、把握し、管理するためのポリシーを作成し、ＰＤＣＡサイクル（計画・実行・評価・改善）を回すことが重要です。

　ＡＩの信頼性や安全性に関する国際的な議論は活発化し、２０２４年３月、国連総会において「持続可能な開発のための安全、安心で信頼できるＡＩシステムに係る機会確保に関する決議」が採択されました。わが国も当初から共同提案国として支持してきた決議です。

　国連総会決議には広島ＡＩプロセスでの議論の内容が多く取り入れられたほか、コンピューター・インフラが未整備の途上国や少数言語圏もＡＩにアクセスできるようにすべきという趣旨が込められています。

　社会的に重要な意思決定へのＡＩの関与が増えていく可能性がある一方で、現状ではＡＩが学習するデータのほとんどが英語などの国際的にメジャーな言語なので、ＡＩによる回答が偏る可能性を認識しておく必要があります。

　24年５月には、ＡＩに関する初めての国際条約が欧州評議会によって締結されました。主に政府や自治体による非軍事用途のＡＩ使用を対象に人権保護などを義務付ける内容で、９月から各国による署名が始まり、ヨーロッパ以外でも署名する国があります。なお、軍事利用に関しては本条約の対象外で、国連ではＬＡＷＳ（自律型致死兵器システム）規制について議論されています。

　24年５月にはＥＵのＡＩ法が成立しました。この法律は人権尊重やＥＵの価値観を前面に出している印象があります。ＡＩをリスクの高さに応じて四つのレベルに分類し、例えば、カメラで顔を撮影して人物評価を行うようなＡＩシステムは禁止、医療機器にＡＩを使用する際には基準適合義務など、リスクが高いほど厳しい規制が課せられます。リスクが低い用途のＡＩについては自主的な取り組みを促進するというスタンスです。また、汎用ＡＩモデルについては、技術文書の作成などを義務付け、大規模なモデルにはリスク評価や厳しいテストの実施などの義務を上乗せしています。

　国連は、24年９月、ＡＩに関する高級諮問機関の報告「人類のためのＡＩ統治」を公表しました。地域ごとのＡＩ格差を埋める基金の創設、多様な専門家で構成される独立した国際科学パネルの設置等の提言が盛り込まれています。