AIの透明性
顧問弁護士である賛多弁護士は、SaaSビジネスを営む柴田社長からAIを利用した商品に関する相談を受けています。
* * *
柴田社長：先日は大変お世話になりました。
賛多弁護士：開発も順調だと伺っていますが、いかがでしょうか？
柴田社長：AIを利用した製品開発を進めているのですが、各種法令による規制について何から手を付けて、整理をしていけばよいのかが非常に難しくて…
賛多弁護士：確かにそうですね。近年の動きからして、すごいスピードで技術も進化していて、それに対する規制についても新しいものであることからこそ頭を悩ませてしまいますよね。
柴田社長：そうなのです。個人情報保護法など、従来からある法令で対応しないといけないものもあれば、2025年に制定された「AI推進法」というものもありますよね。どういったものか、事業者にどのような影響があるか教えてもらえますか。
賛多弁護士：承知いたしました。いわゆる「AI推進法」というのは、「人工知能関連技術の研究開発及び活用の推進に関する法律」のことで、2025年9月に全面施行されています。AIを自社で開発している企業だけでなく、AIを搭載したツールを活用するサービスの開発・提供事業者なども含めて広く適用対象となっています。
柴田社長：かなり広く適用されるということで、当社もどこまで対応するのかとともに、どのような対応まですれば世間からも信頼を得られるものか考えています。
賛多弁護士：検討にあたって、まず、法令等がどのような建付けとなっているのかを理解してもらう必要があると思います。「AI推進法」は、いわゆる憲法のような基本原則を明示しているものであり、具体的にやるべきことは、その下のガイドラインとして定められているいわゆる「AI事業者ガイドライン」に記載されています。
もっとも、EUのAI規制と異なり、これらに違反したからといって巨額の罰金が科せられることはなく、具体的にどのような処分がされるかは明記されていませんが、AI推進法上は第16条の「指導・助言その他の必要な措置を講ずるものとする」という定めに基づいて処分がされる可能性があることとなっています。
指導・助言に従わない場合などの悪質なケースにおいて、どのような措置が講じられるのかは不明ですが、ビジネス展開においては透明性や信頼性の確保が重要かと思いますし、大手との取引や海外展開も検討しておられるということであれば、より各種規制の遵守にコミットする必要があります。
柴田社長：透明性や信頼性の確保が重要なのはそのとおりですね。
賛多弁護士：「AI推進法」では、AIを搭載したツールを活用するサービスの開発・提供事業者も含めた「活用事業者」（第7条）は、その責務として、自ら積極的なAI関連技術の活用により事業活動の効率化及び高度化並びに新産業の創出に努めるとともに、国・地方公共団体が実施する施策に協力しなければならないとされています。
そのうえで、「AI事業者ガイドライン」では、全主体に共通する基本理念・原則・共通指針などを前提に、主体別に重要な事項を挙げて解説しています。
その中で、AIモデルの開発やAIシステムの開発はせずに、既存/新設システムにAIを組み込むといったAIシステムを実装してサービスを提供するような事業者であれば、AIシステム実装時とサービス提供時とでそれぞれ重要な事項が挙げられています。
その内容は多岐に亘っており、チェックリストやワークシートも公表されているところではありますが、企業に求められる具体的な対応策としてビジネス展開という観点からすると、例えば、
①透明性の確保の一環として、自社プロダクトのAIがどのようなデータに基づき判断しているかといった点について具体的に記述するAIポリシーの策定・公表
②情報の明示や適正な管理・活用の一環として、AI生成コンテンツへのラベル表示や権利侵害的な利用を防ぐオプトアウトの導線の確保と出力フィルタリングなどの実装
③安全性の確保の一環として、外部LLMやAPIが最新の基準に準拠しているかの確認やセキュリティ対策としての定期的な脆弱性判断
などが重要なものとして挙げられるかと思います。
柴田社長：これらを遵守するというのはかなり大変ですが、開発スピードやビジネス展開も鑑みて、対応を検討します。
賛多弁護士：海外の状況や「AI推進法」を含む各種ガイドラインも詳細に理解しておく必要があるかと思いますので、別の機会にでもお話できればと思います。
* * *
2025年9月から、いわゆるAI推進法として「人工知能関連技術の研究開発及び活用の推進に関する法律」が施行されています。また、経済産業省からAI事業者ガイドラインが公開されおり、AI技術の発展に伴って規制も日々アップデートされています。（参照URL：https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html）。
AIの利活用においては個人情報保護法などの各種法令の遵守も非常に重要ですが、諸外国における規制の枠組みや日本のAI推進法といった法令や各種ガイドラインといった大きな枠組みについても理解しておくことが非常に重要ですので、専門家にご相談いただき、予め整理されておくことをお勧めいたします。
執筆：鳥飼総合法律事務所 弁護士 鵜飼 剛充
