2024年5月、EUはEU域内でAIに関わる製品やサービスを展開する幅広い企業を対象に、人工知能（AI）のリスクに応じて包括的にAIを規制する法案（以下、AI規制法）を世界で初めて採択した。

AI規制法が採択された背景には、AIが及ぼす負の影響についての指摘が相次いだことがある。例えば、生成AIは複雑なデータを瞬時に生成可能だが内容の信ぴょう性は誰も保証できず、こうしたデータは時に利用者を混乱させ、差別や偏見などを助長しかねない。そのほか、AIが学習したデータの取り扱いが不適切だった場合は著作権や肖像権といった権利の侵害を引き起こし得る点も指摘されている。このような現状を踏まえて、AIが「公共の権利と価値を尊重するツール」として正しく使用されることを目指し、AI規制法が制定されることとなった。

AI規制法ではリスクに応じてAIシステムを分類し、利用の禁止や高リスクAIとしての明示などを定めている。違反した場合は最大3,500万ユーロ（約60億円）、もしくはサービスの全世界売上高の7％のいずれか高い方の金額が制裁金として科される。

AI規制法は域外適用される。つまり、AI機能を搭載した製品を市場に投入するメーカーや、EUに所在するAIシステムの提供者などが規制対象となるため、EU圏へ製品やサービスを提供する日本企業や、EU圏在住のエンジニアと共同でシステムを開発する日本企業もAI規制法の適用範囲になるということだ。

多くのITテクノロジーのように、AIも国境を越えて活用されている技術であることから、国内企業でも早急な対策が必要である。しかし、法律が成立して間もないこともあり、国内での対策は一部の先進企業にとどまっている。

数少ない日本国内での対策事例を紹介しよう。とあるIT企業は、2021年にEUで法案が発表された段階から順次対応を進めてきたことを報告している。内容としては、AI規制法のリスク区分を参考に社内倫理チェックの要否を判断する基準を制定し、「AI倫理責任者」の選任、品質保証部門を中心とした社内関係部署での対策チームの結成などで、ガバナンスを強化してきたというものだ。

また、別のIT系企業は2018年よりAIと人権に関する戦略策定を専門とする組織を社内に設立。CDO（Chief Digital Officer／AIガバナンス遂行責任者）と呼ばれる全体の管理者のもと、社内はもちろん外部機関とも積極的に連携を行い、AIの安心・安全な活用を目指す組織体制を確立している。

これらの企業事例に共通しているのは、社内に専門部門および人材を配置し、その知見を全社的に共有することでトラブルの発生防止に努めていることだ。このことからAIという新しい技術やそれを取り扱う法律は、従来の倫理規定の適用や企業法務では対応しきれないことが分かる。

AI規制法は、一部を除き2026年から全面的に適用されることが予定されているため、企業には約2年間の猶予期間がある。一方で、近年の技術進歩のスピードの速さを踏まえると、2年後にはAIがビジネスにおいて今以上に不可欠な存在になっている可能性があるため、AI規制法の対象外の企業も、相応の準備を進めておく必要がある。AI人材を確保・教育し、体制を整備できるかどうかが、2年後の企業経営に大きく影響を与えそうだ。