The Governance of Artificial General Intelligence (AGI) Developers

• Published in: 情報通信政策研究 Vol. 8; no. 1; pp. 47 - 57
• Main Author: Kozuka Souichirou
• Format: Journal Article
• Language: Japanese
• Published: Institute for Information and Communications Policy 25.12.2024; 総務省情報通信政策研究所
• Subjects: AGI; AGI developer’s governance; Lawyer-in-the-loop; legal service; unauthorized practice of law; リーガルサービス; 弁護士法; 開発者のガバナンス
• ISSN: 2433-6254; 2432-9177
• DOI: 10.24798/jicp.8.1_47

特定の目的に限定されず、あたかも人間と同様にあらゆることがらについて対応する能力を持った汎用人工知能（AGI）が実現すると、社会のさまざまな規制のあり方が大きく問われることになると予想される。とりわけ、アクチュエータが存在せず、AGIが人間の行動に対して直接働きかけるような場合は、AGIそれ自体を規律することによって、既存の規制が実現しようとしていた法目的（公益）を確保しなければならない。リーガルサービス（法務）は、そうした事例の一つである。弁護士法は、資格を持たない者が紛争に介入し、社会の法律秩序を乱すことの防止を目的としている。将来、AGIに対して法律問題を問いかけて回答を得るというシステムが実現したとき、この規制目的を担保するためにはどのようにすればよいかという点が大きな問題となる。AGIも人工知能である以上、原理としては、データを検索して相関の高いものを呼び出すというシステムである。すると、AGIが法律問題に「回答」を示したとしても、それはきわめて高度な法律情報検索システムにすぎないのではないかと思われる。そして、弁護士法の規制において、検索システムは、あくまでもユーザー本人のためのツールにすぎないと考えられており、非弁活動として禁止されてはいない。このことは、一般化すると、AGIが一般的に普及する時代には、弁護士法のようにサービス提供主体を有資格者に限定する規制では対応が難しいことを示唆している。そこで、AGIの開発におけるガバナンスが重要になると考えられる。現在でも、Open AIなどAGIの開発を目指す事業者は公益への考慮を取り込んだガバナンス構造を工夫しているが、リーガルサービスのような特定分野の規制にかかわる用途にAGIが利用されるときには、公益を担保するため、法律の専門家が関与する必要があろう（ガバナンスにおけるlawyer-in-the-loopの仕組みともいえる）。このように、行為規制からガバナンスによる公益性の担保へという規制の変革が、AGIの発展とともに求められると予想される。