AI Governance.

精度だけでなく、公平性、プライバシー、セキュリティ、透明性、説明責任などを扱う。例えば顧客対応にAIを導入するなら、誤回答が起きたときの対応、個人情報をどこまで利用するか、誰が停止判断をするかを決める必要がある。ガイドラインを制定するだけでは十分ではなく、実際の運用状況を記録し、問題があれば改善できる体制が必要だ。規制や国際的な枠組みも更新されるため、導入後も定期的に見直す必要がある。AIが出した答えを人が確認する設計でも、確認者に十分な情報や時間がなければ形式的な承認になる。責任を人へ戻す仕組みが実際に機能するかを検証したい。

Blueberry’s Perspective

便利さが先行する技術ほど、止められる仕組みを先につくっておきたい。