先日、AIはうまくいったのに政治的な理由で使用されなくなった事例の記事を見ました。
アメリカのある市では水道管の汚染が問題となっていました。
解決するには汚染元の水道管を交換すればよいのですが、それがどこにあるのか分かりません。
町全ての水道管を掘り返してチェックすればよいですが、勿論不可能です。
そこで、AIを使って汚染元の位置を予測することとしました。
結果的にAIの開発は上手くいき、約70％の確率で発見することができるようになったそうです。
AIの導いた結果から地域を絞って水道管を調査することになるのですが、
他の地域からすれば公平ではありません。なぜうちの所はやってくれないんだと。
住民に「AIの予測の結果です」と説明してもなかなか信用されませんでした。
そして、市長が全地域公平に調査していくことを決めたそうです。
AIは関係なくなりました。
AIは、開発する側には勿論知識が必要なのですが、使う側の知識も必要だということでしょう。
「AIの予測の結果です」ということを住民に納得させられていれば、
市の約70％の汚染水道管は効率的に交換されたのですから。
