AIのバイアス-第9回 成長戦略ワーキング・グループ (1)

「第9回 成長戦略ワーキング・グループ」が、令和3年4月27日に開催されて資料が公開されています。

それぞれテーマがAIのバイアス問題、個人認証、CBDC(中銀デジタル通貨)、刑事法の在り方と、興味深いので、じっくり呼んでみたいと思います。

まずは、「AIのバイアス問題」です。資料は、佐久間 淳AIによる誤認識・偽造・差別の問題」です。

スライドの4ページ目から具体的な内容になります。最初は、「敵対的サンプル」のお話。

この点についての具体的な論文は、「敵対的サンプルは”バグ”ではなく意味のある”特徴”」あたりでしょうか。

Adversarial exampleはニューラルネットワークモデルに対し、分類エラーなどの誤った出力を引き起こし、認識させないようにする一種の攻撃です。

この論文をみていくと、Adversarial exampleの攻撃が、単なる攻撃を話を越える意味をもっているようです。佐久間スライドですと、なかなか、そのような深さはわからないところですね。

8頁は、ディープフェイクな話です。

9頁以下は、AIによる差別の固定・拡大の話になります。

この点に関連する記事とかは、

とかがあります。

佐久間スライドは、AI差別の実例としてCOMPASSという再犯リスクのスコアリングについて、論じています。

ここら辺は、AIといっても、スコアリングの場合と、そもそも画像生成とかの論点とでは、大きく違うような気がします。

大きくいえば、画像認識からすると、緊急の場合などで、認識する必要が有る場合に人間の判断と画像認識の判断でどちらが、安定した判断をしているのか、という問題があるようにおもえます。 lethal autonomous weapons (AWS)などの論点 (リンクは、M.Schmitt”Autonomous Weapon Systems and International Humanitarian Law: A Reply to the Critics”)の場合だと、個人的には画像認識システムを利用した方が合理的なようにおもえます。そのような価値判断とニュートラルなような場合とスコアリングのような場合をいっしょくたにして「AIの脅威」とかいうのも、乱暴だなあとい感じはします。

ただし、ニューラルネットワークでの認識とかは、まだ、勉強していないので、感想しかいえないところが残念だったりします。(ラーメン二郎分類器の話は勉強したんだけどなあ)

 

 

関連記事

  1. E.Jensen 「武力紛争における『ディープフェイク』適法か?…
  2. 2045 IT Odyssey
  3. CyConX travel report Day Two key…
  4. チャットボットを作るときに気を付けるべき唯一つのこと
  5. G7 コーンウォールサミットとサイバー/宇宙法
  6. 新しい仮面ライダー作品に対して国立情報学研究所が企画協力・監修 …
  7. 英国情報コミッショナーのAIとデータ保護のガイダンス
  8. 最後の講義「石黒浩教授」とホモ・デウス
PAGE TOP