一般社団法人 AI-Lab.

AI NEWS

News

2021/11/18

顔認識技術の使用を中止するという、Facebookの決断の意味

写真や動画に写っている人物を自動的に特定する顔認識技術について、Facebookが使用を中止すると発表した。プライヴァシーと人権上の懸念があるとして米国では使用中止を求める声が高まってきたが、Facebookの決定はこうした動きが加速するターニングポイントになる可能性もある。

Facebookが、写真や動画に写っている人物を特定する顔認識技術の使用を中止し、10億人を超える人々の付随データを削除することを明らかにした。

このニュースは、既知のものとしては世界最大の顔認識システムのひとつの終焉を告げるものになる。顔認証によるスマートフォンのロック解除と空港での利用を除けば、フェイスブックの自動タグ付けはおそらく最も身近な顔認識技術だろう。

メタ(旧社名はフェイスブック)の人工知能(AI)担当ヴァイスプレジデントのジェローム・ペゼンティは公式ブログへの投稿で、今回の決定は「顔認識の有用なユースケースと社会的懸念の高まりとを比較検討する必要性」を反映したものだと説明している。

Facebookは2010年から、顔認識システムを使って写真や動画、「思い出」に含まれる人物を自動的に検出してきた。そのことでプライヴァシー保護団体の批判を招き、規制当局からは数百万ドル、ときには数億ドルにも上る罰金を科せられてきた経緯がある。
Facebookの広報担当者によると、過去10年で顔認識を使ってタグ付けされた数十億枚の写真のラベルは維持されるという。また、顔認識を利用して写真や動画から個人の属する社会的集団に関するデータも収集されてきたが、これらもおそらくそのまま残るとみられる。

顔認識への高まる懸念。
顔認識はプライヴァシーと人権上の懸念を引き起こし、米国では10を超える主要都市で使用が禁止されるに至った。捜査当局が顔認識を利用することで、米国では複数の誤認逮捕が発生している。また中国では監視国家が構築され、少数派であるイスラム教徒の管理に使われるようになった。

今回の決定が発表される前、フェイスブック(現社名はメタ)はコンテンツのモデレーションの欠陥を示す数千に及ぶ内部文書が流出したことを受け、数週間にわたって厳しい調査に晒された。また、10月28日(米国時間)に「Meta(メタ)」への社名変更とリブランディングを実施している。

Facebookは写真タグに顔認識を使うことはやめるものの、顔認識の使用を完全に終了するわけではない。ロックされたアカウントにユーザーがアクセスする際や、取引を完了させるために本人確認をする際などでは、引き続き顔認識技術を使用する。

また、10億人を超える人々の顔のデータは削除するが、そのデータを使って訓練したAIモデルである「DeepFace」は維持する。これまでにFacebookユーザーのおよそ3人に1人が、写真へのタグ付けを勧める同社のサーヴィスを利用しているという。

Facebookは写真の自動タグ付けの廃止に加え、視覚障害者向けに一部の写真で提供している人物の名前を特定する機能での顔認識の使用も中止することになる。

大きな転換点になるか。
大手テック企業は顔認識の使用を次々に停止しており、Facebookもその列に加わった。このほかIBMが顧客への顔認識技術の提供を2020年に中止している。アマゾンとマイクロソフトもジョージ・フロイド殺害事件を受け、規制当局の対応の欠如を理由に顔認識サーヴィスの販売を一時停止した。

肌の色が黒い女性では顔認識システムの精度が低いことを初めて明らかにしたのは、ジョイ・ブォロムウィニやデボラ・ラジ、ティムニット・ゲブルといったAI研究者である。こうした研究結果の正しさは、のちに米国立標準技術研究所(NIST)によって確認された。同研究所の分析でも、顔認識技術はアジア人や若者などをたびたび誤認することが判明したのである。

AI Now Instituteやグーグル、Algorithmic Justice Leagueをはじめとする組織や企業で政策と倫理的問題に取り組んできたラジは、Facebookの動きには大きな意味があると指摘する。DeepFaceはコンピューターヴィジョンの歴史において重要な役割を果たしたからだ。

この深層学習モデルは、4,000人から得た400万枚の画像という過去最大の人の顔のデータセットを使って2014年に生み出された。DeepFaceは、顔認識において人間レヴェルの性能を実現した初めてのAIモデルであり、この技術を商業化して顔データをため込み、性能を向上させようとする流れに火が付いたのである。

企業が公的措置を講じてテクノロジーの危険性を明らかにすることは常に素晴らしいことだと、ラジは指摘する。一方で、人々が身を守るために企業の自発的行動に頼らなければならない現状は、あるべき姿ではないと注意を促す。顔認識の使用を制限するというFacebookの決定がより大きな違いをもたらすかどうかは、政策立案者にかかっている。

「もしこれがきっかけになって、政策立案者が顔認識に関する議論を真剣に受け止め、実際に議会で法案を通して顔認識の制限を真剣に支持したり推し進めたりするようになれば、これはターニングポイント、あるいは決定的瞬間になるでしょう」と、ラジは言う。

改めて指摘される危険性 顔認識は人権を脅かす恐れがあり、捜査当局が使用する際の基準も欠如しているとして、米国では超党派で議論が繰り広げられている。こうした状況にもかかわらず、連邦議会はこの技術の使用を規制する法律も、企業や政府が顔認識を使用する際の基準を定める法律も通してこなかった。

非営利団体「Fight for the Future」は『WIRED』US版へのコメントにおいて、顔認識が危険であることをFacebook側は認識しているとした上で、この技術の使用を禁止するよう改めて呼びかけている。「アルゴリズムが改良されても、顔認識はもっと危険になるだけです」と、同団体は指摘する。

「この技術は、独裁政権が宗教的少数派や政権に反対する人々に狙いを定めて取り締まることを可能にします。わたしたちをより安全にしてくれるのではなく、人々を刑務所に自動的に送り込み、ストーカー行為や虐待、個人情報の窃盗に使われる新たなツールを生み出すのです」

抑圧を自動化するアルゴリズムの使用に終止符を打つことを求める若者の団体「Encode Justice」の創設者のスニーハ・レヴァノーは声明において、今回のニュースはプライヴァシーと人種間の平等を支持する人々と若者の組織が苦労の末に手にした勝利だと語っている。さらに今回の決定は、ソーシャルメディア企業が可能にしているヘイトスピーチ、偽情報、そして監視に対処するために必要な数々の改革のひとつであると言う。

ウェスタンオンタリオ大学助教のルーク・スタークは、長年にわたって顔認識を批判してきた。顔認識とコンピューターヴィジョンは、生体データのプライヴァシー、差別禁止法、そして人権を侵害する恐れのある疑似科学であると、彼は断じている。2019年には顔認識について、AIの「プルトニウム」であると主張していた。

スタークは今回のFacebookの行動は好ましい見出しを書いてもらうためのPR戦術にすぎず、注意をそらすためのものであり、核となる哲学は変わっていないだろうと言う。それでも今回の動きは、有害な技術に関与しているように見られたくないという企業の思惑も表していると指摘する。

影響は小さい?
スタークは今回の決定について、フェイスブック(現社名はメタ)が力を入れている仮想現実(VR)やメタヴァースへの取り組みと関連づけている。個人に合わせたアヴァターをつくるには多様な生理学的データを収集する必要があり、プライヴァシーにまつわる新たな懸念が生じることになるのだと彼は指摘する。

またスタークは、顔認識データベースを破棄することの影響についても疑問を呈している。スタークの45歳未満の知人のうち、Facebookに写真を投稿する人はひとりもいないというのだ。

Facebookは今回の決定について、「顔認識技術の歴史において、顔認識の利用法に起きた最大の変化のひとつ」としている。これに対してスタークは、「実際の影響はかなり小さいでしょう」と予測する。Facebookは顔認識を完全に放棄したわけではないし、ほかの企業もまだ使用しているからだ。

「こうした技術に懸念を抱いている人々が引き続き議論を推し進めていけば、ターニングポイントになりうると思います」と、スタークは言う。

引用 AI NOW:https://wired.jp/2021/11/05/facebook-drops-facial-recognition-tag-people-photos/

文章圧縮率

0文字