一般社団法人 AI-Lab.

AI NEWS

News

2022/02/14

データの「偏見」を可視化するPythonライブラリの真の価値とは何か

データのバイアス(偏り、偏見)に対する保険が必要だ。特にAIにデータを提供する機械学習には欠かせない。機械学習の誤差は、データ内のある要素が他の要素よりも高く重み付けされ、非常に強く現れる場合に発生する。

英国のスタートアップ企業SynthesizedのDataOpsプラットフォームは、データにあるバイアスを見つける手段を提供する。このバイアスが軽減されれば、例えば保険の見積もり、賠償請求、保険の掛け金が公平になる可能性がある。

オープンソースのPythonライブラリ
Synthesizedはデータのバイアスを識別および計測するオープンソースのPythonライブラリ「FairLens」を発表した。

Synthesizedのデニス・ボロビコフ氏(共同創設者でCTO:最高技術責任者)は、データサイエンスモデルの多くのデータには年齢や人種、性別などのバイアスがあると話す。

「FairLensはデータのバイアスを見つけて可視化する数学的なフレームワークだ。FairLensによってデータをより深く理解することで、分析やデータサイエンスのタスクでそのデータを公平かつ倫理的に使えるようになることを願っている」(ボロビコフ氏)

データのバイアスは多くの企業や業界にとって依然タブーになっている。FairLensはデータのバイアスを舞台裏で検出し、それを軽減する。

データ駆動の弊害
自動車保険、健康保険、生命保険などの保険契約アプリケーションは、データに基づいて意思決定している。そのデータの品質が低かったりバイアスがあったりするとアプリケーションは本質的に偏るため、意図した目的を達成できない。

データを点検することで、これまで過小評価されて十分なサービスを受けることができなかった顧客が公平な結果と権利を確保できるとSynthesizedは考えている。

これは規制違反のリスクを大幅に削減し、企業ブランドを守るのに役立つ可能性もある。

引用 Yahoo!ニュース:
https://news.yahoo.co.jp/articles/e08b46899cfcfc97ba4ae6ca8749aec6f89be471

文章圧縮率

0文字