「ビッグデータ」のアイデアは至る所に広まりましたが、それは何であり、それは私たちの生活をどのように変えているのでしょうか？ 私たちは、データサイエンティスト、ハーバード博士、および全国書賞の候補者であるキャシーオニール氏に話を聞きました。
CT：基本から始めましょう–「ビッグデータ」とは正確には何ですか？
CO：ビッグデータは、物事を予測するための新しいアプローチです。 より具体的には、「ビッグデータ」とは、ブラウザーでの検索方法やFacebookでの操作など、偶発的に収集されたデータを使用して、購入しようとしているものや所属政党など、自分に関することを推測することです。 それは人々を理解する間接的な方法です。 たとえば、私たちを監視しているカメラは「何をしていますか？」 –何をしているのかがわかるだけです。
CT：アルゴリズムとは何ですか？
CO：アルゴリズムは、予測を作成するためにあなたについて収集されたデータを[解釈]する計算です。 これは、「この人が何かを購入しようとしているのか」など、予測として組み立てられた質問に答えようとする数式のようなものだと考えてください。 または「この人は誰かに投票しようとしていますか？」
CT：なぜ今それについてそんなに多くのことを聞いているのですか？
CO： 「ビッグデータ」の前に、統計学者は人々を投票して未来を理解するなどの高価なことをしていました。 たとえば、「誰に投票するのか」などの直接的な質問をします。 今、私たちはますます「データの枯渇」に依存しています。これは私があなたについて絶えず収集されているデータと呼んでいるもので、あなたのことを推測するために。
「ビッグデータ」が登場する前は、企業は大まかな推測しかできませんでした。 今、私たちは野生の推測よりも優れています。 驚くべきことは、ほとんどのビッグデータアルゴリズムが非常に不正確であり、それらが正しいと考える理由がないということです。 しかし、それらは野生の推測よりも優れています。 そして、それがビッグデータがそうであるように離陸した理由です。
CT：それらが不正確な場合、彼らは何を反映していますか？
CO：私たちがそれらに供給する欠陥のあるデータセット。 アルゴリズムは、私たちが言う以上のことを知りません。 したがって、不均一なデータがあり、それをアルゴリズムまたは偏ったデータにフィードしている場合、それが現実であると考えられます。
Ailsa Johnson /©Culture Trip
CT：その実例は何ですか？
CO：一例として、米国では、白人よりも黒人が5倍喫煙ポットで逮捕される可能性が高いということがあります。 これは、黒人がポットを吸う頻度が高いためではありません。両方のグループが同じ割合でポットを吸うためです。 黒人はそれのために逮捕される可能性がはるかに高いです。 これをアルゴリズムに渡すと、将来的には、黒人が喫煙鍋で逮捕される可能性がはるかに高くなると正しく推測されます。 そして、それは黒人に犯罪のより高いリスクスコアを与え、それは刑事判決に影響を与えます。
別の例は思考実験です。 私はフォックスニュースを使用します。フォックスニュースは最近、性差別の内部文化に関連する噴火があったためです。 この実験は、「Fox Newsが独自のデータを使用して、将来的に人を雇うための機械学習アルゴリズムを構築しようとするとどうなりますか？」
たとえば、Fox Newsで成功した人を探しているとしましょう。 成功をどのように定義するかによって異なりますが、通常、昇給、昇進、または長期滞在する人々を見ていきます。 これらの手段のいずれかによって、データは女性がフォックスニュースで成功しないことを反映します。 採用アルゴリズムとして使用される場合、それはその問題を伝播します。 それは応募者のプールを調べ、「ここでは成功していないので、女性を雇いたくありません。 彼らは良い採用ではありません。」 そして、それはFox Newsである必要はありません–すべての企業文化には偏見があります。 アルゴリズムデータをフィードすると、アルゴリズムバイアスがそれを伝達します。 それは、社会にすでに存在するバイアスを強化し続けます。
CT：バイアスは意図的なものですか？
CO：データ科学者が性差別的または人種差別的なアルゴリズムを作ろうとしているとは思いません。 しかし、機械学習アルゴリズムは、比較的微妙なパターンを選択して伝播するのに非常に優れています。 これはデータサイエンティストが意図的に行っていることではありませんが、それでもバイアスです。
CT： 不正確なアルゴリズムは私たちの日常生活でどのような役割を果たしていますか？
CO：大学入学から就職まで、人々の生活のあらゆる種類の決定に使用されています。
警察が近隣を警戒する方法を決定するアルゴリズムと、裁判官が被告に判決を下す方法を決定するアルゴリズムがあります。 保険にいくら支払うか、クレジットカードにどのようなAPR [金利]を支払うかを決定するアルゴリズムがあります。 昇給を決定するために使用されるあなたの仕事であなたがどうやっているかを決定するアルゴリズムがあります。 アルゴリズムには、誕生から死までのすべての段階があります。
CT：では、どこに行くのですか？
CO：ビッグデータの時代に飛び込んできて、アルゴリズムは人間よりも公平でなければならないという前提で、私たちが抱えるすべての問題にアルゴリズムを投入してきましたが、実際には人間と同じくらい不公平です。 私達はもっと良くしなければなりません。
オニール博士へのインタビューの第2部を読むには、ここをクリックしてください。 彼女の著書「数学破壊の武器：ビッグデータが不平等を増大させ、民主主義を脅かす方法」が現在利用可能です。
