コラム

ビッグデータ統計は、中立や客観性を保証せず、しばしば偏りを生む

2021年10月26日(火)16時59分

AIが偏見を持つことは知られるようになってきたが、統計や計算社会学についても偏った結果が出る危険がある Artem Peretiatko-iStock

<研究サプライチェーンが産み出す偏った「科学的事実」>
今回は大量のデータを用いた統計や計算社会学が偏りを生む危険性についてご紹介したい。大きく2つの理由があげられる。ひとつはデータと解釈の問題、もうひとつは研究サプライチェーンの問題である。研究サプライチェーンとは、研究を行うために必要なデータ、電力、設備、資金、物理的原材料などのサプライチェーンのことである。

研究はそれだけで独立して存在しているのではなく、それを支えるデータや設備や資金が必要だ。マイクロソフトリサーチの上級首席研究員であり、AIナウの創設者であるケイト・クロフォードは、著書『Atlas of AI Power, Politics, and the Planetary Costs of Artificial Intelligence』の中でAIはその成り立ちからして、中立的にも客観的にもなり得ないと主張している。大量のデータとそれにもとづく研究は、差別的に安価なコストで調達される原材料、安価な労働力、人権を侵害して取得されたデータ、政府の支援(つまり税金)、軍や諜報機関のデータや経済的支援で成り立っており、その構造を支えることが期待されているためである。

AIが偏見を持つことは知られるようになってきたが、統計や計算社会学についても偏った結果が出る危険がある。また、大量のデータを用いるAI、統計、計算社会学を研究する人々がこうした偏りを減らすように取り組むことは本人のキャリアにとって不利になることがあるため、偏見は減らずに増える可能性がある。そうなったら結果を受け取る側が意識して、偏りを見抜くしかないのである。

そもそも世界81カ国でネット世論操作が行われており、対策は追いついていない。SNS運営企業はコンテンツを独自の基準で管理し、アルゴリズムで利用者の行動を誘導している。そこから生まれるデータは中立的で客観的と言えるのだろうか?

データと解釈の問題

データと解釈をいくつかに分けてご紹介したい。まずはデータそのものの偏りの問題だ。

・データの問題

AIが偏見を持つことが社会的問題になっていることを以前の記事でご紹介した。元のデータに偏りが含まれているのだ。元のデータに問題があれば結果にも問題があるのは統計や計算社会学でも同じだ。

SNSデータには、さまざま歪みがあることが指摘されている。Fernando Diazらのグループの論文ではオンラインで得られたデータはオフラインを代表するものではなく、不完全なパネルとして扱うべきだとしている。

この論文では過去の研究を踏まえ、2012年のアメリカ大統領選について分析を行った。過去の多くの研究が利用しやすさからツイッターもしくは検索ログを利用していることから、この論文でもツイッターと検索ログを用いている。性別や地域などの主要な属性から見て、オフラインの人々を代表していないことがわかり、検索ログとツイッターの間では結果に違いがあった。イベント前後など時期によって反応の内容および反応する人々が変化しているため、不連続のパネル調査に近い。こうした偏りは非代表的な調査で用いられる手法を用いることで調整でき、有効に活用できる可能性を示している。ひらたく言うと、検索ログやツイッターのデータを調整しないでそのまま使うと偏りを生むことになるということだ。

最近、ツイッター社はツイッターのアルゴリズムが特定の政治的傾向(ツイッター社の表現によれば主流右派)のコンテンツをより拡散していたことを明らかにした。当然ながら、これはツイッターから得られるデータに影響を及ぼす。原因や詳細についてはまだ明らかになっていないが、SNSデータを扱う際にはそのアルゴリズムや運営企業のコンテンツ管理がSNSデータに影響を与えることには留意が必要だ。
すでにご紹介したように、フェイスブックが問題のあるコンテンツ管理を行っていたことが暴露された。この問題は相次ぐ内部告発によって大きなスキャンダルになっている。SNSデータは運営企業の管理方針やアルゴリズムによる偏りがあるものと考えた方がよい。

この連載でたびたび触れているようにネット世論操作は世界に広がっており、その影響は無視できない。SNSデータの統計分析では自動的に投稿やリツイートを行うボットの存在の確認くらいは行っているが、実際のネット世論操作においてはさまざま手法が開発され、複数のSNSをまたがって影響工作を行うことも珍しくない。これらの影響を除去することは方法論が確立されていない上、日本ではSNSデータの解析を行っている研究者が、同時に影響工作の研究を行うことはまだ一般的ではないようだ。

他にも問題がある。大規模なデータからはランダムなペアで有意な相関が現れることがある。たとえば「ニコラス・ケイジの年間映画出演本数」と「プールの溺死者数」の相関については聞いたことがある人も多いだろう(ダイヤモンド・オンライン)。この例は極端であり、「見せかけの相関」と判断できるが、実際の調査では難しい。たとえばSNSから得られるデータの項目はほぼ決まっており、「ニコラス・ケイジの年間映画出演本数」といった突飛なものはない。したがって、SNSの任意のデータ間で現れた「見せかけの相関」を意味のあるものとして解釈する危険性がある。

・分類の問題

データの取得あるいは結果の解釈において分類やラベル付けを行うことがある。ここにも偏りが入り込むことがある。ケイト・クロフォードは、著書の中で、分類は権力を反映するとし、科学的とされる分類が政治的意図あるいは偏見に基づいていた事例を紹介している。歴史上有名な偏見に基づく分類のひとつはサミュエル・モートンによる頭蓋骨による人種区分である。優秀な科学者として知られていた彼は、人種による頭蓋骨の容積の違いで、知能の優劣を示し、もっとも知能の高い人種を白人とし、もっとも知能の高い人種を黒人とした。ナショナル・ジオグラフィックでも「サミュエル・モートン医師は科学的な立場から人種を差別した最初の人物だった」として紹介されている。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『新しい社会を生きるためのサイバー社会用語集』(原書房)など著作多数。ツイッター

今、あなたにオススメ

ニュース速報

ビジネス

バイデン政権とベゾス氏、インフレや富裕層課税で激し

ビジネス

米サード・ポイント、ディズニー株売却 アマゾンへの

ビジネス

野村HD、25年3月期の3部門合計税前利益目標は3

ビジネス

寄り付きの日経平均は続伸後マイナス圏、2万6500

今、あなたにオススメ

MAGAZINE

特集:歴史で読み解くロシア超入門

2022年5月24日号(5/17発売)

ウクライナ侵攻で見せた不可解なほどの権威主義 政治・軍事・文化を貫くロシアの本質を歴史から理解する

人気ランキング

  • 1

    「責任者を出せ!」コールセンター・スタッフに詰め寄るクレーマーに上司が放った爽快なひと言とは

  • 2

    【戦況マップ】ロシア軍は数日でこれだけ占領地域を失った

  • 3

    「ロゴさえあれば何でも買う」? 高級新作スニーカーの衝撃ビジュアルが話題に

  • 4

    ロシア兵は突如、11歳の少女の「あごに発砲した」...…

  • 5

    子供を解放し、母親も解放する日本の街──アメリカか…

  • 6

    「狂気」「脱臼しそう」...全米が笑ったケンダル・ジ…

  • 7

    【動画】ロシア巡洋艦「モスクワ」の「最期」

  • 8

    ウクライナ軍が使い始めた米M777榴弾砲の威力

  • 9

    マリウポリの地下室で、8歳の少年が「絵日記」に書い…

  • 10

    【閲覧注意】廃屋の壁一面にうごめく数千匹のサソリ 

  • 1

    ウクライナのどさくさに紛れて「侵攻」を狙う、もうひとつの旧ソ連の国

  • 2

    【戦況マップ】ロシア軍は数日でこれだけ占領地域を失った

  • 3

    子供を解放し、母親も解放する日本の街──アメリカから見た『はじめてのおつかい』

  • 4

    「ウクライナを守る盾」、ロシア艦を撃沈した「ネプ…

  • 5

    ウクライナ軍が使い始めた米M777榴弾砲の威力

  • 6

    【閲覧注意】廃屋の壁一面にうごめく数千匹のサソリ 

  • 7

    プーチン病気説の決定打?どう見ても怪しい動画

  • 8

    「責任者を出せ!」コールセンター・スタッフに詰め寄る…

  • 9

    ロシア軍の最新戦車が破壊されたことが初めて確認さ…

  • 10

    【動画】ロシア巡洋艦「モスクワ」の「最期」

  • 1

    ウクライナのどさくさに紛れて「侵攻」を狙う、もうひとつの旧ソ連の国

  • 2

    【戦況マップ】ロシア軍は数日でこれだけ占領地域を失った

  • 3

    「どこなら女性は安全なのか」 インドで強姦被害の13歳少女を、今度は警官が強姦

  • 4

    プーチン病気説の決定打?どう見ても怪しい動画

  • 5

    子供を解放し、母親も解放する日本の街──アメリカか…

  • 6

    「性格と高齢期の認知障害には関連がある」との研究…

  • 7

    【映像】ショーの最中、荒れ狂うイルカがトレーナー…

  • 8

    「ウクライナを守る盾」、ロシア艦を撃沈した「ネプ…

  • 9

    【動画】ロシア巡洋艦「モスクワ」の「最期」

  • 10

    ウクライナ軍が使い始めた米M777榴弾砲の威力

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
ニューズウィーク日本版ウェブエディター募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
Wonderful Story
メンバーシップ登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら
World Voice

MOOK

ニューズウィーク日本版別冊

好評発売中