機械学習アルゴリズムにおけるバイアスについてのエッセイ

「アルゴリズムの中立性」という神話

社会が複雑な意思決定を自動化するためにテクノロジーへの依存を強めるにつれ、「アルゴリズムの中立性」という神話は崩壊し始めている。機械学習アルゴリズムはしばしば真実の客観的な裁定者と見なされるが、それらは根本的に訓練に使用されるデータによって形作られている。このデータに歴史的な不平等が含まれていたり、作成者の潜在的な偏見が反映されていたりする場合、結果として得られるソフトウェアはバイアスを排除するのではなく、それを自動化する。デジタル時代においてシステム的な差別が永続化するのを防ぐためには、人間の偏見がどのようにこれらのシステムにコード化されるかを理解することが不可欠である。

データの出所と偏見のコード化

• 100 語
• 250 語
• 1,000 語
• 2,000 語