Apple Cardの承認基準に女性差別？NY州当局が捜査に踏み切る

2019年11月11日

8月より米国で発行が始まったAppleのクレジットカードApple Cardですが、その利用可能枠の決定が性差別に基づいている可能性があるとして、ニューヨーク州当局が捜査を開始しました。

同じ条件なのに妻の20倍の利用可能枠

発端はWebデベロッパーのデビッド・ハインマイアー・ハンソン氏のTwitterへの投稿です。ハンソン氏が妻と一緒にApple Cardを申請したところ、2人はほぼ同じ条件（クレジットスコアなど）であるにも関わらず、ハンソン氏の利用可能枠は妻の20倍でした。

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.

— DHH (@dhh) 2019年11月7日

ハンソン氏の投稿に対し別のTwitterユーザー、キャスリン・エックル氏も「夫よりも私のほうが、クレジットスコアが高いのに、1度目は発行を拒否された。電話をかけ、再申請すると、今後は夫よりも利用可能枠が低かった。Goldman Sachsからは『アルゴリズムの問題なので我々はどうにもしようがない』との説明を受けた」と投稿しています。ほかにも複数、同様の投稿がありました。

Apple and Goldman Sachs have both accepted that they have no control over the product they sell. THE ALGORITHM is in charge now! All humans can do is apologize on its behalf, and pray that it has mercy on the next potential victims. https://t.co/LFyPYbtRlh

— DHH (@dhh) 2019年11月10日

問題はアルゴリズムか

Appleの共同創業者であるスティーブ・ウォズニアック氏もハンソン氏の投稿に対し、同氏も妻よりも10倍高い利用可能枠が認められたと投稿しており、ハンソン氏は「システムは完全に壊れている。@tim_cook、なんとかしてください！」と訴えています。

When even the great Steve Wozniak can’t get @AppleCard to explain or correct its faulty credit assessments, you know the system is beyond broken. @tim_cook, you gotta do better than this! https://t.co/tAwLThvGBi

— DHH (@dhh) 2019年11月10日

一連のやり取りを見る限り、AppleとGoldman Sachsが女性を差別しているわけではなく、アルゴリズムに問題があるようです。