苹果公司于今年8月推出信用卡Apple Card，而最近此信用卡被发现为男女提供了不同的信用额度，被质疑性别歧视。纽约金融服务部门已开始调查苹果是否有违反纽约州法。
自从苹果的Apple Card被爆性别歧视后引起了抱怨，如科技企业老板抱怨Apple Card给他的信用额度是他妻子获得的信用额度的20倍，尽管他妻子的信用评分比较高。苹果联合创始人Steve Wozniak也抱怨了同样的问题，尽管他们夫妇的账户及资产都是共有的。
目前，纽约金融服务部门已经联系经营Apple Card的负责人Goldman Sachs。该部门于声明中表示，不论是有意或无意，只要算法导致妇女或其他受保护族群受到歧视都违反了纽约州法。他们将进行调查以确定苹果公司是否违法，并确保所有消费者，不论性别，均受到平等对待。
对Apple Card提出抱怨的科技企业老板表示，这件事凸显了不只是人会歧视，算法也会。Apple Card是个具有性别歧视的企划，但问题无关苹果公司高层的意图，而是关乎他们在算法中加入了怎样的信念。他们做的事反映出来的正是歧视。
信用卡的投资银行表示，我们决定信用额度的依据是客户的信誉，而不是根据用户的性别、种族、年龄、性取向或法律禁止的任何其他因素。
英国BBC的科技新闻编辑表示，这件事显示非预期的偏见已经侵入了决定信用卡额度的系统。背后原因可能是这套算法被发展出来的时候，用来训练这套算法所使用的数据显示女性的金融风险比男性高。这会导致软件原则上会分配较低的信用额度给女性，即使软件背后的算法所依据的假设可能不符合多数人口的状况。
此外，软件本身可能也是个黑箱，亦即只产生判断结果而不会说明软件是如何决定每个结果的。这进一步增加了问题的复杂性。过去五到六年我们在解释机器学习科技的决定方面有很大的进步，但是有些时候仍然不够理想。
