是人工智能还是自然愚蠢？问苹果

本周早些时候，有指控称苹果卡背后的信用评分引擎存在偏见。它来自David Heinemeier Hansson（@dhh）的推特帐户。

他提出了一个问题，即妻子的信用额度比他的信用额度低20倍。大卫在推特上拥有约36万名追随者，并且该推文广为传播。

苹果公司的联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）陷入困境，他和他都面临着同样的问题。这引发了监管机构和政界人士的反应。

那么，我们如何保持推动财务决策诚实的技术呢？我们可以信任一台机器的智能吗？

图片来源

上面的粮食方案大部分无害，并且得到了友好解决。但可以肯定的是，这种仁慈不能扩展到金融服务领域。容易出错的机器正在执行主要的财务计算，其决策会影响人们的生计。

在这种情况下，使用机器的公司将需要进行合规性检查，以确保决策质量。这也不是一次练习。这些检查将需要定期进行，并有一组明确定义的标准和边缘方案。

回到我们的苹果卡故事，纽约金融服务局局长回答说，他们将对此问题进行调查，并开始对此进行调查。

高盛今天发布了一份报告（下图）。对我来说，这听起来很肤浅，因为David（@dhh）报告说他的信用评分和妻子的信用评分相似。因此，信用决策应相似。