我巨人正在利用您的数据。新系统可以帮助您收回控制权

机器学习应用程序中的偏见一直是一个反复出现的有争议的话题，因为越来越多的大数据使用使消费者暴露于其缺陷中。 Forkast.News主编刘安琪（Angie Lau）与NEO开发主管John deVadoss进行了深入讨论，探讨区块链和去中心化如何帮助解决机器学习和人工智能中的偏见和中心化问题。

主要亮点

• 我认为这里的根本问题是无法解析系统中的信息并说出到底发生了什么，这使AI幻象的这一不幸挑战永存。系统和人工智能将超越世界，依此类推。

• AI的大部分内容如今，机器学习正在做的就是所谓的监视机器学习。那是什么意思呢？这意味着这些中心化供应商正在利用您的数据和我的数据，即大街上普通男女的数据。他们正在获取您的数据和我们的数据。而且我们没有能力决定为什么，何时？多长时间？他们可以访问，因此，基本上，我们受这些中心化系统的支配。
• 有些人使用去中心化A.I.我们必须以去中心化的方式设计这些系统。当然，众所周知，区块链平台是必经之路。但是，我们今天拥有这些极其原始的系统，而我们只是将算法归咎于这一事实，我认为这是完全不能接受的。
• 我相信您应该获得对数据访问权的补偿。今天，我们有一个基本的想法，那就是免费。不是。我的意思是，这是您的数据，这是我的数据。因此，如果您想在一定时间内允许某个供应商访问，则区块链系统内部的加密货币经济协议使我们能够这样做。

听播客

deVadoss解释了如何以有害于个人的方式使用由Facebook，Google和Amazon等跨国集团大规模收集的数据。这种现象被称为“监视资本主义”，是哈佛学者Shoshana Zuboff创造的一个术语，用于描述个人信息的商品化。 Zuboff在她的《监视资本主义时代》一书中详细阐述了这一概念，并补充说，公司将越来越多地使用AI等技术来预测用户行为。

不飞溅

Zuboff认为，与从智能扬声器到节食应用程序的与应用程序关联的支持AI的通信工具依赖于大量用户数据，然后将这些数据馈送到机器学习算法中，以预测个人或人群可能想要购买的东西。

deVadoss说，未来解决此问题的一种方法是将去中心化和区块链的概念应用于我们共享数据的方式。他说，这不仅允许个人拥有其数据的所有权，而且还可以帮助解决机器学习带来的偏见。

在许多情况下，已经证明使用机器学习的产品存在性别偏见。而且，在发现一种广泛使用的算法正在歧视某些种族群体的数百万患者之后，最近美国医院受到了审查。

根据deVadoss的说法，可以通过使用“拜占庭式”方法进行机器学习来减轻这种偏见。当前，中心化数据库控制着大量数据，并使用算法来处理不同应用程序的结果。但是，如果许多算法可以根据数据计算自己的结果并比较它们的输出，则这可能是避免可能导致错误计算的错误的一种方法。

请参阅相关文章：意见|区块链如何节省AI

完整成绩单

刘安琪（Angie Lau）：欢迎使用“块上的单词”，该系列深入探讨了我们在Forkast.News上涵盖的主题。我是刘安琪（Angie Lau）主编。人工智能正越来越多地采用不祥音调的机器学习，面部识别和对偏见的担忧，人类程序员，无意识或有意识的偏见被植入人工智能。思维及其对许多人的不安和关注日益增加。但是，区块链可以成为救星吗？现在我们的下一位客人是John deVadoss。他是NEO的开发主管。在此之前，他是两家机器学习创业公司的创始人，拥有专门研究递归神经网络的机器学习博士学位。现在，他的工作围绕区块链展开，但毫无疑问，新兴技术正在碰撞。约翰从西雅图加入我们。约翰，欢迎。

John deVadoss：嗨，Angie，你好吗？感谢您加入我，我非常感谢。

刘安琪：绝对。让我们直接深入研究您在Forkast上分享的您撰写的文章。新闻，您对区块链如何节省人工智能的看法。因此，在准备聊天时，约翰知道了人工智能是上个世纪（实际上是1956年）创造的一个词。该词基于1930年代和40年代的神经网络研究。我的意思是那是大萧条时期，从那以后开始复苏。快进到今天。帮助我们了解21世纪第一季度（距未来将近100年）的状况。在人工智能的这个阶段技术，我们现在在哪里？

John deVadoss：很棒的问题，Angie。所以我要说的是市场营销，尽管重点是人工智能，但我要说的是炒作是关于人工智能，人工智能背后的现实。实际上是机器学习，能够查看大量数据并挖矿数据背后的潜在模式。我们认为人工智能，数据集，进行语音识别甚至是所谓的自动驾驶汽车的许多内容只是快速的顺序，即能够看到一种模式，然后对其进行响应。如果您愿意的话，就像我们从无声电影到对讲机一样，它与早期电影非常相似。关键是要基本上如此快地播放这些帧，以使屏幕上出现运动的幻觉，这就是我对人工智能的看法。因此，能够看到，识别和响应模式的快速步伐就产生了这种智力错觉。

话虽如此，我想你是说，我们今天在哪里？如果您看一下机器学习的历史，甚至是人工智能安吉（Angie）的历史，那么，我们怎么说呢，也就是所谓的人工智能。冬天。我们有高峰和低谷。我认为，这样做的一个很大原因是期望值，我们将期望值设置得过高。每当我们无法实现目标时，我们都会陷入幻灭的低谷。再一次，循环不断重复。但是，这次有一点不同。过去，我们一直无法做到非常经济地使用云计算资源，几乎很便宜地使用这些模式的能力。这就是转折点。对于初创企业和VC而言，这种兴趣大幅上涨的原因是廉价的计算，大量的数据，并以此来本质上挖矿和构建这些深度学习机器学习模型。

Angie Lau：我真的很感谢您如何如此优雅地描述了机器学习是如何以如此快的速度发展的技术。它创造了一种智力错觉。然而，这非常令人生畏。智力的错觉也被误认为智力。那些作为人类的众生也将思维外包给了您所谓的智力幻觉。这有危险。那里有一个问题。

John deVadoss：哦，绝对。我的意思是，我喜欢您总结的方式。非常漂亮地说，我认为您会站在一侧。如果愿意，您会越来越信任系统内部的智能概念。当然，另一方面，几乎会有这种恐惧，有时甚至是系统将超越的偏执狂。我认为您是对的。你钉了在我看来，打开这些层次时，所拥有的并不是真正的智力。这是智力的幻想。

其实我跟人开玩笑。我告诉人们，这不是人工智能我担心的系统。我担心代码不好。我担心代码中的错误，因为代码中的错误确实是对人类，对我们的经济体系造成重大挑战和问题的原因。所以你去了。肯定会有一些行业炒作和市场营销机制介入。但是，正如我在我的文章Angie中说的那样，我认为这里的根本问题是无法解析系统内部的开放性并说出到底发生了什么，并且正在使AI幻象的不幸挑战永存系统和人工智能将超越世界，依此类推。

Angie Lau：那么，区块链从何而来？

John deVadoss：很棒的问题。这就是他们所说的AI Angie的致命弱点。所以对我来说，人工智能的致命弱点是中心化。那我是什么意思呢？两件事情。首先，您对这个词非常熟悉，我认为这是监视资本主义吗？ AI的大部分内容如今，机器学习正在做的就是所谓的监视机器学习。那是什么意思呢？这意味着这些中心化供应商正在利用您的数据和我的数据，即大街上普通男女的数据。再说一次，不要挑剔任何人，但是可以肯定的是，它是亚马逊，谷歌，微软或苹果。他们正在获取您的数据和我们的数据。而且我们没有能力决定为什么，何时？多长时间？他们可以访问，因此，基本上，我们受这些中心化系统的支配。

刘安琪：无论我们同意与否。而且大多数情况下是未经我们的同意甚至是我们的知识。

约翰·德瓦多斯（John deVadoss）：绝对正确。实际上，这通常是我们所不知道的。但是还有一个更深层次的问题。因此，同样，不要选择任何一家供应商，而是让我们去看看亚马逊。它们具有所谓的识别功能，用于识别面部，即面部识别。挑战是这样。当您有商业活动时，甚至有时也有公共部门的机构，例如海关机构，都使用单一供应商中心化解决方案。问题是这样的。因此，实际上，您有一个供应商，他们的人员设计软件，算法，硬件，芯片，数据中心，编写代码的人员以及运行数据中心的人员。因此，您完全可以由一个中心化的供应商来摆布。

在此链中任何时刻发生的任何妥协本质上都会使您感到放心。因此，如果您考虑其中的含义，例如，如果海关部门使用这样的服务来决定应允许谁入内，则不应让我们入内。您可以想象潜在的影响。所以对我来说，这是我们如何看待机器学习的原始视图。我认为大约五年或七年后，我们会回头说，我们有多愚蠢？这些供应商在使用他们的系统时如何让自己陷入这种安全感。这就是区块链进入的地方。首先，能够决定这些系统何时，为什么以及多长时间访问我们的数据。显然在我们的控制之下。

其次，可以拥有多个供应商，例如可以拥有Amazon和Azure，Google或IBM等，然后在这些系统之间进行三角测量。众所周知，这正是共识在区块链系统中的工作方式。我们有多个节点，我们有多个系统，并且它们共同使一个决策达成共识。那是正确的方法。那是进行机器学习的唯一方法。不幸的是，今天，我们离执行模型还很遥远。但是更令人震惊的是，目前我们对如何进行机器学习的风险缺乏了解。

刘安琪：好的。所以，实际上，如果您可以应用区块链架构，区块链的理念以及它附带的所有功能，那是您的意思。不同的节点，共识机制的去中心化，真正驱动区块链精神的哲学，实际上需要从哲学上实现到AI。也在思考。这是您的建议吗？

约翰·德瓦多斯：绝对。发现。和往常一样，你听了我的话。然后，您对此进行了精彩的总结。你是绝对正确的。我认为，必须将哲学，经济模型以及去中心化区块链背后的技术架构注入到机器学习系统中。而且，不幸的是，我们离那儿还很遥远，我相信这是唯一的方法。例如，关于所谓的道德A.I.安吉，我们怎么得到的？好吧，我们不会在任何地方接近道德人工智能如果我们让自己受一个供应商的摆布。这将是他们的……

Angie Lau：我绝对同意这一点，并且就担忧，偏见而言，当您拥有一个中心化的决策源并且我们在这里谈论源代码时，这几乎是最终的决定。而且，如果这是由一个中心化的供应商或开发人员或一群人控制的，那么突然间，全球思维和“思想”或“智能幻觉”的实现仅源自少数人，我们在社会中的发展方式作为人类，作为社会，作为文明，实际上是数百年来数百万人生命的混合物。

因此，突然之间，将其分解为由一家公司的少数人编写的源代码，然后将其实施到全球系统中，就会有些紧张。一定要引起关注。那么就区块链而言，它会变得更糟吗？

John deVadoss：我的意思是，看，我认为这是灾难的根源。例如，您查看人员受到损害的情况。我们要花多长时间才能认识到这一点？可能很长的时间。在那段时间里，对人类生命的危害是什么？就我们今天运行的系统而言。因此，我认为这是一个更深层次的问题，而不幸的是，主流媒体理解。我很高兴听到你这么说。我的意思是，很高兴听到您如此雄辩地总结此内容。

Angie Lau：这就是我们在Forkast.News所做的，或者至少我们尝试过。但是请注意，您正在引起人们越来越多的了解。它确实是不可或缺的。而且它正在冒泡。您正在听到史蒂夫·沃兹尼亚克（Steve Wozniak）和他的妻子，都在喊苹果，因为苹果给他的苹果帐户的信用额是他妻子的两倍，而且他们共享确切的银行帐户。

他们共享此确切的工资信息。他们分享财富。但是她，唯一明显的区别是她是女性，而他是男性。因此，这些担忧越来越多。但是，除了哲学之外，区块链又如何呢？当涉及到数据和深度学习并聚合我们应该控制但不能控制的私有数据时，区块链如何在技术中发挥作用？

约翰·德瓦多斯：绝对。同样，这是一个非常相关的问题。所以我认为您是对的，最近两周与沃兹（Woz）以及显然是他的妻子的新闻非常重要。因此，我的看法是，Angie：当您有一个供应商，一个系统以及所谓的依赖单一算法的某种类型时，该算法的固有偏差就会出现。同样，不要明显地指责或特别谴责构建系统的人员。事实是这些系统天生就有偏差。所以你会怎么做？

您说，看，对于不同的系统，我们将有三种，也许四种不同的算法。理想情况下，这些系统中的每一个都有不同的软件供应商，不同的硬件供应商，不同的数据中心以及显然不同的人员和人员。然后您三角剖分并说，好的，那么在这四个不同的系统中，共识是什么？在这种情况下，我们要说沃兹得到了很多，但他的妻子却没有得到吗？如果您任由一种系统，一种算法来摆布，这就是事实。我举一个例子。

喷气式飞机，波音飞机，空中客车数十年来一直使用拜占庭式方法制造其传感器。这是什么意思？例如，如果您要检查海拔高度，通常它们具有三个（通常是四个）不同的系统，并且这些系统来自不同的芯片供应商以及不同的软件和工具供应商，等等。想法是这样的；在将信息传递给飞行员等之前，所有这三个或四个不同的系统都应该达成共识。实际上，有人认为造成737 Max挑战的原因或至少原因之一是由于降低成本，以及他们从拜占庭式方法转向单一系统方法的事实。众所周知，生命损失显然是在信誉方面的风险，而且肯定是这样的公司的市场价值正处于危险之中。

因此非常简单。有些人使用去中心化A.I.我不是这个词的忠实拥护者，但我想您可以这样说。我们必须以去中心化的方式设计这些系统。当然，众所周知，区块链平台是必经之路。好吧，我的意思是，我们可以决定哪种算法可以达成共识等等。但是，我们今天拥有这些极其原始的系统，而我们只是将算法归咎于这一事实，我认为这是完全不能接受的。

刘安琪：嗯，归根结底，当涉及到人工智能以及真正的区块链本身时，数据是至关重要的生命力量，对吗？发动机燃料。在这种情况下，专有数据是AI的强大力量如果源数据已损坏，那就是一个问题。如果突然之间我们可以逆转，我们可以创建我选择共享的个人信息的控件，然后使用这些信息。或者，也许我捐赠了或为提高AI理解做出了贡献。然后，机器学习由此产生，它基于一种去中心化的模型，在该模型中，它不是一个源代码，而是多个源代码。在数据输入的多个点上，这种智能错觉可能会变成智能网络。

John deVadoss：说得很好。实际上，我还要再走一步，Angie，我认为应该为您提供访问数据的报酬。今天，我们有一个基本的想法，那就是免费。不是。我的意思是，这是您的数据，这是我的数据。因此，如果您想在一定时间内将访问权授予某个供应商，则区块链系统内部的加密货币经济协议将使我们能够这样做。因此，对我来说，这是非常自然的契合，您应该有这样的心态，看看，如果我让您访问我的数据，那我的报酬是什么呢？简单地说，这些经济协议存在于任何主要的区块链平台上。因此，我再次看到了非常自然的情景。好吧，我认为在找到区块链和人工智能的匹配之前，这是一个时间问题。

Angie Lau：人工智能一词是1956年创造的。好的，现在让我们创造一个词，约翰。人工智能在哪里？我们需要知道的是什么真正囊括了当今的担忧，以便使未来看起来不像“一个损坏的源代码”那样令人恐惧。

约翰·德瓦多斯：是的。这是一个非常非常准确，有深刻见解的问题，Angie。我要说的是简单起见，如果我们不使用“人工智能”一词，我会更喜欢。我认为这只会造成这种错觉，有时会引起炒作，当然有时还会产生妄想症。对我来说，这是机器学习。能够使机器系统从大量数据中学习。他们在学什么？他们是学习模式。因此，您可以说，这是基于模式的学习。话虽如此，如果我们看一下距离不太远的2056年，我想您会发现，这是一个基于集体，去中心化，基于共识的系统集合的概念，可以挖矿和学习模式，我认为，这就是我们最终的目标。

并希望一路走来，我们会失去称为AI的口号。因为坦率地说，我在这个领域在学术界度过了很多年。坦率地说，我们不知道大脑如何运作。对于我们来说，自大是说我们可以模仿它，更不用说复制它了，我认为这是自大的高度。我会更高兴地说，如果我们可以建立一套集体的系统，以经济激励为基础的去中心化共识，以便用户从提供数据中受益，我想我们会处在更好的位置。

刘慧卿：约翰，非常感谢您分享您的专业知识，经验和对未来的想法。的确，我认为您是不可思议的资源，我们绝对会再次与您一起加入Forkast.News下一个主题。感谢您加入我们，约翰。

John deVadoss：非常感谢，Angie，请注意。好。祝你有美好的一天。

刘安琪：绝对，谢谢大家，与我们一起参加了Word on the Block的最新一集。我是Forkast主编刘慧卿。直到下一次。