首页 / 行业

人工智能前所未有的缺点

2023-06-08 00:15:00

批量数据的处理已经转移到系统，尤其是人工智能。这个过程对等待的消费者来说更容易、更快、更方便。尽管有好处，但算法中的错误和漏洞是可能的。然后，这些误判将转向对毫无戒心的人口群体可能造成的伤害。

人工智能技术BA3121，特别是机器学习（ML），在很大程度上，它依赖于遵循模式和检测异常活动。这种做法加强了歧视模式。

这种模式虽然无缝，算法看似完美，但不公平的偏见和歧视可以针对特定的群体。这种现象被称为代理歧视。

什么是代理歧视？

既定的心理测试迫使参与者尽快将术语分成两组。在这次测试中，人们被迫像代理歧视一样进行不必要的歧视。

制定了反歧视性政策和法律。一些政策反对歧视性政策，如性别、种族和工作年龄。然而，具有讽刺意味的是，现代人工智能的使用使得很难指出歧视性案例。事实上，它可以是一个煽动者。

如何加剧代理歧视？

机器学习引起的代理歧视会产生不同的影响。从法律上讲，不同的影响对特定群体的就业或住房有负面影响。

工作场所的一个常见例子是雇主积极避免雇佣有孩子的妇女申请人。古老的信仰指出，母亲不能成为好工人，因为她们不能专注于工作。然而，员工赢得了几起里程碑式的劳动法案件，因为它被证明是一种明显的歧视形式。

当考虑到人工智能和代理歧视时，算法处理的所有数据都是自动化的。如果数据网络捕获和收集数据，则不再需要人工干预。

然而，机器仍然指出母亲申请人是一个异常值，因为母亲申请人可能表现出不同于正常组或基本组的特征。

这样，代理歧视就成为具有不同影响的高度具体的子集，看似无害的算法会对特定群体造成伤害。许多年前，代理歧视被认为是故意歧视的子集。

然而，考虑到人工智能的性质，结论是它根本不是故意的。这是先进技术的不幸副产品。

使用代理歧视

代理歧视可能是无意的，但用户会找到利用这个过程为自己谋取利益的方法。不幸的是，代理歧视的故意使用使歧视决策和选择看起来理性和机械。

一些用户使用代理歧视作为消除相关歧视氛围的解决方案。当他们的决定背后的原因受到质疑时，这就像安全网络的答案。

保险代理歧视

人工智能已被证明是保险业的重要工具。它在处理批量数据、欺诈检测、利率设置和定价方面非常有用。另一方面，也存在代理歧视的风险。

正如前面提到的，人工智能无法故意区分信息链。这意味着没有形式的偏见。然而，它对模型的高度关注使它能够捕获通常与特定组相关的代理数据。它可以是任何类型的数据。

任何类型的客户活动都可以被算法断章取义，并受到代理商的歧视。这对公司来说可能很麻烦。受到前所未有歧视的人可以提起诉讼，要求赔偿损失。

大多数公司会采取额外措施来防止这种情况。然而，有些人会利用这一点来充分发挥他们的优势。他们愿意根据自己的喜好改变算法元素，因为他们知道代理歧视的发生。

当他们准确地改变元素时，结果将满足他们的视觉和需求。查询结果是不可避免的，但它们可以简单地作为算法产品传输，而不与算法相关。归根结底，他们有正当的理由做出歧视性和有害的决定。

警惕其它风险

除了代理歧视的危险外，用户还必须注意与人工智能技术相关的其他危险。安全总比后悔好。

失业

考虑到未来的创新，大多数人将其等同于机器人和其他类型的自动化。这些创新现在已经开始了。在产品开发和制造阶段，各行各业更喜欢使用机器人。

以汽车工业为例。机器人臂不是人，而是在汽车制造过程中。现在自动驾驶和商业分销是可能的。完全自动化过程的直接风险是失去熟练员工的工作。

数据安全风险

由于几乎所有的数据都存储在云中，当人工智能受到不利影响时，数字安全也可能处于危险之中。黑客和在线钓鱼是与人工智能相关的最突出的数字安全攻击。使用云中存储的个人数据的危险也迫在眉睫。

结论

使用人工智能技术是一把双刃剑。虽然有明显的好处，但也存在代理歧视等紧急问题和风险。代理歧视是不可避免的。一旦中立的声明或主张可能会对特定的群体造成前所未有的伤害。这种风险没有已知的对策。在处理这项技术时，最好保持警惕。