如何避免人工智能带来的隐性伤害

/TakeHome Message

AI 虽然能协助遏止违法或侵权的言论，但一般大众却无法得知其评断的机制，已于无形中造成伤害。

AI 的数据库误差，将造成算法对文化或族群产生偏见等；而深度学习的算法因处理庞大的数据，常使研究者或运用 AI 的机构无法理解与回溯 AI的决策原因。/

详细不少人还没有忘记社群网络最大的平台脸书（Facebook），为遏阻违法或侵权的言论，会判定某些言论违反其「社群守则」而隐藏。不可否认，违法与侵权言论在社群网络上造成了严重的伤害，不过有时候这些隐文的原则，似乎与政治或特定议题有关。时不时也有朋友提到，一则再平凡不过的贴文或照片，却莫名其妙地被宣告违反社群守则。于是乎在2021年时，网友们开始把脸书创办人扎克博格（Mark Zuckerber）的姓氏，变成了讽刺脸书封锁文章标准混乱的话梗：你被「扎」了吗？

想当然尔如脸书等社群媒体，是仰赖着算法自动判断一则贴文是否违规。除了针对文字与图片的内容分析以外，其他例如被检举的数量、账号的活跃程度、账号的发文模式、商业价值等，都成为算法评估一则贴文是否违规的依据，彷佛法官在定罪犯人时不只依据犯罪行为，也会权衡犯人及其社会状态一样。然而，我们看得到法官的决策过程与理由，但却从来没有机会搞清楚，到底算法发生了什么事情，才会宣告一则平凡的贴文违规。

虽然大家平常遇到这种贴文被删的情况，通常也就是重新打篇文章贴个图发发牢骚，就这么过去了。但这个时不时可见的神秘隐文事件，其实就是我们生活中，人工智能（artificial intelligence, AI）已经持续带来隐性伤害的频繁案例。

AI 的伤害跟以往想象的不一样

自工业革命以降，人类其实蛮迅速地就提出对科技发展副作用的深层反思。例如人类史上第一部科幻作品，1818 年由英国作家雪莱（Mary Shelley）所著作的《科学怪人》（Frankenstein），即是以一个具有拟人思维的人造生命为主角的科幻惊悚作品。伴随着机器的发展，1956 年达特矛斯会议（Dartmouth Summer Research Project on Artificial Intelligence）上，与会专家提出「artificialintelligence」一词，认为机器的发展将可像人一般具有学习、理解、适应的能力。

随着 AI 技术上的演进，人们对 AI 的乐观与悲观态度，也愈发分歧。对于 AI 发展所带来社会的影响，依其态度可以分为：对科技抱持乐观者，相信「强 AI」的问世可以使计算机与人有相同甚至超越人类的思考能力，并为人类解决大部分问题，带来更理想的明天，在电影动画等作品中不乏这类理想的人工智能角色；重视科技实用者，倾向认为 AI 是以辅助人类的角色，解放人类的劳力工作而能开创更多科技应用的可能；重视科技发展脉络者，则认为 AI 只是科技发展中的一个流行词（buzzword），只有尚在发展中，尚未充分掌握的技术才会被视为 AI。与科技领域相对，在人文社会领域中则较常出现对 AI 发展的反思，例如研究 AI 对人类劳力取代后所创造的弱势冲击；或更甚者认为强 AI 的不受控发展，将会导致人类文明的毁灭。这些不同立场的观点，均揭示了人类看待 AI 对社会影响的多元与矛盾预测。

尽管当代影视作品和学术研究，都对 AI 会造成什么样的伤害有兴趣，但 AI 带来的伤害早已出现多年而默默影响着人类社会。2018 年在《自然》（Nature）期刊上的一则评论，介绍了一张身披白纱的欧美传统新娘和印度传统新娘的组图，而算法在看待两张新娘照片时，会将前者判断为「新娘」、「洋装」、「女人」、「婚礼」等，但将后者判断为「表演」和「戏服」。在这个案例中，AI 或算法设计本身其实并没有独钟哪一种文化，但因为算法的训练来自于既有图库，而图库中的图片来源和图片的诠释注记，与真实世界的样貌出现落差，使人工智能就如真人一般，凭借着片面不完整的学习数据，产生了对族群与文化的偏见（偏误），而算法可能更无法自觉与反思自我产生的偏见（下图）。

由于 AI 只凭借片面且不完整的数据进行学习，以婚纱为例，AI 只能辨识出传统欧美的婚纱装扮（左），却难以辨识出不同文化的婚纱样貌，例如印度传统服饰（右）。

除了数据库的误差而导致算法对文化或族群的偏见以外，「深度学习」（deep learning）的算法因处理庞大的训练数据、分析数据，也常使研究者或使用 AI 服务的机构，无法理解与回溯 AI 决策的具体原因。例如亚马逊公司（Amazon.com, Inc.）仰赖算法全自动判断大量受雇员工的工作状态，并以此决定他们的绩效与裁员与否。尽管这种做法能大幅缩减决策时间，并减少人资成本，但也因此发生数起亚马逊员工因系统过失而被降低绩效，或是员工绩效良好却被无故裁员，更申诉无门的矛盾事件。这与将 AI 应用于人资的初衷似乎有点相悖，算法或许可以避免人为决策时，因涉及个人喜恶偏好而作出不公允的判断，但却也造成了另一种不公允也无从理解缘由的伤害。

谁来规范 AI？

既然 AI 的伤害已然出现，自然也应有对 AI 的监管与规范机制。例如欧盟执委会（European Commission）在 2019 年 4 月公布「值得信赖的人工智能伦理指引」（Ethics Guidelines For Trustworthy AI），强调人工智能应为辅助角色，尊重人类自主、避免伤害、维护公平、具有可解释性，且能受到监管并回溯决策过程，以避免算法的黑箱决策，作为欧盟成员国在订定 AI 相关规范的上位依据。2019 年 5 月，经济合作暨发展组织（Organisation for Economic Cooperation and Development, OECD），提出 AI 发展的原则应有永续精神以造福人类与地球，能尊重民主与法治、人权与多元性，兼顾透明度、课责机制等原则。美国在 2020 年 1 月发布的「人工智能应用的管制指引」（Guidance for Regulation of Artificial Intelligence Application），也强调衡量风险避免伤害、公平无歧视、透明度、重视科学实证、立法过程应兼顾公共参与等，作为美国政府各机关在订定与人工智能相关规范的指导原则。联合国教科文组织（United Nations Educational Scientific and Cultural Organization,UNESCO）则在2021年 11 月，发布《人工智能伦理建议书》草案（Draft text of the recommendation on the ethics of artificialintelligence），作为会员国订定 AI 相关法律与政策时，可依循的通用价值观、原则和行动框架。

AI 对今日生活的便利已无远弗届，而 AI 所带来的伤害，虽微小、难以察觉，但也已经出现，对应的伦理指引与规范在国际也蔚成趋势。如同历史上所有科技进展一般，科技带来的进步与灾变往往是隐性与持续的，直到人们已惯于新兴科技的进步，发现科技的受害者已经出现，才惊觉世界已经完全改观。

隐性人工智能算法误差

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。