安防AI伦理困境何解？欧盟发布道德准则
2019年04月10日 11:11:51
来源：兴旺宝装备总站
阅读量：10
导读：现在各行各业都在向AI靠拢，但若论在哪个行业AI发展的会更快、更具有潜力，非安防莫属。
【兴旺宝装备总站 安防】 现在各行各业都在向AI靠拢，但若论在哪个行业AI发展的会更快、更具有潜力，非安防莫属。以智能监控系统为代表的AI安防产品已经覆盖到众多应用领域，AI技术的应用让安防行业尝到了甜头。如今，无论是公共安全领域、智能交通、智慧城市、智能楼宇、工厂园区，乃至物流运输、电力巡检等都少不了AI安防产品的身影。
不过，AI技术被安防行业采纳不仅是为了更有效地完成当前业务，这是一个多方面的过程，更重要的是，AI还需要不断重新评估这些实践结果，以适应客户不断变化的需求。另外，AI技术固然能在扩大监控规模的前提下能够有效收集情报并充分分析，及时阻止安全事件发生，也有可能产生一些伦理道德问题。
目前，从很多案例可以看出，有些AI做判断时存在歧视。例如，美国AI会更偏向中年白人，而预测违法时往往会把黑人和黑人集中区域当做重点预测对象。我国也有根据一个人脸部特征与行为举止来判断此人是否具有社会威胁性并提醒警方先发质人的AI系统。人类的偏见被机器学习并吸收，这是AI发展所面临的一种道德危机。这些表现无疑会使AI受到大量道德谴责。
此外，个人隐私与数据保护、AI系统对外部攻击的防御能力、以及算法透明度等问题也越来越成为AI安防亟需突破的重点问题。
毫无疑问，AI的确需要监管，但现在我们还不清楚如何对其进行监管。欧盟(EU)近日发布了一套指南，指导企业和政府在开发人工智能时遵循道德准则，旨在解决AI带来的棘手问题。该指南认为，未来AI系统应该满足下列7项要求：人道机构的监督、技术稳健性和安全性、隐私和数据治理、算法透明度、多元化非歧视和公平性、环境和社会福利以及完善的问责制。这份清单为减轻AI的潜在危害提供了一个实用且具前瞻性的视角。
数字权利组织Access Now的政策经理范妮·希德维吉认为：欧盟不应止步于道德准则，因为道德准则只有在法律基础上才能发挥更大作用。但是由道德走向法律，必须非常审慎。在此之前，还需要AI技术进一步发展并更广泛且深入地应用。
结语：对影响日益扩大乃至渗透人们生活各个方面的AI安防而言，为了使系统发挥应有的作用，加强监视和构建伦理之间必须有一个可以被社会广泛接受的平衡。如果在采用人工智能技术的过程中包含了日后数据收集训练的方向，那么可能会减少假警报的风险，也可以在AI驱动的决策中充分体现其公平性，尽量减少其可能对社会产生的负面影响。
版权与免责声明：1.凡本网注明“来源：兴旺宝装备总站”的所有作品，均为浙江兴旺宝明通网络有限公司-兴旺宝合法拥有版权或有权使用的作品，未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：兴旺宝装备总站”。违反上述声明者，本网将追究其相关法律责任。 2.本网转载并注明自其它来源（非兴旺宝装备总站）的作品，目的在于传递更多信息，并不代表本网赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时，必须保留本网注明的作品第一来源，并自负版权等法律责任。 3.如涉及作品内容、版权等问题，请在作品发表之日起一周内与本网联系，否则视为放弃相关权利。
我来评论
昵称 验证码 请输入正确验证码
所有评论仅代表网友意见，与本站立场无关。