您的位置:银河至尊娱乐注册>>业界动态

智能技术:机器与人的战争,还是人与人的战争?

发布时间:2017-07-14 14:33:29  来源:搜狐科技  ThoughtWorks   采编:贺飞  背景:

  人工智能的风险讨论已经不再是新话题。在过去几年中,很多研究者提及了人工智能(以及与之紧密相关的技术,尤其是机器学习和大数据技术)可能带来的危害与风险。值得注意的现象是:在公众话语空间中,所流行的关于智能技术伦理危害与风险的讨论,大多将“人类”整体视为潜在的被害对象,大量的叙事被构建为“机器VS人类”的形式。

  人类VS机器的讨论层出不穷,相关的小说、影片等也被大量的创作出来。

  关于智能技术如何被当前的社会权力结构所主导,并反过来强化该结构,从而加深对弱势边缘群体的压迫,相关的讨论数量较少,且缺乏系统性。本文将展开关于智能技术伦理危害与风险的先容,并着重讨论其如何强化社会与经济的不公正。

  想象未来世界:全人类被毁灭的讨论

  有关智能技术伦理危害与风险,部分讨论已进入流行学问空间,引起了大众的兴趣。通常,其以未来学的形式示人:试图推测人工智能技术成熟、尤其具备了自我完善的能力之后的未来图景。如超级智能、人工智能毁灭人类、技术奇点等讨论,引发了大众对其中伦理问题的广泛关注。

  相关的讨论占据畅销行列,大众对人工智能的伦理问题也开始关注。

  比起事关人类存亡、略带科幻感的宏大叙事,另一些相关的伦理危害与风险,正在更加现实中发生。例如智能技术对就业的影响,是一个经常被提及的主题。Kevin Kelly认为,机器在工作中对人的取代是一个不可逆的过程,有一些工作暂时只有人类能做或做得比机器更好,但机器终将胜过人类,绝大多数人类在几十年后,将不再需要从事生产工作。麦肯锡的一个研究,具体地列出了各种职业被机器取代的可能性,其中生产线工作、准备食物、包装物品等“可预测的物理工作”是最容易被机器取代的。

  麦肯锡的报告更近一步,分析了哪些职业将被替代。

  除了造成大面积结构性失业外,人们还担忧,赛博空间和物理空间的战争:控制了大量资源甚至自动化武器的人工智能,是否会攻击它们本不应该攻击的对象?这种危险甚至不必以战争的形式出现:考虑到它们已经在社会经济中扮演如此重要的角色,其错误行为(甚至只是不恰当的优化)是否会造成极端恶劣的结果?可以注意到,以上几类常见的讨论,总体上强调人工智能对人类整体的影响,并不凸显其对当前社会不同人群所造成的不同影响。

  同样的趋势,也出现在对智能技术风险的分析中。众多此类分析聚焦于技术层面,而并未将社会和政治因素纳入考虑。例如斯坦福大学的研究者认为,通过机器学习尤其是深度学习得到的统计学模型,具有以下特征及安全隐患:

  不透明:很难、甚至根本无法看懂其中的逻辑;

  整体不可分:无法通过局部分拆理解输入输出之间的关系;

  脆弱:输入的微小变化可能引起输出的重大且无法预测的变化;

  不被充分理解。

  作为对比,Weapons of Math Destruction一书编辑Cathy O’Neil也提到了众多智能算法工具的危险的特征,其广泛影响着人们的日常工作与生活:

  它们是秘密的,经常是某家企业的商业秘密;

  它们是不透明的,被它们影响的人群不了解这些算法如何运行;

  它们应用的范围很广;

  它们对“成功”的定义值得置疑,被它们影响的人们未必赞同;

  它们制造了有害的反馈环。

  未来世界也在折叠?

  相比前一组特征,O’Neil识别的特征具有一个值得注意的要点:特定的人群。她指出了一个极其重要、但绝非总是明显的问题:智能技术对人的影响是有区别的,同一个技术可能让一部分人受益、同时让另一部分人受损。2010年在伊利诺伊州开始实施的教师绩效评估算法,引发了芝加哥教师的广泛反对乃至游行抗议,这就是一个实例。

  芝加哥教师反对教师绩效评估的算法

  正如Linnet Taylor不无洞见地指出,在进行伦理评估时,人们倾向于抽象地谈论智能技术可能造成的伤害,而具体地谈论它带来的收益,于是实在的收益总能压倒模糊未知的伤害,从而使项目通过评估。通过将社会和政治因素纳入讨论范围,O’Neil所提出的对具体人群的关注,给了大家一个重要的视角,来重新审视智能技术可能带来的损害和风险。

  自此,大家首先可以注意到,智能技术对劳动力市场的影响并非均质。Erik Brynjolfsson和Andrew McAfee在《与机器赛跑》中指出,教育程度较低、薪酬较低的劳动者更易被智能技术取代,同时他们也更难以获得新的职业技能,因而这群劳动者在结构性失业中受到的损害被加重;Paul Krugman一针见血地指出,全能且高效的工作机器人(workbot)的出现,未必会让世界变得美好,因为没有能力拥有机器人的那些人,处境将非常悲惨。尽管这方面的研究还很少,但现有的一些研究显示:在高度自动化、智能化的工作环境下,教育和技能水平较低的劳动者,正在面临劳动环境恶化、劳动强度增大、收入降低、缺乏劳动和社会保障等挑战,此种现象在“分享经济”形态中普遍可见。在一些极端的情况下,劳动者被异化成“数字机器上的幽灵”和“生产线上的奴隶”。

  编辑邱林川讨论了新形势下的奴隶—i奴

  另外,智能技术可能正在加深对社会弱势群体的偏见和歧视。Wendy Chun认为“机器学习就像偏见的洗钱”,通过机器学习,偏见和歧视被包装成模型和算法,使不公正变得更加隐秘而影响深远:职场社交网站LinkedIn的搜索引擎更青睐男性求职者,谷歌的广告平台Adsense存在种族偏见,饱受争议的“预测性执法”(predictive policing)对非裔美国人和穆斯林形成结构性歧视,低收入人群会因为智能技术更难从贫困中逃脱。性别、种族、宗教信仰、收入……现实中的各种偏见与歧视,似乎都在智能技术中找到了落脚点。

  除此以外,智能技术还被用于控制大众情绪。通过操控用户从资讯订阅渠道看到的信息,脸书成功地调节了用户发帖的情绪,从而证明情绪可以在大量在线用户之间传染。一份曝光的材料显示,JTRIG(联合威胁研究智能小组,隶属于英国情报和国家安全机关政府通信总部)已经在通过Youtube、脸书、Twitter、博客、论坛、电子邮件、短信、自建网站等渠道操纵大众情绪,从而消除“犯罪、安全和国防威胁”。在政治领域,智能技术可以诱导选民做出片面的判断(Cathy O’Neil在2015年的发言);而在商业领域,其向消费者灌输消费理念,使他们成为对不断更新换代的消费品上瘾的“被制造的奴隶”(manufactured slave)。

  JTRIG(Joint Threat Research Intelligence Group)是GCHQ(Government Communications Headquarters政府通讯总部)的一部分,图片来源:网络

  早在1980年代中期,研究者们就围绕“计算机伦理是否具有独特性”这一问题展开讨论。Johnson认为,计算机伦理只是把标准的道德问题以新形式呈现,逼迫大家在新的领域中延续旧的道德规范,它本身不是一个独特的新题目。而James Moor则认为,计算机会大幅度转化/强化现有的伦理问题,并且造成过去未曾出现过的新伦理问题,因此计算机伦理本身就是一个独特的新题目。

  这两种观点,对于大家全面认识智能技术的伦理问题,有着重要的启发意义。大家既需要充分了解智能技术的独特性,及其对伦理问题带来的独特影响,又必须认清新技术背后潜藏的旧有冲突、斗争和伦理准则,这样才能准确把握智能技术的伦理方向,使其向着对广大民众有益的方向发展。




关注ITBear科技资讯公众号(itbear365 ),每天推送你感兴趣的科技内容。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经银河至尊娱乐注册证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性银河至尊娱乐注册不作任何保证或承诺,并请自行核实相关内容。银河至尊娱乐注册不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系大家,银河至尊娱乐注册将会在24小时内处理完毕。


返回银河至尊娱乐注册 本文来源:搜狐科技

本文评论
如涵,上市时所展现出来的,只是它过往历史的一个静态截面
势力,就是用一小部分的你,来判断你的全部价值。
日期:04-11
闪修侠与黑鲨游戏手机达成战略合作
4月1日,国内手机上门维修领军品牌闪修侠,与知名游戏手机厂商黑鲨达成战略合作。黑鲨携手闪修侠为...
日期:04-11
HUAWEIP30搭载EMUI 9.1,升级+服务诠释品质生活
4月11日,HUAWEIP30系列于上海发布。渐变式唯美设计、超感光徕卡四摄,创新双景录像再度惊艳智能手机...
日期:04-11
Adobe发布安全4月安全更新补丁 再次公开致谢知道创宇404安全实验室
4月9日 Adobe官方发布了2019年4月的安全更新,本次更新修复了涉及Windows和MacOS的Adobe Acrobat an...
日期:04-11
全球工业互联网大会即将启幕,全应科技出席技术及解决方案专场论坛
2019年,工业互联网迎来了最好的时代。我国两会政府工作报告首次写入“打造工业互联网平台,拓...
日期:04-11
魅族16s未优化夜景样张曝光 秒杀SAMSUNGS10+
随着发布日期临近,近日有关魅族新旗舰魅族16s的爆料越来越多。近日,该机已经正式入网(型号为M971Q...
日期:04-11
黑洞照片引发品牌文案大战:小米要上“黑洞模式”、拼多多走心
首张黑洞照片似乎并未出离多数人的想象中的“脑洞”,除了华硕电脑、杜蕾斯等,手机厂商...
日期:04-11
白鹏:我帮小米收“小费”
引语:IoT时代的广告业正在变革之中,从广告主B端为主,转化成C端消费者为主
日期:04-11
万里挑“七”!微播易从近万Vlog达人中选出了这7位值得投放的!
欧阳娜娜因Vlog圈粉无数,明星加持,让Vlog火遍了大江南比。从静态图片到动态短视频,再到如今新兴...
日期:04-11
88元买到泰国金枕头榴莲?苏宁生鲜:榴莲自由不远了!
榴莲党们,你们一直期待的泰国金枕头榴莲预售开始啦!4月9日,苏宁生鲜在线上正式开启泰国直采的金枕...
日期:04-11
爱奇艺奇遇2 VR对比Pico G2 4K横评 谁才能为用户带去真正4k的体验?
说到享受生活,VR你们觉得怎么样?可以说这是曾经价格相对高昂,但却又相当吸引人的体验。不论是VR观...
日期:04-11
奥比中光与腾视科技合作推动3D视觉落地安全驾驶
4月8日,在第七届中国电子信息博览会上,奥比中光与腾视科技正式签署战略合作协议,双方将共同研发3...
日期:04-11
《创造营2019》上演男子团体赤子之心,TencentWiFi管家助力粉丝随时pick
2018年作为偶像成团出道的元年,从《创造101》到《偶像练习生》,接连不断的偶像选秀综艺节目的出现...
日期:04-11
小米MIX4没准长这样!
全面屏手机大家一定不陌生,自从这一概念席卷手机圈以后,就衍生出了多种形式。今天基于可以实现的...
日期:04-11
真·有钱系列:HUAWEIP30系列广告点亮9城
3月26日,HUAWEI在法国巴黎举行了P30系列发布会;4月11日下午2点半,HUAWEI将在国内举行P30系列发布会,...
日期:04-11
SAMSUNG确认再无J系列,Galaxy A系列取而代之
SAMSUNG在今日的Galaxy A系列新品发布会上正式发布了Galaxy A80手机,并在会上总结了其A系列产品线,这...
日期:04-11
被批歧视穷人,AMAZON无人商店将开始接受现金
北京时间11日消息,据美国媒体报道,AMAZON的无人商店亚马逊 Go将开始接受现金,因为越来越多的人批...
日期:04-11
韩国已有10万用户尝鲜5G,延迟在5ms以下
4月5日,韩国三大移动运营商(SKTelecom、KT、LGU+)宣布正式开始针对普通消费者的5G商用服务,并推出...
日期:04-11
安卓手机现可充当物理安全密钥
4月11日消息,据The Verge报道,GOOGLE今天宣布,任何运行Android 7或更高版本操作系统的手机,现在都...
日期:04-11
苹果销量低迷翻篇:投资者关注苹果服务业务前景
北京时间4月11日早间消息,彭博社报道称,经历2018年后,苹果又重新受到投资者的追捧,因为他们已经...
日期:04-11
 

微信扫一扫
下载ITBearAPP

XML 地图 | Sitemap 地图