财新传媒
  1. 0

互联网巨头应设立伦理委员会

2018年01月12日 10:50 来源于 沙龙365登入
可以听文章啦!
  1. 发表评论
  2. 分享到微信朋友圈
  3. 新浪转发
或许有人会提出,对伦理的考虑会否制约甚至扼杀创新呢?会有约束,但不会制约,更谈不上扼杀
郭沛源
清华大学管理学博士,商道纵横共同创办人、总经理,商道融绿董事长,商道学堂校长,系企业社会责任、绿色沙龙365登入及责任投资知名专家。郭沛源博士于2012年发起中国责任投资论坛(China SIF),任理事长;2015年参与发起中国沙龙365登入学会绿色沙龙365登入专业委员会,任理事;同时担任中国银行协会绿色信贷培训项目特聘专家。郭沛源博士在清华大学经济管理学院、北师大社会发展和公共政策学院讲授《企业经营与可持续发展》及《战略企业社会责任与社会创新》课程。

  【沙龙365登入】(专栏作家 郭沛源)近日,360公司借壳成功,回归A股。此前不久,360公司曾遭遇了一场不大不小的危机事件。一名90后女生爆料,指责360公司的水滴直播侵犯公众隐私。原来,360公司生产摄像头并附带了直播功能,购买摄像头的用户(不少是幼儿园、餐厅等),只要安装摄像头并按程序开通直播功能,摄像头拍摄的画面就可以在360公司架设的直播平台“水滴直播”上实时观看。按照360公司的要求,餐厅等摄像头用户要在醒目位置张贴告示,说明此地已开通直播。但是,根据上述女生的实地调查,很多用户并未告知消费者就在餐厅等地开通直播,因此不少消费者并没有意识到自己一举一动都正在水滴直播之上直播。对此,多数人表达了不适和不满。

  最初,360公司创办人周鸿祎回应称,公司已要求用户履行告知义务,所以责任不在360公司。后来,结果大家都知道了,360公司宣布永久关闭水滴直播。有评论认为,周鸿祎这次之所以这样决断,是因为水滴直播现在对360来说业务贡献不大,无关紧要;也有评论认为,是因为360公司正在借壳回归A股的关键阶段,不想被此事干扰。无论真实原因是什么,水滴直播的关闭,是对国内互联网公司的一记警醒:在探索创新的沙龙365登入模式和产品时,要充分评估新的沙龙365登入模式和产品的伦理影响,即对人及人所处的环境所产生的影响,不能一味创新、蒙眼狂奔。

  在这方面,国内互联网公司乏善可陈。因此,每隔一段时间就会看到互联网创新引致的此类负面舆情,互联网公司不得不疲于“灭火”。不久前,爱奇艺下架VR女友。这是一款VR智能眼镜设备,里面的交互主体就是以为职场女性的形象的AI机器人vivi。用户可以向AI提出时间、天气之类的简单问题,也能通过动作与AI互动,譬如通过触摸AI身体的不同部位让AI做出不同的反应。有媒体报道称,个别用户利用此功能与AI进行调情,并分享到社交媒体。或许是因为投诉太多,VR女友没多久就下线了。

  另一个例子就是2016年底的支付宝“校园日记”事件。这款产品旨在刺激支付宝用户的社交互动,因此设置了特别的规则:女用户发布照片,芝麻信用分在750以上的男性用户可以评论。这个规则确实吸引了大流量,但也产生了很多问题,特别是个别女用户发布暴露照片,求点评。产品上线不久,批判之声就不断出现,主要是认为这样的规则传递不当的价值观和诱发不当的交易。最终结果是,上线两天,蚂蚁金服董事长彭蕾以内部信的形式致歉并关闭“校园日记”。

  这样的案例还有很多,在此就不一一列举了。举例也并非为了批判,只是供我们分析问题出现的原因。我认为,在推出上述创新的沙龙365登入模式和产品时,互联网公司的产品经理更多是从业务拓展和技术创新的角度来分析的,缺少了伦理视角,即没有站在一个“普通人”的立场来考虑这些产品可能对公众群体造成的影响(生理的或心理的)。再深究一层,不少技术人员信奉“技术中立”的信条,认为技术不分好坏,用的人才有好坏之分,这样的信条潜藏风险,因为互联网公司并非活在真空之中,公众舆情常常会推倒“技术中立”的信条,延伸互联网公司的责任边界,所谓“能力越大,责任越大”,以上案例说明了这一点,近期关于今日头条的争议也说明了这一点。

  2017年初,我们发布了《2017中国企业社会责任十大趋势》,其中有一条是“科技为善”,讲的就是科技创新的伦理问题。我们发现,互联网行业是近年来此类事件的高发区,这是有缘由的。第一,互联网公司创新多,各种新模式、新技术、新产品层出不穷,互联网公司的“试错文化”为创新提供了良好的土壤。第二,互联网公司创新快,跨团队、快节奏的联合攻坚,使新想法很快就转化为现实产品。第三,互联网公司影响广,很多互联网公司都直接面向公众用户,数以千万乃至亿计,一旦出现问题,就很容易转化为舆情危机。

  外国的互联网公司同样面临这些问题。不过人家对伦理问题比我们要重视得多,特别是当互联网公司进入到AI领域之后。不久前,微软分管AI与研究业务的全球执行副总裁沈向洋在接受采访时称,AI最大的障碍并非技术,而是道德。谷歌DeepMind的联合创始人Mustafa Suleyman则说,AI技术应该在2018年专注于社会道德伦理,“AI在未来会影响沙龙365登入,有可能是改善,也有可能加剧社会的不平等现象,所以需要优先考虑他们的伦理问题。”这些言论都可看出美国互联网公司对伦理问题的特别关注。不仅如此,领先的互联网公司已经开始从组织架构上保障伦理问题不出问题。2014年,谷歌成立AI伦理委员会,以监管公司的所有AI研究活动;2017年10月,谷歌DeepMind成立伦理与社会部门(DeepMind Ethics & Society),预计编制25人,并聘请外部专家为顾问,譬如哥伦比亚大学教授Jeffrey Sachs、气候变化活动家 Christiana Figueres等。微软公司也不甘人后,在2017年7月宣布成立AI伦理监督小组(AI Ethics Oversight Panel)。此外,在行业层面,谷歌、Facebok、亚马逊、IBM和微软五家巨头在2016年9月联合发起了“AI惠及人民与社会联盟(Partnership on AI to Benefit People and Society,)”,2017年1月,苹果公司也宣布加入联盟。

  反观国内互联网公司,极少听到有关伦理方面的探讨。我在网上简单搜索了一下,发现国内还没有哪一家互联网巨头设立伦理委员会,这说明我们对此关注度是严重不足的。如今,国内的互联网公司已经在国际上占一席之地,腾讯阿里跻身全球市值排名的前十名,大家也纷纷进入AI领域,我认为国内的互联网巨头有必要关注互联网技术特别是AI技术对伦理的影响,加快设立伦理委员会。降低创新风险、赶超国际同行。

  或许有人会提出,对伦理的考虑会否制约甚至扼杀创新呢?我认为,会有约束,但不会制约,更谈不上扼杀。但这些约束是控制风险所必须支付的成本,这样的成本总比出了事再致歉乃至关闭业务对公司造成的损失少。如同制药公司,在药品商用之前,必须经过各种实验室和临床测试,这都是产品研发所必须付出的成本。国内互联网公司因为伦理因素遭遇的危机已不少、付出的成本已不低,“灭火式”的危机管理治标不治本,设立伦理委员才是系统解决方案。

  作者为清华大学管理学博士,商道纵横共同创办人,系企业社会责任、绿色沙龙365登入及责任投资知名专家  

责任编辑:张帆 | 版面编辑:吴秋晗
  1. 分享到腾讯微博
  2. 分享到新浪微博
  3. 分享到微信朋友圈
财新传媒版权所有。如需刊登转载请点击右侧按钮,提交相关信息。经确认即可刊登转载。
  1.  郭沛源(作者)
  2.  互联网公司
全选
新闻订阅:订阅后,一旦沙龙365登入更新相关内容,我们会第一时间通过发邮件通知您。
  1. 收藏
  2. 打印
  3. 放大
  4. 缩小
  5. 苹果客户端
  6. 安卓客户端
  1. 发送邮件
  2. 腾讯转发
  3. 新浪转发
    1. QQ空间
    2. 开心网
    3. 网易博客
    4. 豆瓣
    5. 鲜果网
    6. 搜狐微博
    7. 百度搜藏
    8. 谷歌书签
财新微信
沙龙365登入