文/段伟文

（中国社会科学院科学技术和社会研究中心）

追溯信息技术和数据技术所推动的信息及智能时代的发展历程，每个人可以有不同的视角和答案。但有一点是肯定的——每一阕新的技术神话，都是一场技术与社会互构的传奇，其实质是旷日持久且规模不断拓展的社会伦理试验。在这一超级社会伦理连续大剧中，各种价值反思与伦理权衡一直贯穿其中。

没有思想的世界：科技巨头对独立思考的威胁

[美]富兰克林福尔/著

舍其/译

中信出版集团，-12

年3月10日，美国发明家贝尔记录下了世界上首次电话通话——我对着话筒大声喊道：“沃森先生，到这里来，我想见你。”在这起改变世界的事件中，电话这种新的信息技术拓展出一种可以实时交互的信息空间（info-sphere），而这种非在场的交互体验让普通人第一次感受到虚拟在场。自此，各种信息空间和虚拟在场方式成为信息时代生活形式的基础，亦导致诸多价值冲突和伦理抉择。

在信息时代起步之时，人们就开始为隐私权、数据权利受到侵害倍感困扰。电话刚刚开始普及时，往往是一个小镇的几家人共用一个电话信道，结果各种家长里短、恋人间的悄悄话变得毫无隐私。后来，随着交换机技术的发展，这些新技术带来的伦理尴尬似乎得到了化解。但直到现在，从窃取电子通信录和通信记录到各种针对个人信息和敏感数据的不当采集，从骚扰性的推销电话到借助人工智能语音造假的诈骗电话，信息通信技术的滥用乃至恶意使用仍屡禁不止，个人信息和数据的保护已成为智能时代捍卫个人权利的焦点。

TheSecondSelf:ComputersandtheHumanSpirit

SherryTurkle

TheMITPress,-09

19世纪末20世纪初，随着摄影技术的发展，照相成为记录人们生活的迷人的新技术。当第一次看到自己定格于时空中的留影时，人们大多倍感欣喜和惊奇，但也有人会油然而生一种狐疑：一旦人的影像被记录下来，会不会有一部分灵魂被偷走。虽然这种可怕的想象没有变成现实，但人们很快意识到：拍下某个人的照片，往往意味着拥有了某种针对那个人的力量。特别是随着各种便携式相机的普及，隐私权被侵犯开始成为人们在享受信息技术的利好时不得不担忧的问题。

近年来，面对信息科技发展带来的社会伦理挑战，人们一般难以运用已有的道德规范加以应对，只能在其技术实践和体验中，逐渐构建起相应的伦理反射弧，进而在此柔性规范的基础上，制定刚性的和可执行的法律规范。直到20世纪70年代，随着计算机和数据库的应用日益广泛，个人数据及隐私权保护才成为法律规制的对象。

尽管当前在数据保护方面欧洲似乎更主动和积极，但美国却是信息时代个人数据和隐私保护的先锋。年，美国卫生、教育和福利部（HEW）任命的数据自动化系统咨询委员会首次提出了“公平信息实践”（FairInformationPractices，简写为FIPs）的概念以及五项原则，对个人数据的透明性、使用限制、访问和更正、数据质量、安全性等均做出了规定，这也成为美国国会次年通过的《隐私法》的基础。年，根据《隐私法》设立的隐私保护研究委员会向卡特总统提交了《在信息社会中保护隐私》的报告，将FIPs的五项原则细化为八项原则，其中前三项原则是：开放原则，不应有一个秘密存在的个人数据记录保存系统，并且应对组织的个人数据记录保存规则、惯例和系统采取开放政策；个人准入原则，对于记录保存机构以个人可识别的形式保存的信息，个人有权查看和复制；个人参与原则，对于记录保存组织保存的个人信息，个人有权更正或修改该信息的实质内容。另外，报告中还阐明了任何数据保护系统都应该实现的三个目标：尽量减少干扰、最大限度的公平、合法与可执行的保密预期。

如今各国的数据保护规范均源自FIPs，透过这些早期的探讨，可以窥见管理者推动个人数据保护的初衷。不过必须指出的是，即便看起来是可执行的刚性规范，基于FIPs的数据保护在法律实践中也并不成功，隐私保护一直在路上，甚至越来越困难。从个人的角度来看，用户的知情权和选择权往往被忽视，隐私政策时常难以理解。对企业来讲，隐私政策又存在着高成本和互不兼容等问题。由此，一种必要的实践智慧是，在相关法律不能达到有效规制的目标时，应该考虑到，技术的快速变迁和复杂的现实利益关联往往使得相对刚性的法律规制难以有效执行。那么，能否从法律层面退一步，在价值和伦理层面构建起更细致的柔性约束，为更为务实有效的法律规制奠定基础？具体而言，在越来越多的数据驱动的智能技术应用场景中，应该在法律层面确保个人安全、保证个人信息的完整性、实现保护的一致性和有效执行的同时，展开必要的价值权衡和伦理构建。一方面，通过价值权衡，促使个人数据与隐私的保护在预防数据流动对个人的危害与数据利用的效益最大化之间做出精细的权衡；另一方面，诉诸伦理构建，推动企业和机构对其行为的透明、诚信和责任做出具有一定约束力的伦理承诺。

除了隐私权和数据权利之外，信息时代的另一个更难以应对的价值伦理挑战来自数据造假。吊诡的是，虽然数据和信息被视为知识和智慧的基础，但信息化、网络化、数字化和智能化的发展带来的最大悖论却是低质量信息泛滥成灾，各种水军和社交机器人令人真假莫辨，大量虚假信息和数据使人面对后真相时代束手无策。尽管人们一度对科学实验数据、照片、视频刻画的世界和事实的客观性深信不疑，但最终不得不承认，凡是人从事的活动都可能造假，即便数据的记录过程是诚实的，人们对这些记录的解释和利用也不可能不偏不倚。抛开摄影术本身的视角选择和光影调配不说，照片并不是对世界赤裸而客观的记录，各种编排、增删和特定的解释会赋予照片不同的意义。

更让人有挫败感的是，由于数字技术和智能化的数据处理技术的加持，照片的伪造与变造成为与时俱进的数据造假方式。时至今日，生物医学研究中频频爆出图像和照片造假，严重削弱了科学家在公众心目中恪守诚信的“人设”。面对生成对抗网络的发展，人们在为人工智能艺术前景欢呼的同时，难免担忧深度造假的滥用可能带来的危害。在《科学》（Science）杂志年3月发表的一篇论文中，研究者甚至指出可以运用人工智能在正常的医学影像中制造罹患癌症的假象，医院与保险公司合谋以此坑害患者。[1]

在充满利益纠纷和权力争夺的政治领域，数据分析和聊天机器人等人工智能技术也沦为了造假利器。在英国脱欧公投和年美国大选中，剑桥分析公司利用大量数据锁定并说服选民，通过人工智能加持的“心理战”干预了投票。据报道，在英国脱欧公投期间，某国的一个互联网研究机构通过个机器人账户在推特（Twitter）上假装为论辩双方发言，但赞同脱欧的内容是反对脱欧的8倍；年美国大选期间，有1/5的网络辩论来自机器人。更充满魔幻色彩的黑色幽默是，年专为已婚人士寻求艳遇的约会网站AshleyMadison.

转载请注明:http://www.aideyishus.com/lkyy/3322.html