11月初，浙江省某小学使用“智能头环”一事曝光，号称能够实时传输学生注意力情况给老师和家长的头环引发舆论热议。一时间，AI进校园究竟是“校园信息化还是校园监狱化”、“数据收集是否侵犯学生隐私”、“人工智能时代科技如何向善”等话题讨论不断。

南都科创记者搜集公开资料发现，类似的争议并非第一次发生，此前的智能校服、智能手环、人脸识别进校均曾掀起不小的波澜，在校园这个牵动社会心弦的场域，“高科技”的副作用备受关注。面对舆论质疑，科技公司们大多表示产品的设计初衷是为了提高学生学习效率。如此次的智能头环公司在回应声明中表示，产品并非是用以监控学生，并表示将继续坚持“科技向善”的理念进行研发工作。

AI是把双刃剑，随着更多AI场景的落地，科技向善或是向恶的界限并非泾渭分明。以智能产品进校为例，AI技术向善，可以帮助校方与家长获得课堂授课反馈情况、帮助学生提高学习效率。技术向恶，学生个人信息数据也可被大量获取和存储，进而被非法利用。对此，科技向善的重要性得到广泛关注。从全球范围看，包括谷歌、苹果、亚马逊等越来越多重量级的科技企业发出类似声音，而在国内，以阿里、腾讯为代表的科技巨头也纷纷表达对“科技向善”理念的认可。腾讯11月11日发布的企业文化3.0版本中，就将“用户为本，科技向善”正式确定为腾讯新的使命和愿景。

不过，当社会普遍质疑的“智能头环”公司与科技行业巨头都说要“科技向善”，这四个字的含金量不免大打折扣。所谓“科技向善”到底是科技行业共同遵守的自律准则，还是任意企业都可以拿来装饰自己的一句空话，需要有标准来进行评判。

国家：科技应用引入治理体系规范

南都科创记者查阅资料显示，“科技向善”一词最早在英国流行，后来渐渐成为一个扩展到世界各地的运动。2018年5月，50位科技公司CEO齐聚巴黎，围绕三个主题——教育、劳动力和多样性——讨论如何共同致力于让科技为善。法国总理爱德华·菲利普在会上引用当代哲学家彼得·帕克的话说：“拥有重大权力的同时，你也被赋予了重大的责任。”

如何实现科技向善的愿景？IBM大中华区总裁陈黎明认为，政府应当在制定法律法规方面有所作为，比如欧盟制定的《通用数据保护条例》(GDPR)，但还有很多国家没有制定法规，国家间的差异很大。另外，企业也应当遵守社会伦理和社会责任。

经南都科创工作室记者梳理，目前国内外在制定人工智能治理规则方面已有不少尝试。如2019世界人工智能大会举办前夕，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，通过“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理”八个方面，提出了人工智能治理的框架和行动指南。

国外方面，今年4月8日，欧盟委员会发布一份人工智能道德准则，提出了实现可信赖人工智能的七个要素，要求不得使用公民个人资料做出伤害或歧视他们的行为。

对于这份人工智能道德准则，欧盟委员会负责数字化单一市场的副主席安德鲁斯·安西(Andrus Ansip)表示欢迎，他认为：“人工智能的伦理并不是一个奢侈特征或附加功能。只有有了信任，我们的社会才能充分受益于技术。有道德的人工智能是一个双赢的主张，可以成为欧洲的竞争优势：成为以人为中心的人工智能的领导者，让人们可以信任。”

企业：承担社会责任才能持续发展

除了国家层面外，各家企业也在实践中承担起社会伦理与责任，不断推动科技向善。不少企业已经走在路上，如8月16日，全球人工智能创业者大会上，包括优必选、奥比中光、酷开、高新兴、云译等粤企，以及旷视、科大讯飞在内的数十家人工智能企业共同发起《新一代人工智能行业自律公约》，倡导AI技术健康可持续发展。

11月11日，国内科技行业巨头腾讯在其21周年之际正式更新了使命愿景“用户为本，科技向善”，在此前，马化腾曾于今年5月在朋友圈中提前宣告了科技向善的愿景。南都科创记者盘点发现，腾讯至今共迭代了了三个企业使命愿景，此次的“科技向善”，替代了2005年提出的“通过互联网服务提升人类生活品质”与成为“最受尊敬的互联网企业”。

但企业的存在以盈利为目的，如何让企业自发承担起社会责任，做到科技向善？北京大学国家发展研究院教授陈春花指出，在这个万物互联的时代，已经不是一个“在商言商”的时代，企业已经成为社会中一个具有关键性影响的单元。企业不能只讨论商业逻辑，而要正视自己对国家、社会、行业等各方的影响和责任。只有回到这个逻辑，企业才能实现可持续发展，才能创造更大的价值。

出品：南都科创工作室

采写：实习记者 纪苏芸 南都记者 徐劲聪

编辑：任先博