大数据时代喜与忧：AI揪口供矛盾抓逃犯 无处不在的摄像监控…

为什么张学友演唱会屡屡有逃犯被捕？个性化推荐究竟准不准？公民是否有不被摄像头监控的权利？

2019年12月7日，华东政法大学在上海主办“华东政法大学互联网法治研究院成立大会暨第二届中国数据法律高峰论坛”，与会专家们分享了人工智能的前沿成果，同时也对大数据时代存在伦理和隐私问题进行探讨。

上海市法学会党组书记、会长、二级大法官崔亚东分享了人工智能在司法领域的运用成果——上海刑事案件智能辅助办案系统。这个系统可以通过让机器收集、识别、理解、分析海量证据，实现人机协同，防止办案“起点错、跟着错、错到底”。

AI辅助庭审，可以让证据“说话”。据崔亚东介绍，审判人员借助系统发现刑事案件被告人前后口供存在矛盾，并基此重新向被告人提问。在某刑事案件中，被告人自述案发前两年没有联系被害人，但系统找出了两人近期的13次通话记录，当场推翻了被告人的口供。

崔亚东称，以前警察抓捕逃犯需要在特定时机“蹲坑守候”，现在有了人脸识别，公安更容易抓捕到逃犯。比如利用大数据，警方近期成功锁定了潜逃20多年的犯罪嫌疑人劳荣枝。而歌手张学友的“捕神”称号，也得益于公安部门多次在他的演唱会上抓到逃犯。

人工智能和大数据能促进司法公正、社会安定，但其背后隐患也不容忽视。

数文明科技公司CEO涂子沛在演讲中提到，目前人工智能的主流应用，包括人脸识别、语言合成、个性化推送等，这些都是以数据作为基础。在使用网络服务的同时，每个人都在免费贡献数据。而互联网公司利用这些数据发展技术的同时，有可能伤害普通人的利益。

典型的案例包括，..借助算法对不同消费者进行差别化定价。此外借助摄像头，有书店通过人脸识别来给顾客推荐图书，也有学校用来监控学生行为。“但有人愿意被监控吗？”涂子沛提出了疑问。

技术广泛应用的同时，如何保障公民的隐私权，明确人工智能伦理边界值得关注。崔亚东认为，技术领跑，规则也要跟上。在人工智能立法时应注重协调伦理发展，通过规则设定促进算法的公正、透明、安全，避免算法歧视，同时建议加快人工智能领域的顶层规划设计，建立国际领先的标准体系。

上海市司法局副局长罗培新表示，面临人工智能的带来伦理与价值的冲突，保护公众安全是首位，“安全没有保证，宁可慢一点。”此外，他认为还需赋予公众合理的选择权，人们在体验技术带来的便利时，也应有拒绝技术不被监控的权利。

采写：南都见习记者黄莉玲南都记者李玲发自上海