日期：2021-01-20 来源：短信大咖
2020年12月，由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的《人工智能安全框架（2020年）》指出：
随着深度伪造技术开源代码、APP应用增多，不法分子利用深度伪造技术制作虚假视频侵犯个人肖像权、名誉权和隐私权的现象屡见不鲜。
此外，指纹和人脸识别等生物特征信息、自动驾驶的个人行踪记录、手机APP保存的个人隐私数据，医院里留存的诊断治疗记录等等都可能留下数据安全隐患。
人工智能正在全面融入广大群众工作生活的众多场景，用户各种行为被记录并作为数据保存起来，由此带来的数据泄露、数据伪造、算法瓶颈、隐私安全、伦理困境等问题如今正一点点浮出水面。
人脸识别黑产背后的信息泄露
人脸识别是应用领域最广泛及成熟的一项技术，然而背后的问题也随之而来。例如网上出现售卖人脸照片的事件，3万张人脸照片仅售8元。而你并不知道谁在收集人脸，也不知道这些人脸图片会被用作何用途。
近几年人脸识别认证应用在互联网市场得到大规模的应用与推广，从中牟利的黑灰产也应运而生。在该产业链上，上游的需求人群利用实名认证账户变现（薅羊毛）、推广、倒卖实名账户；中游的技术服务商以「代人脸识别认证」谋生，当中有不少「传帮带」的师徒制工作室或者个体户，提供过人脸认证服务及软件；下游则是各类身份证、人脸照片等信息的提供方。
黑灰产从业者将高清正面大头照、手持身份证照称之为「料子」。基于「料子」，采用一套特定的过人脸认证技术，通常是面部动画制作软硬件的组合，以此通过支付、社交及生活服务类 APP 的人脸认证。
“只要技术好（代人脸认证），投入成本低，利润可观。行情好的时候，一个月赚3万不成问题。”一位黑灰产从业者表示，一套过APP人脸认证技术最低可卖至800元，而且包教会。当中，所需要的身份证正反面及半身照成本极低，一般不超过5元，而过一次APP人脸认证至少需要40元。一单至少挣35元，对于一些难认证的APP，牟利空间更大。
人脸识别技术已在多行业、多终端进行应用，由于监管及隐私层面缺乏有力监管，出现不少诈骗事件。近期据央视报道，广西南宁有十几位售房者因为「刷脸卖房」被骗了超千万元。一位房产中介以房屋查档为由，对售房者进行了人脸识别认证。随后，售房者纷纷发现自己的房子已经被买家抵押给了第三方。而全国已有多起利用人脸识别进行诈骗的案子。
人脸识别技术无处不在，以AI换脸为例，Al换脸顾名思义就是在图像或视频中把一张脸替换成另一张脸。各类「换脸」技术制造了大量的虚假视频，并形成相应的黑色产业链。
“失控”的智能设备
随着物联网、车联网、5G 等技术的发展，身边的一切设备正在变得智能化，但也暗藏风险。尤其在远程办公流行的节点下，一些安全性较差的智能家居产品成为了黑客攻击的重点对象。
最近，来自剑桥大学的研究人员发现，任何可以接收语音命令的智能设备，例如智能音箱或手机，仅通过聆听就可以推断附近智能手机输入的大量信息，包括密码等。
研究表明，音频采集设备所带来的隐私威胁超出监听私密谈话，物理键盘及手机触摸屏键盘上输入的信息同样无法逃脱其监控。研究者通过验证表明，所谓的黑客攻击者可以从位于半米外的语音助手收集的录音中提取 PIN 码（SIM 卡的个人识别密码）和文本消息。
尽管物联网技术给人们的生活带来便利，但不意味着无限安全与可靠。在通信技术领域也暴露了这方面的风险。在 GeekPwn2020 国际安全极客大赛上，腾讯安全玄武实验室高级研究员李冠成、戴戈就演示了一项 5G 安全研究发现。通过 5G 通信协议的设计，黑客可「劫持」同一基站覆盖下的任意一台手机的 TCP 通讯，包括各类短信收发、APP 和服务端的通讯。
当所有的东西都发展为智能体，对隐私背后的伤害也更大。车联网下的自动驾驶汽车经常发生宕机、信息泄露事件就是当中最为典型的案例。
特斯拉App曾出现大面积宕机，导致手机无法与车相连，无法获取车辆信息。在车联网时代，网络的便捷性让车辆智能化成为可能。一旦智能联网汽车当中的重要组成，例如车载操作系统、云平台受到网络攻击，轻者会造成数据和信息泄露，重者会导致车辆失控。
易攻难守的企业数据
随着企业数字化转型进程加速，数据作为重要元素，被视为企业的命脉。即便如此，随着黑客技术的不断侵入，企业数据被盗事件并不鲜见。
例如，国内一家AI医疗影像公司在疫情间所研发的新冠数据被黑客窃取。他们过去两个月所研发的 AI 辅助系统和该公司所积累的新冠训练数据，被黑客以4比特币的价格公开出售。
据数据显示，安全防护能力较弱的市政、医疗、制造行业成为网络攻击的重灾区，而新冠疫情期间对医疗结构的攻击更是危害巨大。
由于种种原因，大多数医院都不会修补超过40%的易受攻击设备。80%的医疗设备制造商和医疗机构表示设备非常难以保护，因为缺乏安全开发的知识和培训，以及相关的产品信息安全测试程序。
结语
即便新技术带来新问题，也不能就此放弃不使用，甚至不发展新技术。在科技发展的各个阶段，都会衍生不同问题，而问题也会倒逼社会发展。乐观来看，AI换脸、人脸识别黑产的出现增加了人们对于安全与隐私的讨论，促进立法探索；智能互联车辆故障频出，倒逼自动驾驶技术变革。
AI应用的普及，加剧了隐私保护、数据安全、伦理道德等安全和道德风险，但是现在各类网络安全产品和解决方案不断涌现，专注解决网络安全问题的安全厂商也要发力。
在当下行业数字化转型的节点，大量的数据在汇集，如何保障安全，成为产业数字化的重要议题。安全作为产业互联网的基座，本身也处于高速变化和演进的阶段。
企业本身除了依托云原生安全外，还需要建立顶层安全思维，对于安全的认知不仅需要企业自身的努力，还需要将其扩大到社会安全认知层面，加强普通用户对于网络威胁、个人数据安全、隐私等的重视。
和其他任何科技的发展一样，人工智能也具有两面性，既能给人类带来巨大的财富，也可能带来不可预知的灾难，就像是一面镜子，其实都是人类自身的映射。人类在人工智能危机面前并不是无能为力的，而是大有可为的，正确利用人工智能是人类应该坚定的方向。
