AI 等新技术带来的问题亟需解决

日期:2021-01-20  来源:短信大咖

 

2020年12月,由中国信息通信研究院联合瑞莱智慧RealAI、百度、腾讯等单位共同撰写的《人工智能安全框架(2020年)》指出:
 

随着深度伪造技术开源代码、APP应用增多,不法分子利用深度伪造技术制作虚假视频侵犯个人肖像权、名誉权和隐私权的现象屡见不鲜。
 

此外,指纹和人脸识别等生物特征信息、自动驾驶的个人行踪记录、手机APP保存的个人隐私数据,医院里留存的诊断治疗记录等等都可能留下数据安全隐患。
 

人工智能正在全面融入广大群众工作生活的众多场景,用户各种行为被记录并作为数据保存起来,由此带来的数据泄露、数据伪造、算法瓶颈、隐私安全、伦理困境等问题如今正一点点浮出水面。
 

 

 

人脸识别黑产背后的信息泄露
 

人脸识别是应用领域最广泛及成熟的一项技术,然而背后的问题也随之而来。例如网上出现售卖人脸照片的事件,3万张人脸照片仅售8元。而你并不知道谁在收集人脸,也不知道这些人脸图片会被用作何用途。
 

近几年人脸识别认证应用在互联网市场得到大规模的应用与推广,从中牟利的黑灰产也应运而生。在该产业链上,上游的需求人群利用实名认证账户变现(薅羊毛)、推广、倒卖实名账户;中游的技术服务商以「代人脸识别认证」谋生,当中有不少「传帮带」的师徒制工作室或者个体户,提供过人脸认证服务及软件;下游则是各类身份证、人脸照片等信息的提供方。
 

黑灰产从业者将高清正面大头照、手持身份证照称之为「料子」。基于「料子」,采用一套特定的过人脸认证技术,通常是面部动画制作软硬件的组合,以此通过支付、社交及生活服务类 APP 的人脸认证。
 

“只要技术好(代人脸认证),投入成本低,利润可观。行情好的时候,一个月赚3万不成问题。”一位黑灰产从业者表示,一套过APP人脸认证技术最低可卖至800元,而且包教会。当中,所需要的身份证正反面及半身照成本极低,一般不超过5元,而过一次APP人脸认证至少需要40元。一单至少挣35元,对于一些难认证的APP,牟利空间更大。
 

人脸识别技术已在多行业、多终端进行应用,由于监管及隐私层面缺乏有力监管,出现不少诈骗事件。近期据央视报道,广西南宁有十几位售房者因为「刷脸卖房」被骗了超千万元。一位房产中介以房屋查档为由,对售房者进行了人脸识别认证。随后,售房者纷纷发现自己的房子已经被买家抵押给了第三方。而全国已有多起利用人脸识别进行诈骗的案子。
 

人脸识别技术无处不在,以AI换脸为例,Al换脸顾名思义就是在图像或视频中把一张脸替换成另一张脸。各类「换脸」技术制造了大量的虚假视频,并形成相应的黑色产业链。
 

“失控”的智能设备
 

随着物联网、车联网、5G 等技术的发展,身边的一切设备正在变得智能化,但也暗藏风险。尤其在远程办公流行的节点下,一些安全性较差的智能家居产品成为了黑客攻击的重点对象。
 

最近,来自剑桥大学的研究人员发现,任何可以接收语音命令的智能设备,例如智能音箱或手机,仅通过聆听就可以推断附近智能手机输入的大量信息,包括密码等。
 

研究表明,音频采集设备所带来的隐私威胁超出监听私密谈话,物理键盘及手机触摸屏键盘上输入的信息同样无法逃脱其监控。研究者通过验证表明,所谓的黑客攻击者可以从位于半米外的语音助手收集的录音中提取 PIN 码(SIM 卡的个人识别密码)和文本消息。
 

尽管物联网技术给人们的生活带来便利,但不意味着无限安全与可靠。在通信技术领域也暴露了这方面的风险。在 GeekPwn2020 国际安全极客大赛上,腾讯安全玄武实验室高级研究员李冠成、戴戈就演示了一项 5G 安全研究发现。通过 5G 通信协议的设计,黑客可「劫持」同一基站覆盖下的任意一台手机的 TCP 通讯,包括各类短信收发、APP 和服务端的通讯。
 

当所有的东西都发展为智能体,对隐私背后的伤害也更大。车联网下的自动驾驶汽车经常发生宕机、信息泄露事件就是当中最为典型的案例。
 

特斯拉App曾出现大面积宕机,导致手机无法与车相连,无法获取车辆信息。在车联网时代,网络的便捷性让车辆智能化成为可能。一旦智能联网汽车当中的重要组成,例如车载操作系统、云平台受到网络攻击,轻者会造成数据和信息泄露,重者会导致车辆失控。
 

易攻难守的企业数据
 

随着企业数字化转型进程加速,数据作为重要元素,被视为企业的命脉。即便如此,随着黑客技术的不断侵入,企业数据被盗事件并不鲜见。
 

例如,国内一家AI医疗影像公司在疫情间所研发的新冠数据被黑客窃取。他们过去两个月所研发的 AI 辅助系统和该公司所积累的新冠训练数据,被黑客以4比特币的价格公开出售。
 

据数据显示,安全防护能力较弱的市政、医疗、制造行业成为网络攻击的重灾区,而新冠疫情期间对医疗结构的攻击更是危害巨大。
 

由于种种原因,大多数医院都不会修补超过40%的易受攻击设备。80%的医疗设备制造商和医疗机构表示设备非常难以保护,因为缺乏安全开发的知识和培训,以及相关的产品信息安全测试程序。
 

结语
 

即便新技术带来新问题,也不能就此放弃不使用,甚至不发展新技术。在科技发展的各个阶段,都会衍生不同问题,而问题也会倒逼社会发展。乐观来看,AI换脸、人脸识别黑产的出现增加了人们对于安全与隐私的讨论,促进立法探索;智能互联车辆故障频出,倒逼自动驾驶技术变革。
 

AI应用的普及,加剧了隐私保护、数据安全、伦理道德等安全和道德风险,但是现在各类网络安全产品和解决方案不断涌现,专注解决网络安全问题的安全厂商也要发力。
 

在当下行业数字化转型的节点,大量的数据在汇集,如何保障安全,成为产业数字化的重要议题。安全作为产业互联网的基座,本身也处于高速变化和演进的阶段。
 

企业本身除了依托云原生安全外,还需要建立顶层安全思维,对于安全的认知不仅需要企业自身的努力,还需要将其扩大到社会安全认知层面,加强普通用户对于网络威胁、个人数据安全、隐私等的重视。
 

和其他任何科技的发展一样,人工智能也具有两面性,既能给人类带来巨大的财富,也可能带来不可预知的灾难,就像是一面镜子,其实都是人类自身的映射。人类在人工智能危机面前并不是无能为力的,而是大有可为的,正确利用人工智能是人类应该坚定的方向。

 

 

免费试发