OG东方厅ADLab：：智能音箱网络安全与隐衷钻研汇报

颁布功夫 2019-07-10
本汇报重点分析了智能音箱面对的安全风险和隐衷风险。�！！Ｍü灾悄芤粝涞淖暄校琌G东方厅ADLab发现了产品中存在有硬件调试接口缝隙、、DLNA服务越权缝隙、、服务端口越权缝隙等十余个安全缝隙，这些缝隙可造成未授权设备节制、、语音窃听、、敏感信息泄露等。�！！G东方厅ADLab已第一功夫向CNVD和CNNVD进行了缝隙传递，并与ICSCERT结合颁布了《智能音箱隐衷与网络安全分析汇报》。�！！�



目 录


一、、市场发展与将来趋向



二、、技术发展



2.1 智能音箱职能
2.2 语音交互技术
2.3 组网模式

2.4 安全及隐衷风险钻研的必要性


三、、智能音箱安全风险与案例分析



3.1 设备端
3.1.1 盛开的调试接口
3.1.2 内置的后门
3.1.3 未授权的盛劈头口
3.1.4 盛开未授权的DLNA（Digital Living Network Alliance) 服务

3.1.5 代码缺点


3.2 APP侧
3.2.1 APP申请过多的权限

3.2.2 APP通讯


3.3设备互联及第三方服务
3.3.1 设备间互联互通和谈
3.3.2第三方内容审核

3.3.3声纹鉴别算法缺点


四、、隐衷风险



4.1 误唤醒
4.2 过多的权限
4.3 音箱的日志信息被泄露
4.4 灌音信息能够被持久跟踪学习
4.5 API敏感信息泄漏风险

4.6 用户无法治理自己的隐衷信息


五、、风险防护及安全建议


一、、市场发展与将来趋向


2014年11月，亚马逊低调颁布一款智能音箱Echo，它标志取智能音箱市场发展的起头。�！！�2015年销量达到250万台，2016年的销量达到520万台，也因而凭借不俗的销量一举超过传统音箱领头羊Sonos，夺得在线音箱行业市场销售头把交椅。�！！Ｒ欢仍谥悄芤粝涫谐∠阜至煊蛘季萘思蟛棵诺氖谐》荻�。�！！Ｑ锹硌钒洳嫉闹悄芤粝銭cho受到了市场强烈反映，引发了全球智能音箱热潮。�！！Ｋ婧蠊雀韫驹�2017年5月份也颁布了自家的智能音箱产品Google home。�！！＝羲孀牛还驹�2017年颁布智能音箱HomePod。�！！Ｋ孀殴飧鞔缶尥烦滔嗉贪洳几髯缘闹悄芤粝洳罚诔桃步糇菲浜螅追兹氤〔季�。�！！Ｊ紫染┒涂拼笱斗珊献魍瞥隽恕爸泄鍱cho”叮咚音箱，随后酷狗、、阿里巴巴、、小米、、百度、、华为等企业也先后跟进，陆续通过自研或者合作的方式入局。�！！�


全球智能音箱市场发展飞快，急剧发作，2017年整年出货量达到了3220万台中国智能音箱市场增长迅猛，目前已经成为全球第二大智能音箱市场。�！！�


智能音箱极大拓展了传统音箱的能力领域，就音乐这一特质来讲，智能音箱不仅会保留并且还会进行相应的加强。�！！Ｆ揪萦泄鼗沟牡餮凶柿舷嗍兜剑颜卟砂煸蚧故潜攘Φヒ唬砂熘悄芤粝涞氖滓≡窕故怯美刺衾郑急却锏�90%。�！！２煌庠诮吹闹悄芤粝涞姆⒄怪校糁屎陀胖誓谌菹嘟岷辖崾且恢殖彼�。�！！３谭矫妫羝党逃肟萍祭喙窘泻献鳎嗉掏瞥龌芙锨康闹悄芤粝洌岽芬慌鞔蛞糁实闹悄芤粝洳�。�！！Ｋ孀胖悄芤粝洳返脑龀ぃ分浠チネǔ晌笮⒄骨飨颍庖睬泻现悄芗揖臃⒄狗ü妫芙悄芤粝烊谌氲轿锪澜缋铮尤攵喾讲返钠教ǎ缆教ú季�。�！！Ｖ悄芤粝涞哪谌菔怯镆艚换ゲ罚镆艚换ゼ际踔苯佑跋斓接没睦蚨弑冈椒⒅悄芑鲂曰彩窍颜咚却模蚪晌悄芤粝湫幸档闹魈饩赫际�。�！！�


二、、技术发展


智能音响是传统音箱升级的产品，家庭消费者能够通过它上网点播歌曲，上网购物，亦或是相识气象预报，按时闹钟，新闻资讯等。�！！Ｋ材芄欢灾悄芗揖由璞附薪谥疲帽却蚩傲保柚帽湮露龋崆按蚩人魃碌龋庵种悄芤粝涫墙尤肓酥悄芗揖油缰心芄唤械牟僮�。�！！Ｆ涫抵悄芤粝渲魈獗攘蛞褪侨没翟谒祷岸曰罢庖换方谡加薪朴谌死嗟募鹉芰Γ⑸氲饺嗣堑娜粘Ｉ闹�。�！！�


2.1 智能音箱职能


智能音箱应该具备语音交互能力，并提供内容服务、、互联网服务，以及场景化智能家居的节制能力，如下图所示：：

OG东方厅·(中国大陆)


图1 智能音箱职能示意图


智能音箱分歧于传统音箱，它将是物联网世界的说话入口。�！！�


2.2 语音交互技术


智能音箱的发展与火爆离不开语音交互技术的支持，当然，壮大的语音交互的背后也离不开大数据、、机械学习及人为智能等技术的支持。�！！８鞔笥镆艏际醭掏ü灾餮蟹⑷碛布罚蚨酝馐涑鏊祷凹际酰衬艽持悄芤粝涑�、、内容和互联网服务厂商，获取用户信息和数据，成立物联网生态平台。�！！�2017年12月4日，中国电子科技集团公司第三钻研所（简称“中电三所”）结合中国电子学会消费者电子分会结合颁布了，以“娱心悦耳，音智双全”为主题的智能音箱评测颁布会。�！！；；嵘习洳剂似涫笔谐」刈⒍冉衔械奈蹇钪悄芤粝涞钠啦獠街栌肓司�。�！！６灾悄芤粝涞募鹫仿什馐粤司秩缦峦妓�：：

OG东方厅·(中国大陆)


图2  智能音箱鉴别正确率


2.3 组网模式


通常地，用户通过手机端app进行全面操控，例如用户注册，登陆，各类基础和个性设置以及服务内容定制等。�！！Ｊ只薬pp只和远程云服务器进行通讯，云服务器作为“鹊桥”，将用户指令转发给智能音箱，智能音箱响应云服务器下达的指令。�！！Ｏ煊α司衷偻ü品衿鞣蠢〉檬只瞬⒄故靖没�。�！！５比唬没芄煌ü镆艚换ブ苯雍椭悄芤粝浠セ唬悄芤粝浣庸艿接镆粜畔⒑螅镆粜畔⒋虬⒏品衿鹘薪馕�。�！！Ｔ品衿鹘祷靶畔⒆搴笮纬芍噶钤俅畏蹈悄芤粝浣兄葱校葱辛司滞ü品衿髟俅畏蠢〉檬只苏故靖没�。�！！Ｔ品衿骱椭悄芤粝渲涞耐ㄑ逗吞福骷叶挤制�。�！！＠纾∶字笆褂霉齧iio和谈等。�！！Ｖ悄芤粝渥魑悄芗揖又幸桓鲋匾璞附诘悖比灰仓С钟氲谌缴璞附薪谥坪吞附换ィ褂玫耐ㄑ逗吞竿ǔＪ亲越缢档�。�！！６杂谥悄芤粝渥陨恚ǔＷ陨砭弑赶谓泳钟蛲鳺iFi的职能。�！！Ｏ峦嘉悄芤粝渥橥Ｊ�。�！！�

OG东方厅·(中国大陆)


图3 组网示意图


2.4 安全及隐衷风险钻研的必要性


 人类的语音内容中蕴含了丰硕的小我信息。�！！Ｍü镆裟谌荩治鋈嗽蹦芄换竦眯∥业拇呵�、、性别、、籍贯、、健康情况、、周围环境等小我敏感信息。�！！Ｋ灾悄芤粝涞挠镆舨杉袄蒙婕暗矫舾械男∥乙晕侍�。�！！�


隐衷权是人的基自己权，公家有权势相识自己的小我信息是若何被采集的，什么时辰被采集的，在哪里被采集，公家有权势决定自己的小我信息如电采集，保留及使用方式。�！！Ｋ孀琶裰谧晕冶；；ひ馐兜奶岣呒八痉ǖ慕。忧啃∥倚畔踩耙员；；さ暮羯苍嚼丛礁�。�！！�


2018年，欧盟起头执行GDPR法案，要求企业必须保险小我隐衷安全。�！！�


2018年5月1日，国度《信息安全技术小我信息安全规范》正式执行，添补了国内小我信息保唬护在具体现实尺度上的空缺。�！！�

近年来，关于智能音箱涉及的安全及隐衷问题也时时见报端。�！！�


OG东方厅·(中国大陆)

图4  智能音箱小我信息泄露报道


因而钻研智能音箱的安全及隐衷问题显得极度必要，为此我们钻研了八款市场主流的智能音箱设备，其中2款涉及到国外厂家，6款产品涉及到国内厂家。�！！�


三、、智能音箱安全风险与案例分析


智能音箱的安全风险重要存在于智能音箱设备端、、智能音箱APP及智能音箱的第三服务及互联和谈三部门。�！！�

OG东方厅在对音箱的安全钻研期间，共向CNVD（国度信息安全缝隙治理平台）及CNNVD（中国国度信息安全缝隙库）提交了十多个设备安全缝隙，部门设备的编号及注明如下表所示。�！！�


缝隙编号

缝隙�：：�

缝隙级别

CNVD-2019-13611

齐全节制设备

高危

CNVD-2019-06254

齐全节制设备

高危

CNVD-2019-05626

齐全节制设备

高危

CNVD-2019-05625

齐全节制设备

高危

CNVD-2019-07688

播放恶意音频

中危

CNVD-2019-09098

齐全节制设备

中危

CNVD-2019-12775

内容窃听

中危

CNVD-2019-12111

信息泄露

低危

CNVD-2019-13278

信息泄露

低危

CNVD-2019-15526

播放恶意音频

低危


3.1 设备端


3.1.1盛开的调试接口


为了出产及守护环节的方便，很多智能音箱都盛开了对外的调试接口，这些接口蕴含usb调试口、、TTL调试口。�！！Ｍü庑┙涌冢Ъ夷芄欢晕侍馍璞傅墓碳懈�。�！！５钦庑┦⒖牡魇越涌谕セ髡咛峁┝朔治龉碳蜕璞腹セ魈峁┝朔奖悖徊降墓セ髡吣芄幌蛏璞缸爸枚褚獾墓碳笸斗诺绞谐∠�。�！！�


OG东方厅·(中国大陆)


图5 盛开的调试接口


3.1.2 内置的后门


在智能音箱的固件分析中，我们发现部门厂家在固件中设置了后门，使得厂家能够在用户不知情的情况下，能够远程地节制全网所有音箱，并执行肆意系统号令，对用户隐衷及设备安全造成了极大隐患。�！！�

OG东方厅·(中国大陆)


图6 智能音箱后门示例


3.1.3未授权的盛劈头口


部门音箱盛开了部门的盛劈头口，通过这些盛劈头口，利用未授权的盛劈头口，攻击者能够节制音箱播放恶意音频或者进行灌音。�！！�


某智能音箱监听8080端口，若是攻击者通过向该8080端口发送有关的节制号令即可齐全节制音箱设备。�！！�


OG东方厅·(中国大陆)


图7 未授权的盛劈头口


3.1.4 盛开未授权的DLNA（(DigitalLiving Network Alliance) 服务


我们发现部门音箱盛开了未授权的DLNA服务，局域网内的攻击者能够攻击者能够节制音箱播放恶意音频或者是中断音箱正在播放的内容。�！！Ｕ庵止セ鞫杂谑褂糜诠渤∷囊粝洌泻艽蟮陌踩�。�！！�

OG东方厅·(中国大陆)


图8 盛开的DLNA服务


3.1.5 代码缺点


部门音箱在代码实现上存在缺点使得攻击者能够通过号令注入漏敞开启telnet服务，并齐全节制音箱设备实现对设备的灌音等恶意操作。�！！４嬖诤帕钭⑷氪肴缦峦妓�：：


OG东方厅·(中国大陆)


图9 获取playurl


获取playurl后，进行号令拼接，导致肆意号令执行。�！！�

OG东方厅·(中国大陆)

图10 肆意号令注入执行


成功攻击后，开启telnet服务。�！！�

OG东方厅·(中国大陆)


图11 成功开启telent服务


3.2 APP侧


3.2.1APP申请过多的权限


APP申请权限过多的问题比力严重，在我们测试的国产音箱中，该问题全数存在。�！！Ｆ渲泄鹊娜ㄏ拊毯幌抻贏PP读取短信，读取手机的鉴别码，发送/读取短信/彩信的权限，打开摄像头的权限，读取用户通话纪录及已手机已装置利用信息，拨打电话，使用呼叫转移，读取活动数据的等敏感权限。�！！�


OG东方厅·(中国大陆)

图12 敏感权限 


3.2.2 APP通讯


通讯和谈未加密问题，使得攻击者能够利用这些露出的安全问题，获得设备的节制权。�！！�


OG东方厅·(中国大陆)

图13 APP通讯抓包


3.3 设备互联及第三方服务


3.3.1 设备间互联互通和谈


在智能家居的场景中，智能音箱起到了节制中心的职位，智能音箱通过鉴别用户的语音号令，通过智能家居的互联和谈节制其他家居设备。�！！Ｎ颐窃谧暄兄悄芤粝涞氖背剑⑾植棵懦Ъ以谥悄芗揖由璞傅幕チ吞钢忻挥醒∪”匾陌踩蠛嘶疲龈袷巧璞负蜕璞钢浜戏ㄐ匝橹�。�！！９セ髡呃谜庑┥杓迫钡憔湍芄磺匀∫粝涞挠镆艉帕钅谌莼蛘叻阜ń谥破渌悄芗揖由璞�。�！！�


3.3.2第三方内容审核


由于智能音箱的使用者，很大一部门是儿童。�！！Ｒ蚨灾悄芤粝淅此刀砸羝祷馗茨谌莸纳蠛擞Ω靡锌隙ǖ拿舾心谌莘阑ぃ荒芑馗捶炊羝祷蛘呤谴挚谀谌�。�！！Ｔ谖颐亲暄械墓讨校颐欠⑾指霰鹨粝湓诖χ媚谌菁鹗保倘北匾姆阑ぃ沟迷谝恍┨囟ǖ闹杏⒒旌衔侍獾某【爸校悄芤粝浠峄馗创挚诘哪谌�。�！！�


3.3.3声纹鉴别算法缺点


在某款用于购物的音箱设备中，选取了声纹识此外技术用于用户的买卖身份的鉴定，但是OG东方厅测试中，发现声纹识此外误识率较高，在生物鉴别技术中（如虹膜，指纹，指静脉），由于声纹技术及设备成本的约束，声纹识此外识假率较低。�！！Ｓ行┏Ъ业纳萍际跷薹ㄆサ泄嘁艏叭松抡盏墓セ鳎庑┕セ骷苛┒杂诠セ髡呃此凳墙系ヒ坏�。�！！�


四、、隐衷风险


4.1 误唤醒


在音箱的使用场景中，只有效户唤醒音箱后，音箱能力网络用户的语音信息。�！！６捎谟行┮粝涞幕叫阉惴ù嬖谌钡悖沟靡粝涫笔痹谖幢换叫训那榭鱿拢孕谢叫眩⑶彝缬没в镆簦洗胶蠖芙屑�。�！！Ｕ庋崾沟糜没У囊源嬖谛孤┓缦�。�！！Ｔ谖颐遣馐缘囊粝渲杏形蹇钪悄芤粝浯嬖诜制缢降奈蠡叫亚榭�。�！！Ｕ急却锏�56%。�！！�


4.2 过多的权限


APP申请的蕴含APP读取短信，发送短信的权限，摄像头的权限，通话纪录及已装置利用信息，使用呼叫转移，读取活动数据的等敏感权限。�！！�


在音箱的使用场景中，在气象预报的时辰必要获取用户地点的城市的地位，在通常的使用情况下，只必要音箱的外网IP地址即可获取用户的地域地位，而某些音箱除此之外还获取用户家中路由器的WIFI的BSSID信息及GPRS位相信息。�！！�


4.3 音箱的日志信息被泄露


某些音箱每天会上传用户音箱的系统日志信息，这些日志信息不仅蕴含音箱的日常使用信息，还蕴含了音箱地点局域网的WI-FI的密码信息。�！！�


4.4 灌音信息能够被持久跟踪学习


在我们钻研的这些音箱的远场音频处置�？？榛岫陨璞傅牟杉讨校岫酝骋簧璞覆杉囊羝祷嵬低荡蛏衔ㄒ槐晔�。�！！Ｕ庑┯镆粑募Ａ舻皆贫撕螅谌匠Ъ以诮杏镆舴治黾癆I建模时，能够通过暗藏的声音标识定位到小我，能够对统一家庭成员的声音进行追踪，能够对小我的语音特点变动进行长功夫的跟踪和学习。�！！�


4.5 API敏感信息泄漏风险


智能音箱的产业链中蕴含了音箱设备厂家、、语音鉴别及语音合成平台厂家、、远场音频处置厂家、、NLP算法厂家、、音频内容提供商、、外围设备商等。�！！�


在智能音箱厂家与产业链厂家交互中API，蕴含用户的手机号，具体地理地位，WI-FI的BSSID，MAC地址等用户隐衷信息，而这些信息对于产业链厂家来说不是业务所必须的。�！！�


4.6 用户无法治理自己的隐衷信息


用户有权势决定自己的小我语音信息在云端的保留。�！！３Ъ矣ξ没е卫碚庑┮孕畔⑻峁┓袢肟�。�！！�


国外的智能语音设备厂家如亚马逊在APP侧及音箱侧为用户提供了删除云端小我灌音。�！！Ｑ锹硌芬粝溆没е槐匾砸粝渌怠癆lexa，删除我今天所说的所有”。�！！Ｑ锹硌方嵘境谠贫吮Ａ舻挠没Ч嘁�。�！！�


惋惜的是目前我们没有在国内产品中看到这些有利保唬护用户隐衷的措施。�！！�


五、、风险防护及安全建议


通过对多款智能音箱进行深刻地钻研，我们总结出五个方面的安全问题，别离为安全风险、、设备端、、APP侧、、外接设备及第三方组件以及隐衷风险。�！！�


设备端问题重要是智能设备开发板露出出调试串口，能够通过调试器将设备中的固件独读取出来进行逆向分析，导致固件泄露。�！！�


APP侧问题重要是存在被逆向分析的风险，我们在钻研过程中，对多款智能音箱的手机端app进行了逆向分析，发现了好多关键问题，例如，设备和云服务器之间的通讯和谈。�！！Ｖ悄芤粝渲惺褂猛ü谌胶吞附芯钟蛲羝挡シ牛褂玫牡谌胶吞甘敲挥薪猩璞溉现さ�。�！！�


最重要的一个安全问题就是隐衷问题，我们发现多款设备都存在网络用户信息并打包回传云服务器的职能。�！！Ｆ渲杏械纳璞副还セ骱螅谟没Р煌ù锏那榭鱿拢芄唤泄嘁舨僮�。�！！Ｉ踔粱鼓芑厮萦没У氖褂煤奂：：陀镆艉奂�。�！！�


针对这些安全问题，必要逐一进行防护。�！！PP侧要使用加固伎俩，预防被逆向分析，将一些关键和谈的实现放到native层实现。�！！６杂谕饨由璞讣暗谌阶榧悄苌璞赋瘫匾缘谌匠痰陌踩既虢邪压�。�！！�


隐衷问题是一个大问题，同时也是一个宽泛的社会问题，厂商可能通过网络用户使用信息来分析用户行为以便更好的提供服务，但该当思考隐衷天堑。�！！Ｍ倍杂谕绲降挠没畔⒂ψ龅郊用埽荒苤还芡绮宦郾；；ぃ逃Ω贸械Ｆ鹱约旱纳缁嵩鹑�。�！！�


全国政协委员、、OG东方厅集团CEO严望佳在2019 全国政协会议上提交了三个提案，其中《关于加快美满数字经济时期数据法治建设的提案》和《关于规范人为智能安全健康发展的提案》与小我隐衷有关。�！！Ｕ饬礁鎏岚附ㄒ榧涌臁妒莅踩ā饭ぷ骷啊缎∥倚畔⒈；；しā饭ぷ鳎涌旆⒄谷宋悄馨踩寐衫吐桌淼赖伦暄屑袄冒踩馄拦ぷ�。�！！�


尽早发展人为智能有关律例和道德伦理以及安全性的评估，化解风险，这将推动人为智能更好更快地发展。�！！�