智能音箱的安全问题_智能音箱网络安全攻击案例

hacker|
308

观点 | 正在使用智能音箱的你会担心隐私泄露吗?

遭遇“隔屏有耳”质疑的,不止中国流行的手机App,还有国内外近年兴起的智能音箱。

众所周知,谷歌在您说出“唤醒词”后会记录您与Google智能助理的对话。但你可能不知道的是,谷歌使用承包商来手动审查少数这些录音,大约0.2%。

VRT NWS发布了一份报告,详细说明了如何收听由Google工作的举报人泄露的数千条录音。至少有一个音频片段包含一对夫妇的地址和有关其家庭的个人信息。

虽然录制内容与用户帐户无关,但人们通常会共享个人信息,例如可以透露其身份的姓名和地址。虽然谷歌在用户说“嘿,谷歌”或“好的,谷歌”之类的短语之前不会进行录制,但这些设备有时会误听其他单词或短语并录制他们不打算收听的对话。其中一些谈话最终被公司雇用的“语言专家”转录。

4月,彭博社发布调查报道,揭秘了亚马逊Alexa“监听”团队中,这些一直被隐藏的人类员工的工作内容。报道称,有时候,参与其中的工作人员会听到用户私人的声音片段,如一个女人洗澡时严重走调的歌声,或者一个孩子尖叫着寻求帮助。还有两名员工甚至称,他们听到过他们认为是性侵案的声音。

亚马逊此前从未公开过它会人工听取用户和Alexa的私人聊天,也没有披露过Alexa的语音技术中,部分包括人类参与。7位为该项目工作的员工向彭博社透露了亚马逊Alexa的这项人工声音检查流程。

亚马逊的Echo是世界上最流行的智能音箱,它于2014年上市;Echo音箱之后,谷歌也推出了植入谷歌语音助手的Google Home智能音箱,苹果随后推出了采用Siri的智能音箱HomePod。在中国,天猫精灵、小度智能音箱、小米AI音箱等设备也纷纷走进了更多用户家庭。

如今,很多用户已经习惯于通过唤醒词将音箱中的语音助手激活,进而向它提出问题或下达指令,有的智能音箱甚至还能与用户简单地聊两句天。但彭博社的报道提出,智能助手如此“懂你”的背后,可能并不仅仅是人工智能和机器学习,而是有人类员工团队人工听取用户与设备的对话录音,并帮忙改进算法的结果。

亚马逊千人监听团队

彭博社报道介绍,亚马逊在全球有数千名工作人员,他们人工听取和检查用户和智能语音助手Alexa的私人对话,目的是帮助Alexa改进语音识别技术。

该团队专门收听用户在家中和办公室里被Echo音箱抓取的录音。这些录音会被转录、加上注释,然后反馈到软件中,以消除Alexa对理解人类语言的差距,帮助它更好地响应指令。

亚马逊在广告词中介绍,“Alexa生活在云端,并且一直越来越聪明”,实际上,和许多需要从经验中学习的软件工具一样,人类也为机器做了不少教学。

执行这一工作的团队包括全职亚马逊员工和合约工,工作地点遍布世界不同地区,包括波士顿、哥斯达黎加、印度、罗马尼亚。员工签署了保密协议禁止公开谈论这一项目。

罗马尼亚首都布加勒斯特的两位员工透露,他们一天工作9小时,每班解析多达1000条音频片段。

波士顿的一名员工则表示,他为特定的话语,如Taylor Swift,挖掘了累积的语音数据,并对其进行了注释,以表明这个搜索是指那位歌手。

私人声音片段也会被抓取

智能音箱需要时刻开启麦克风,以监听用户是否说出了唤醒词、是否在向自己下命令。亚马逊语音助手Alexa的软件就被设计为持续记录音频片段,聆听唤醒词。默认的唤醒词即为“Alexa”。

目前的工作流程下,私人的声音片段也会被设备抓取。

有时候,工作人员会听到用户私人的声音片段,如一个女人洗澡时严重走调的歌声,或者一个孩子尖叫着寻求帮助。工作人员利用内部聊天室共享文件,解析含糊的单词,或者是分享 搞笑 的录音。

有时员工还会听到不安甚至有可能是犯罪的录音。两名员工称,他们听到过他们认为是性侵案的声音,当这种事情发生时,他们会在内部聊天室说出来解压。

亚马逊对此表示,员工听到令人痛苦的事情时,他们有标准流程处理。但是这两位罗马尼亚员工表示,他们要求对这类案件进行处理时,被公司告知干预此类事件不是亚马逊的工作。

“我们有严格的技术和操作保障,对滥用我们系统的行为采取零容忍政策。员工在工作流程中无法直接访问能辨别用户和账号的信息。我们使用多重验证来限制访问,对服务加密,审计我们的工作环境,以对所有信息高度保密。”

语焉不详的隐私政策

亚马逊在其宣传和隐私政策的材料中,没有明确表明Alexa获取的一些对话录音是人工来听,只是在常见问题解答列表中提到了一句“我们使用您对Alexa的命令来训练我们的语音识别和自然语言理解系统”。

Alexa的隐私设置中,公司给用户提供了禁用录音开发新功能的选项。彭博社看到的截图显示,发送给工作人员的Alexa录音没有提供用户的全名和地址,但与用户的账户号、名称和设备序列号相关联。

依赖人类员工填补算法空白的,还有谷歌、Siri

亚马逊圆柱形的智能音箱Echo于2014年上市后,很快就因其可以在家中使用智能语音软件快速流行开来。不久之后,谷歌母公司Alphabet推出了自己的版本Google Home,随后是苹果公司的HomePod,在中国也有很多品牌的智能音箱产品。

据研究机构Canalys的报告,2018年,全球消费者购买了7800万台智能音箱,其中数百万台通过语音软件与智能手机上的智能助手进行交互。

大多数现代语音识别系统依赖于模仿人脑的神经网络,软件会通过海量数据进行机器学习,为Echo等其他智能音箱的算法提供可能性的模型。如果用户问Alexa附近有没有名叫“希腊某某”的地方,算法会自动知道用户在寻找希腊餐厅,而不是教堂或社区中心。

但Alexa也经常犯错,尤其是俚语、口语、方言和非英语的语言。因此亚马逊需要雇佣人类员工,帮助填补算法的空白。

除了亚马逊之外,实际上,其他品牌的语音助手也都是在人类的帮助下训练出来的。

苹果的Siri也有人类员工的帮助,他们负责评估语音助手对请求的解释是否与用户说的相符。根据苹果安全白皮书,员工检查的Siri录音是没有个人身份信息的,录音会与一个随机标识符关联,存储六个月,之后这些数据就会被移除随机标识符,但它们也有可能存储更长时间以改善Siri的语音识别。

在谷歌,一些人类员工也可以获取谷歌助手的音频片段帮助训练和改善产品,这些音频也没有个人身份信息,并且经过音频失真处理。

你会担心被监听,隐私被泄露吗?

25平米藏了近20个针孔摄像头 18名极客想在十分钟内找到

“我们相信科学,承认数字化世界带给我们的美好,也承认数字化世界带给我们的不美好,努力消灭这些不美好,就是尊重科学。”世界三大黑客赛事之一、GeekPwn大赛创始人王琦如是说。

10月24日,GeekPwn2019国际安全极客大赛在上海举行。本次大赛以“Geek Me 5”为主题,通过预演安全风险, 探索 产业智能与消费智能潜在的安全问题。

隐私护卫队带大家一起来盘点,看看这些极客们替我们解决了哪些数字时代“不美好”的问题?

移动互联网时代,用户越来越依赖智能手机,在手机购物、 娱乐 聊天过程中,在手机上保留了大量敏感的隐私信息,一旦手机被攻破导致泄漏,将给用户带来极大的危害。

随着网络技术的更新,不法分子从原来只靠电话忽悠,进化到联合恶意链接、病毒APP,诱导用户下载安装。在此次大会上,腾讯移动安全实验室研究员就通过扫描二维码访问用户手机中的网址,实现了应用程序自动安装。

来自腾讯移动安全实验室的高级研究员韩紫东、韩景维选择了三款不同品牌安卓手机作为攻破对象,详细地展示了攻破手法及步骤。

两位选手首先用三款手机分别扫描二维码,使其跳转至一个网站。该网站里的内容是利用手机漏洞构造好的一些链接,一旦被攻击的手机访问这些链接,就会触发相关的漏洞,当漏洞一个一个被触发并组合串联起来,最终会静默安装指定的应用程序,并将其调起。

在现场验证中,腾讯移动安全实验室的两位选手在不到20分钟的时间里,先后攻破三款手机,完成了恶意APP安装,并成功获取到指定手机的GPS位置信息。

是否曾经有路人让你帮忙开一个手机热点?此时就要当心了,共享热点的人可能会泄漏隐私信息,包括APP通讯信息、入住酒店的订单信息等,都会被这名“路人”知道。

在此次手机APP账号认证的绕过攻击演示中,武影AIoT安全团队的徐良军作为攻击者,连接了被试者苹果手机上的共享热点,成功“偷”到被试者的微博账号,并在后台获得微博私信信息。

徐良军说,当被试者共享手机热点后,相当于攻击者和用户手机之间有了一个通道,有机会拿到并利用用户数据,在暗地里走完APP登录认证过程。

现场评委说,这利用了APP和手机运营商的合作过程中的漏洞,而不是手机品牌的问题。部分手机应用为了便利用户的登录认证,可能会向运营商获取用户本机的信息,这一过程存在安全风险,同时,这一漏洞影响了绝大多数APP,不仅是演示中的APP。

不过,此次挑战中,其他三款软件的破解均未成功。评委说,这受到现场环境、地理位置和不同运营商等因素的影响。

本次大会的另一项演示是攻击飞利浦智能音箱,随着智能音箱走入千家万户,其存在的网络安全问题也不容忽视。

在现场,木星安全实验室伍智波、周坤利用智能音箱的漏洞,在音箱联网状态下,攻破并获得了音箱的管理者权限,将开机音效替换成了怪叫声,也偷偷在微信上进行刷票。

评委陈良说,此款智能音箱漏洞并不要求选手的攻击设备与音箱在同一网络中,只要这款音箱能直接从网上直接访问到,选手即可利用漏洞攻破。值得注意的是,智能音箱通常长期联网,放在家中,一旦被攻破,可以实现长期窃听的功能。

当黄健翔问到,作为网络数码“小白”,如何排查家中设备是否被“黑”掉时,陈良说,普通用户是完全无法察觉的,这需要厂商积极响应漏洞问题,更新软件,用户也要勤于更新软件版本,规避风险。

近两年,在酒店、出租屋等场景下的偷拍成为 社会 热议话题,被曝光的恶意偷拍事件层出不穷,针孔摄像头的伪装也让人防不胜防,大众对于隐私安全普遍存在焦虑不安情绪。此次大会首次推出了反偷拍挑战赛,希望利用技术手段来遏制泛滥的偷拍现象。

桌、椅、插座、路由器、闹钟,在25平米的比赛场地中,组委会安插了近二十个针孔摄像头在日常物品中,并设置了若干智能设备和降温系统以迷惑选手。参赛选手需要在10分钟之内,通过自动化检测工具,尽可能多地探测出比赛场地中设置的针孔摄像头数量和位置。

为了排除人为因素的干扰,所有物品都被布帘覆盖,物品对应布帘的位置有相应编号,因此选手无法通过肉眼判断摄像头是否存在,都需要成为靠技术说话的硬核“闭眼玩家”。

在比赛现场,选手们采用了摄像头玻璃镜头反光,无线网络设备节点分析,无线电波磁场检测,热成像原理等对摄像头进行识别和查找。但由于比赛要求选手在准确识别出摄像头的同时还要求避免干扰、不能识别错误。最终,所有参赛选手均没有达到比赛要求的最低得分,没有团队获奖。

赛后,大会创始人王琦表示,有胜就有败,就像我们之前的AI挑战赛一样,刚开始起步都是比较弱的,我们希望它明年会更好。

此外,对于大众日常隐私的保护,大会的评委也给出了小提示:首先,需要注意最容易藏匿偷拍摄像头的常用物品种类,如打火机、烟灰缸、卡通挂件、插板插座等;其次,可以利用偷拍所需视角、隐秘程度、镜面反射、偷拍设备所需电源等思路排查重点区域。

女子称民宿内智能音箱偷拍房客隐私,小度官方对此有何回应?

女子称民宿内智能音箱偷拍房客隐私,小度官方对此做出了三个方面回应。第一解释了这种情况出现原因,系使用设备时候,开启了“看护助手”功能;第二支持视频当事人维权,也会积极配合民警调查处理;第三小度针对酒店,开发了不带摄像头智能设备,要求商家停止该行为。

互联网变得发达后,天眼也随之普及开来。有了天眼存在,为我们生活带来了便利,同时也让我们隐私被泄露可能性增加。不管是针孔摄像头,还是民宿内提供智能设备,都可能成为隐私泄露源头。

小度研发智能设备,就是为了方便人们生活,也为了方便在外工作人员,照顾查看家中情况,可以更好了解老人、孩子健康状况。不曾想这一功能,却被有心人利用,造成了用户隐私被偷拍,这样一个行为,已经违背了功能开发初衷,小度官方自然要敦促对方,停止使用这一功能。

小度智能屏有一个“看护助手”功能,该功能开启后,就能够通过手机,利用小度智能屏幕设备,查看家中情况,方便家人照顾老人和孩子。

涉事民宿智能屏,会泄露顾客隐私,正是因为开启了这一功能。小度官方对于商家这一行为不满,要求对方停止使用该功能。并告知所有商家,针对酒店经营者,开发了安全性更高智能设备,且不具有摄像头功能。

对于隐私被侵犯当事人,小度也表示,支持对方维护自己合法权益,如果民警需要配合,公司也会积极配合调查,帮助隐私被泄露当事人维权。

从这些偷拍事件中,我们要提高警惕,外出游玩住酒店过程中,一定要防偷拍,遇到隐私泄露情况,第一时间保存好证据,并选择报警处理。

智能家居会不会让人24小时都毫无隐私可言?

随着智能家居走入普通老百姓的生活,关于智能家居所带来的影视风险,也是大家所担心的。而智能家居与个人隐私两者之间的问题,也是仍然无法解决。

全方位使用智能家居,无异于你的隐私正在裸奔。这是我看到的关于智能家居和隐私两者之间最让人不寒而栗的话。

因为如果你想要使用智能家居的话,首先你需要录入自己的一些信息的。而这些信息之所以能够被智能家居所引用,是因为他已经被共享了,而在这种情况下,想要保护住你的隐私是非常困难的,甚至连其运营公司都没有办法保障。

像羊女士这样,在民宿里面发现了别人的隐私的情况,其实不在少数。很多数据战力使用它之后,都会留下痕迹,但一般情况下,大家也不会非常注重的去消除。凡是过往必有痕迹,这句话不是没有道理的。

让我想起了前两天我向我的同事推荐了一个综艺节目,在我们聊天之前,他从来都没有刷到过关于这个综艺节目的视频之类的。可我们只是聊了天之后,他的短视频平台就经常刷到了这个综艺节目。其对于我们生活的智能推荐已经如此强大,更别说你去主动使用的一些智能平台。

家本来是一个非常隐秘的地方,如果要引进智能家居,无异于把这个隐秘的地方公开化。而即便是这样,还是有很多人会喜欢智能家居。一方面是因为智能家居的确给我们的生活带来了很多的方便,一方面也是因为大部分人而言,家的秘密也不是那么的需要隐秘。

所以有的人思想本来就很开放,他们对于自己的一些信息被共享,这件事情本身是不担心的。就部分人他们的家就很适合使用智能家居。但有一部分人是非常注重自己的隐私,即便不会对别人产生什么影响,也不想让她公诸于众,不然就不太适合使用智能家居。

智能家居有一个很重要的功能是共享,而共享就是把隐私破碎化。所以如果真的选择了智能家居的话,就不要太过在意自己的隐私。当然,现在的智能家具也没有完全把你的隐私展现给大家,因为它只是你生活的一部分,说24小时毫无隐私有一些夸张了。

就像我们通常所见到的,家里的防盗门,可以防到98%的人。而有1%的人,不管你用什么样的门,他都是可以打开的。另外1%的人,不管你是否关门,他都不会到你家里去。虽然没有达到100%防盗门还是那么受大家的欢迎,因为他已经完成了主要的防盗作用。

智能家居所带来的隐私曝光,其实也只是给了那1%的人有机可乘。大部分的人是不会专门去挖掘你的隐私的,所以大家在使用智能家居的时候,也不需要太过于担心。有心之人,不管你怎么防都防不住,无心之人也没有必要去防范他。

0条大神的评论

发表评论