“注册会员300万人”“软件内聚合11个淫秽色情直播平台”“涉案金额达1000余万元”……今年9月份,山东省及泰安市“扫黄打非”办公室协调泰安市、新泰市公安部门联合侦破了“月光宝盒”直播平台传播淫秽物品牟利案，该案件也引发了外界对网络黑产话题的再度热议。
“利用云播下载淫秽视频进行播放，通过有偿推广再加上黑客技术手段，破解国内知名、正规直播平台以及一些混色收费直播平台，把它们聚合在一起实现非法牟利。”在日前举办的“第三届互联网安全责任论坛”上，山东泰安市公安局公共信息网络侦查大队教导员杨玉慧这样说。
近年来，网络直播已经成了网络黑产的重灾区，公司化、智能化、平台化、国际化趋势日益明显；伴随大数据、人工智能技术的不断发展，一场“魔道”消长较量也正在展开。
（图片来源于网络）
【揭秘】
“月光宝盒”平台涉会员近300万，服务器真实地址定位难
“国内类似案件侦办一直没有什么突破，后来在腾讯公司大数据分析下，泰安民警获得了一条关键线索——‘月光宝盒’平台管理员在泰安活动。”杨玉慧揭秘了“月光宝盒”直播平台案件的侦破过程。
从这一线索突破，泰安市网安支队网络侦查团队经过1个多月的侦查，全面掌握了该犯罪团伙的成员结构、身份以及活动区域。8月，泰安市公安局、新泰市公安局对其进行立案查处；9月，新泰市公安部门派出警力150余人，分为48个抓捕小组，奔赴全国17个省、23个地市抓捕，已抓获犯罪嫌疑人54人，其中42人已被逮捕，成功捣毁了这一犯罪团伙。
杨玉慧介绍，抓获的54个人中既有平台运营者，也有广告代理商，还有直播女、直播家族等；抓获的嫌疑人年龄普遍不大，多在20岁左右，且学历不高。“呈公司化运作模式，因涉案金额较大，需要很多人分工。”
记者了解到，该平台推行会员制，设计了按阅读收费、季度收费、年度收费等模式，类似以往传销模式的新套路。“今年3月建立到9月被打掉，短短半年时间会员就发展到了300万，这个数字非常惊人。会员每月只需缴纳非常低的费用，就可以在各个收到黄色直播平台上的视频流。”杨玉慧透露，其实注册会员300万只是保守数字，实际后台显示远高于这个。
“与类似案件相比，该直播平台属于聚合式平台。”杨玉慧说。平台App不仅自己做直播，还利用黑客技术破解正规网站以及一些收费的黄色直播网站，把盗取的视频流聚合在自己平台上，这给平台带来了巨额收益。
在案件的侦办行程中，也面临着不少难点。比如，App服务器的实际所在位置很难确定，这给侦查追踪造成了很大困扰。“分析发现，它的访问地址大都指向了国内一些不太规范的小型CDN（内容分发网络）公司，通过这些公司进行层层跳转，最后显示出来的地址并不是服务器真实所在地址。”杨玉慧说。
【现状】
网络直播渐成黑产新灾区，新增“家族中介”充分产业代理
不止涉案金额上千万元的“月光宝盒”案件，还有陆续曝出的“老虎直播”“狼友直播”等平台传播淫秽物品牟利的案件，以及备受谴责的“黄鳝女”涉黄直播事件，都将网络黑产的载体指向了直播平台。
有数据显示，2017年网络直播平台数量已超500家，用户规模近4亿，与2015年相比增长了一倍。然而，井喷式发展的背后是准入门槛降低、获取方式便捷、操作更加简单。“网络直播成为了一个新灾区。从2015年开始，直播涉黄犯罪案件出现较大增长。”腾讯研究院副秘书长刑事保护中心高级总监毛晟斌说。
“针对多起案件分析发现，很多都是以网络色情直播为突破口才摸出整个黑色产业链。”毛晟斌坦言，以往直播行为可能只涉及直播平台、主播、用户，这些色情直播里加入了叫“家族中介”角色，帮助平台招募主播、组织色情直播表演，还会代表主播与平台做结算、分成，有点类似代理商的职能。
“不止是在线上直播，现在还有主播甚至发展到了线下交易，也让会员去付费，较过往的单一模式更加复杂化。”毛晟斌分析，从2013年到2017年的涉黄犯罪案件看，在牟利方式方面，贩卖色情资源、会员缴费以及通过平台招嫖卖淫，依旧占据了色情黑色产业链的较大份比；从传播载体看，视频、图片、文字依旧占据了前三位，其中视频居首。
毛晟斌还提到，黑色产业原来可能只涉及主播和用户，现在用户之间也会涉及。比如，在一些直播室里，有些用户利用该房间发布一些有害信息，通过自己的头像、拟声、弹幕等形式，去引导其它用户到更加隐蔽的“场所”，进行这类黑色产业的勾当。
（图片来源于网络）
【趋势】
以合法名义外包产业，公司化、平台化、智能化趋势明显
《2017年腾讯网络安全生态责任报告》显示，腾讯为打击网络黑产推出“守护者计划”，在2017年协助全国各地公安机关破获新型网络违法犯罪案件150起，抓获人员约3500人，涉案资金约35亿元，案件类型几乎囊括网络黑色产业链条的所有重点环节。
“现在的黑色产业链不仅是网络色情，还包括我们一直持续对抗的木马病毒、用户盗号、公民信息泄露等。”对于当前网络黑产，腾讯安全专家唐兴波总结为“公司化、国际化、平台化、智能化”四大特征。
针对黑产的公司化，唐兴波坦言，现在产业分工日趋完善，每个链条都有独立的环节，然后各个环节组合形成完整的产业链。从近年来清查的案件可以看出，有些公司成立的目的就是为了进行黑产犯罪，并且会将相关业务寻求外包，有的外包公司专门负责传播病毒、木马，有的专门贩卖个人信息。“以前多是小作坊，现在成立了公司，通过正规的公司化运营，一查全是合法的，以此名义掩护犯罪。”
在平台化方面，唐兴波以某起专门网络盗号的案件为例：不法分子批量盗号需要使用验证码输入，现在网上专门有针对验证码的平台。也就是说，通过平台接口的自动化软件，当黑产需要批量输入验证码时，直接接入打码平台就能自动化的识别验证码，然后批量化的传送给盗号者。“对于黑产使用的QQ号、微信号等腾讯也会进行封号处理，然后对被盗用户号码进行引导解封，这些不法分子会专门做一个批量解封的平台，批量解封后再继续作恶……”唐兴波说。
唐兴波还提到，网络黑产的国际化趋势也日益明显。“国内打击治理越来越严，它们就在老挝、柬埔寨、马来西亚等地区成立工作室、公司。”唐兴波说。
另外，网络黑产犯罪与技术结合也日益紧密，技术不但在更迭，网络犯罪的技术形态也在变化。“我们协助浙江警方破获了一起‘AI打码’案件，黑产分子在批量识别验证码的过程中，引入了AI智能识别技术，大大提升了破解验证码的效率。”唐兴波说。
中国人民公安大学法学院副教授、络空间安全与法治协同创新中心副秘书长李怀胜也提到，有时候即便侦破了案件，仍有很多事实掩盖在迷雾之后。对于立法者、司法者乃至网络从业者来说，这无疑是一个“最坏的时代”，新型网络犯罪的不断出现给传统犯罪定罪量刑造成巨大挑战，“传统刑事立法司法，一直处在追赶者的角色”。
（图片来源于网络）
【防范】
黑产肆虐背后将是一场技术的善恶博弈
一张图片，在艺术类领域可能会认为是非色情，可在直播场景下就是一张色情图片。不同场合、不同时间，人们可能会有不一样的评判标准。伴随着技术的不断迭代，怎么防治色情直播等网络黑产？
技术客观、中立，无疑可以给人们的判断带来参考建议。“首先我们设置了大量标签，再进行人工智能的深度学习训练，这样深度学习网络就能识别图片，会给出相应的评判分数，再由人根据实际的落地情况判别是否是涉及色情。”腾讯公司信息安全部总监鞠奇说。
然而，针对网络黑产日益智能化的趋势，不法分子也会想出各种办法逃避机器检测，业界称之为“AI的对抗技术”。鞠奇举例说，不法分子有时会把一些图片的敏感部位做小，或者把周边图像、场景做得很复杂，甚至在色情图片上添加一些干扰，比如噪点、压缩等。这样处理之后人眼可以看得见，但像素会显示失真，就可以躲过机器识别。
技术打击手段不断提升，与黑产的博弈正在经历着魔道的此消彼长。目前，腾讯在鉴黄判断方面实现了二次升级，通过人工智能、机器学习对一张图片进行更为细致地标签分类。“在对抗过程中，如果是在纯粹实验室环境下识别率接近100%；如果在应用场景下，保守估计80%的情况都会被处理。”腾讯公司微信安全风控中心高级总监金璇说。
唐兴波还提到，当一张图片里有性感美女、文字、二维码时，他们可以通过OCR（光学字符识别）把文字提取出来，再通过一些自然语言处理识别，确定是否是色情或招嫖图片。“对色情的识别已经有了一套综合策略，不只是通过图片视觉处理，还通过自然语言处理技术识别文字，这些已经很好地应用到了社交的场景中。”
对于互联网安全呈现出的新特点，李怀胜也表示，针对新型网络犯罪产业的各个节点，都有相应的法律进行规管，都有相关的罪名对应。比如，侵犯公民个人信息、提供网络犯罪工具、提供网络支付手段、网络存储空间，甚至广告投放等行为都有相应的法律规管。“刑法在完成基础的框架性立法之后，还需进行更精细的立法活动，把立法慎入到网络的每一个环节、每一处毛细血管和血肉中，真正实现定罪量刑的精准化。”李怀胜说。
毛晟斌也认为，与网络黑产的对抗已经不是过往传统企业和黑产团伙间的对抗，也不是一家互联网企业就能做到的，需要构建网络安全新生态，需要政府、社会、企业、网民等一起维护晴朗的网络生态。
新华社评论员：在改革开放新征程上奋发有为——五论学习贯彻中央经济工作会议精神
