就在Covid-19疫情开始席卷全球之前,驻新加坡的人类学家Angad Chowdhry偶然发现了欧洲刑警组织的 "制止虐待儿童----追踪物品 "网页,他感到非常震惊。
网站上随机排列着一些物体的图片,包括一把梳子、一条黄色的小短裤,以及床罩和T恤的部分:这些都是欧洲警察网络从互联网上流传的儿童性虐待视频中收集到的截图。
欧洲刑警组织希望人们如果在任何地方看到这些物品,请与之联系:任何信息都可以帮助警察追查虐待者。
"我们一直在阅读有关问题规模的文章,但这个页面将其人性化,这是其他任何东西都没有的。"40岁的互联网公司Quilt.AI的联合创始人Chowdhry说,这是一个 "将大数据信号转化为人类洞察力 "的技术平台。他决定研究如何利用互联网的力量来阻止儿童色情的消费者。
今年全球范围内的办公室关闭、宵禁和封锁意味着数以百万计的人上网的时间比以前大大增加。儿童色情问题在疫情来袭之前就已经很严重了,但互联网使用量的增长使其激增。
总部设在英国的独立互联网观察基金会致力于从互联网上清除儿童性虐待,该基金会报告说,仅在英国,2020年4月就有880万次尝试访问未成年色情制品。
很快,人们就发现,儿童色情的趋势是全球性的。总部设在美国的国家失踪与受虐儿童中心估计,2020年6月,全球有害内容的分享量增加了106%。
在印度,在3月封锁的第一天,儿童色情的需求量就上升了100%--从每天350万次搜索上升到700多万次,Chowdhry的公司在开始研究这一现象时发现。
"但这只是关键词毫不含糊的数字。真正的数字接近2500万;所有的搜索基本上都与虐待儿童有关,加上相邻的东西。"Chowdhry说。"更令人反感的是,非常具体和极端的关键词增加了一倍,有时是三倍。"
Quilt.AI在去年12月开始调查这个问题和潜在的补救措施,此前Chowdhry对欧洲刑警组织网站上的可怜图像感到震惊,并对网络上缺乏威慑行动感到担忧。
他说:"在原因世界里有很多谈话,但没有太多的动作和行动。"他说,当时正在进行解决这个问题的工作。
他的公司的月球拍摄工作,旨在找到一种阻止网络儿童色情寻求者的方法,部分资金来自第三方。"我们得到了一些解决这个问题的项目,"Chowdhry说。"所以这是一个挫折和机会的混合体。"
在疫情之前,互联网观察基金会2019年在网上发现的约94%的儿童性虐待材料中包含13岁以下儿童的图像,39%的图像是10岁以下的儿童。
Chowdhry拥有伦敦大学东方和非洲研究学院媒体人类学博士学位。为了博士论文,他从2005年开始在印度孟买街头捣鼓了近18个月,走访犯罪现场,询问当地人对犯罪现场的记忆。
他对谋杀后的社会发生了什么很感兴趣。他认为自己的这段经历足够硬朗,足以应付调查儿童性侵案的创伤。"犯罪现场是真实的,它是人类的,"他说。"每一个都是一个悲剧,但你可以把它收起来。"
他的博士田野工作对于儿童性虐待项目所释放的噩梦来说,并不是一件好事。"我不知道这个问题的规模,"他说。"每隔一段时间,我就会偶然发现实际的儿童性虐待材料,这会让我的血液沸腾,我会有不眠之夜。
"数字和统计数字很好,但如果你哪怕看到一个小小的视频片段,你就再也不想看到任何东西了。这在情感上是非常困难的。"
他放下惊恐,开始工作。从2019年12月到2020年年中,Chowdhry和他在新加坡的几位同事在印度用11种语言追踪了近7000个关键词,横跨多个平台--搜索引擎、社交媒体、新闻、视频分享网站和聊天平台。
"我们学到了一些令人震惊的东西,"他说。"一,只要花点心思,就能轻易得到这样的东西,这让人吃惊。二,在流行之前,搜索儿童性虐待材料仅限于深夜和清晨;在流行期间,它成为全天消费,在午餐时间达到高峰。
"三,不存在城乡差别,事实上,一些半城市中心的人均消费高于城市中心。四是......如何使用关键词的独创性令人瞠目结舌"。
因此,Chowdhry和他的同事决定为那些在互联网上寻求色情的人留下信息。"人们搜索这些材料是因为他们认为没有后果,"他说。"没有人搜索恐怖分子的东西,因为会有影响。"
他补充说,搜索引擎可能会发出自动警告,说搜索儿童色情是非法的,但这些警告几乎没有威慑力。
Quilt.AI团队建立了一个系统,该系统会被搜索儿童色情的行为所触发,然后在用户的社交媒体平台上,或者更罕见的是她的社交媒体平台上向用户发送消息。
"我们建立了一个系统,如果一个人今天在搜索引擎上搜索过这类材料,那么一两天后,广告就会在他的社交媒体平台上针对他,说一些大意是'我们知道你做了什么,所以要小心'的话。"Chowdhry解释说。他解释说,这些留下的信息是由机器学习生成的,并事先进行了测试。
由于对隐私权的担忧,以及对公民治安员作用的怀疑,决定按下项目的执行按钮对Quilt.AI团队来说是困难的,尽管看起来不太可能有任何法律后果,因为数据没有被收集,个人也不是特别的目标。
类似的技术被用来梳理互联网搜索,并向互联网消费者宣传产品。
"我们曾多次讨论这是否是正确的方式,"Chowdhry说。"最后我们决定,这是保护人们隐私的最佳方式,同时尽量让它成为所有人的禁区。我们想表明,你在社交媒体上搜索的内容和你的其他生活之间是没有突破的。这是非常规的,但如果用这个逻辑来卖洗衣机,也可以用来让大家的空间变得更好。"
该公司于6月开始在印度推出该计划,当时正值印度全国各地摆脱封锁。"我们看到了立竿见影的效果,"Chowdhry说。"在那之后的三个月里,我们平均每月成功吓跑了60万人。所以,这几乎减少了15%。我认为这是一个很大的影响。我不知道它将如何在世界范围内转化,但它已经显示出了成果"。
印度儿童保护基金的Nivedita Ahuja说,这种互联网威慑可能只是一种局部补救措施。"统计数字说明了一个非常残酷的故事,"她说。通过使用这种互联网警告的试点研究的数据,该组织发现持续和持续的威慑协议可能是必要的。
在一份基于2019年12月收集的统计数据的报告中,保护基金表示,对趋势的分析表明,重复犯罪者是常态。"76%的重返公共网络的人明确地再次表现出对儿童色情制品的需求,"报告说。"平均来说,运动的影响持续了38天,[个人]在这段时间后表现出累犯。"
儿童色情祸害看起来几乎是隐形的,不过实际上,虽然在表层网络上很难找到儿童性虐待材料,但在深层网络上只需要半秒钟就可以获得。
"在深层网络上什么都做不了,它是加密的,安全的,"Chowdhry说。"这就是我们选择地表的原因,因为有些事情可以做。尽管围绕着这个问题有很多黯淡的因素,但我还是很乐观。"