《纽约时报》日前报道一名化名mark的男子，在2021年2月因为儿子的生殖器出现感染，于是拍下照片发送给医生。由于是在疫情暴发期间，诊症都改以网上形式进行，护士要求孩子的家长通过google云计算服务，先行将照片上传给医生。
结果google不但将mark上传的照片认定为儿童性虐待内容（csam），更向警方报案，最后展开性虐儿童的调查。mark儿子的身体不适很快就得到解决，不过他的google账号则因为“有害内容”而遭到冻结。报道提到google在去年举报你超过60万宗csam个案，并冻结超过27万用户账号。google利用人工智能扫描照片，一旦有发现就要按法例要求通报有关机构。一般情况下，当人工智能将照片标记为csam后，管理人员应该会复核照片是否符合csam的原则。
虽然mark很快就向google上诉，但他已经无法使用电邮、联系人、文件和电话合约，三藩市警方也开始就事件展开调查。事件扰攘了数个月，警方认为mark没有犯罪，他被告知有关当局详细检查了他的互联网搜索记录、位置历史、消息、所有在云计算存储的照片和视频，而mark始终未能取回其google账号。有法律学者直言在最坏的情况下，父母甚至会因此失去孩子的抚养权。
资料及图片来源：petapixel