儿童虐待者利用人工智能生成“深度伪造品”引发性勒索循环

摘要： 越来越多的明星开启直播事业连曾声称不直播的郭德纲都于近日开启了直播首秀首秀当天在线观众瞬间超过十万刷礼物的也不少但是最让人意外的是背离德云社的曹云金也现身直播间为曾经的师父郭德纲疯...

越来越多的明星开启直播事业，连曾声称“不直播”的郭德纲都于近日开启了直播首秀。首秀当天，在线观众瞬间超过十万，刷礼物的也不少，但是最让人意外的是，背离德云社的曹云金也现身直播间，为曾经的师父郭德纲疯狂刷礼物。

4月23日 消息:儿童虐待者正在利用人工智能技术制作"深度伪造品"来勒索受害者拍摄自己的虐待行为，从而开始一个可持续数年的性勒索循环。

在英国，制作模拟虐待儿童图像是非法的，工党和保守党一致呼吁禁止所有由人工智能生成的露骨图像。但全球范围内对如何监管这一技术几乎没有达成共识。更糟糕的是，只需按一下按钮就能创造出更多此类图像，因为明确的图像已成为人工智能图像生成的基础。

图源备注：图片由AI生成，图片授权服务商Midjourney

研究发现，人工智能图像生成器接受了儿童性虐待图片的训练。斯坦福大学的研究人员发现，构成人工智能图像生成器最大训练集之一的数十亿张图像中，埋藏着数百甚至数千个儿童性虐待材料实例。Laion等数据集的创建者承认，当这些研究被发现时，大量链接已经失效，但非法训练数据已经刻录到人工智能系统的神经网络中。

为应对这一问题，OpenAI等公司采取了措施，试图确保其生成的图像更加清晰可信。但专家表示，即使依赖经过训练不会创造此类图像的系统，这也只是一种不太脆弱的解决方法。长远来看，如何限制一个你不完全理解的人工智能系统仍是一大挑战。

有专家呼吁为开源人工智能的发展保留空间，因为这可能是解决未来危害的最佳工具所在。政策文件建议，短期内应针对单一用途"裸体"工具的创建者和宿主采取行动，但长期应对抗明确的人工智能图像问题仍需进一步探讨。