一名韩国男子因使用人工智能生成剥削儿童的图像 而被判入狱，这是该国首例此类案件，因为世界各地的法院都遇到使用新技术创建虐待性内容的情况。
据釜山地方法院和该地区检察官办公室称，这名 40 多岁的未透露姓名的男子本月被判处两年半监禁。
检察官办公室告诉 CNN，他在 4 月份创建了大约 360 张人工智能生成的图像。这些图像没有分发，并已被警方没收。
检察官在案件中辩称，性剥削材料的定义应包括对“虚拟人类”性行为的描述，而不仅仅是真实儿童的外表。
检察官办公室表示，该裁决表明，性虐待内容可能包括使用“高级”技术制作的图像，这些图像足够逼真，看起来像真正的儿童和未成年人。
此案发生之际，世界各国政府都在努力应对人工智能行业的爆炸式增长，其影响范围从版权和知识产权到国家安全、个人隐私和露骨内容。
许多人现在正在竞相监管这项技术——尤其是像韩国判刑这样的案例凸显了人工智能如何被用来侵犯人们的身体自主权和安全，特别是对女性和未成年人来说。
本月早些时候，西班牙警方启动了一项调查，此前，未成年女孩的照片被人工智能修改，脱掉衣服并发送到城镇各处。一名女孩的母亲告诉埃斯特雷马杜拉运河电视频道，在一个案例中，一名男孩试图利用其中一名女孩的裸体图像来敲诈她。
多年来，深度伪造——使用人工智能制作的高度可信的虚假视频——一直被用来在未经女性同意的情况下将女性的面孔放入通常具有攻击性的色情视频中。这些视频往往显得如此真实，女性受害者很难否认这不是她们本人。
今年 2 月，当一名知名男性视频游戏主播访问了他的一些女性直播同事的 Deepfake 视频时，这个问题被推入了更广泛的公众视野。
“从一开始，制作 Deepfakes 的人就在未经女性同意的情况下用它来制作色情内容，”Vice's Motherboard 的记者萨曼莎·科尔 (Samantha Cole) 当时告诉 CNN，她自 Deepfakes 诞生以来一直在追踪 Deepfakes。
流媒体平台 Twitch 通过收紧政策来回应这一争议，称这些深度伪造的性视频“对个人构成侵犯，令人不安”。其他主要平台也在更新规则，其中 TikTok在 3 月份对共享 AI Deepfake增加了进一步的限制。
欧盟于 6 月成为世界上最早制定企业如何使用人工智能法规的国家之一，中国也于 7 月紧随其后。9 月初，美国一些最大的科技领袖——包括比尔·盖茨、埃隆·马斯克和马克·扎克伯格——齐聚华盛顿，参议院准备起草人工智能立法。