Byron Kaye

路透社悉尼3月5日 - 谷歌（Google）已通知澳大利亚当局，在近一年的时间里，它在全球范围内收到了250多起投诉，称其人工智能软件被用于制作深度伪造的恐怖主义材料。

据澳大利亚电子安全委员会（Australian eSafety Commission）称，这家由Alphabet控股的GOOGL.O科技巨头还表示，它已收到数十份用户报告，警告称其人工智能程序Gemini被用于制作虐待儿童的材料。

根据澳大利亚法律，科技公司必须定期向电子安全委员会提供有关伤害最小化工作的信息，否则将面临罚款风险。报告期涵盖 2023 年 4 月至 2024 年 2 月。

自2022年底OpenAI的ChatGPT进入公众视野以来，世界各地的监管机构都呼吁建立更好的防护栏，以防止人工智能被用于恐怖主义、欺诈、深度伪造色情和其他滥用行为。

澳大利亚电子安全委员会将谷歌的披露称为 "全球首次洞察 "用户如何利用该技术制作有害和非法内容。

"电子安全专员朱莉-英曼-格兰特（Julie Inman Grant）在一份声明中说："这突出表明，对于开发人工智能产品的公司来说，建立并测试防止这类材料生成的保障措施的有效性是多么重要。

谷歌在报告中称，它收到了 258 份用户报告，内容涉嫌使用 Gemini 人工智能生成深度伪造的恐怖主义或暴力极端主义内容，另有 86 份用户报告称人工智能生成了剥削或虐待儿童的材料。

监管机构称，谷歌并未透露核实了多少起投诉。

谷歌使用舱口匹配（一种将新上传的图片与已知图片自动匹配的系统）来识别和删除使用 "双子座 "制作的虐待儿童材料。

但监管机构补充说，谷歌并没有使用同样的系统来清除用 Gemini 生成的恐怖主义或暴力极端主义材料。

监管机构已对 Telegram (link) 和 Twitter（(link) 后更名为 X）处以罚款，原因是它们在报告中存在所谓的缺陷。 (link) X 已就其 610,500 澳元的罚款($382,000) 上诉失败，但计划再次上诉。Telegram 也计划对其罚款提出质疑。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)