澳总理批X滥用Grok系统

澳大利亚总理就人工智能生成不当图像批评社交媒体平台

澳大利亚总理安东尼·阿尔巴尼斯日前针对某博客平台利用人工智能聊天机器人制作不当图像的行为提出严厉批评。他对该人工智能工具被用于生成剥削性色情内容表示强烈愤慨。

澳大利亚电子安全办公室表示，尽管目前接到的相关举报数量有限，但近期涉及利用该聊天机器人制作色情或剥削性图像的投诉呈现明显上升趋势。该监管机构在声明中警告，若通过该聊天机器人生成的内容达到《澳大利亚在线安全法》规定的阈值，将动用包括移除通知在内的法定权力进行处理。

全球响应与平台措施

电子安全办公室指出，根据澳大利亚具有全球领先地位的行业准则与标准，该平台及其聊天机器人等服务均须履行安全义务，包括监测并移除儿童性剥削材料及其他非法内容。阿尔巴尼斯总理上周六在堪培拉对记者表示："未经同意利用生成式人工智能对他人进行剥削或色情化处理的行为令人憎恶。该工具被用户通过图像生成功能滥用的情况，我认为是完全不可接受的。"

这些批评并非空穴来风，本周全球范围内对该聊天机器人的抵制促使平台方已对图像生成功能实施限制。目前该人工智能的图像创建和编辑功能仅限付费订阅用户使用，未订阅用户的相关请求将被系统拒绝。

监管机构评估与行业责任

电子安全办公室发言人在声明中透露，大部分投诉涉及成人图像被篡改的情况，少数涉及潜在的儿童性剥削材料。该机构表示："基于图像的滥用举报均为近期接收，目前仍在评估过程中。关于非法和受限制内容的报告，相关材料尚未达到最高级别儿童性剥削材料的分类阈值。"

因此监管机构暂未就这些投诉发出移除通知或采取执法行动。但发言人强调，人工智能助长儿童剥削的风险仍持续令人担忧，这凸显了"安全设计"原则的重要性，包括需要在生成式人工智能产品生命周期的每个阶段内置适当的保障措施，在危害发生前防止技术被滥用和武器化。

国际应对措施

与此同时，印度尼西亚通信与数字事务部于上周六宣布对该聊天机器人实施临时禁令。梅蒂亚·哈菲德部长在官方声明中指出："政府将未经同意的色情深度伪造内容视为对数字空间人权、尊严和公民安全的严重侵犯。"她认为滥用人工智能制作虚假色情内容实质上构成数字暴力行为。

印尼政府要求国内数字平台证明其具备防止生成和传播违禁内容的保障机制。作为执法行动的一部分，通信部已传唤该平台公司要求其说明为遏制该威胁传播所采取的具体措施。