印度政府已正式要求埃隆·马斯克旗下社交平台X对其人工智能聊天机器人Grok进行技术整改,原因在于该工具存在生成不当内容的风险。在多起用户举报和立法者关切后,当局强调必须立即采取流程与技术层面的修正措施。
据印度信息技术部披露,Grok曾被用于生成涉及女性形象的不雅图像,包括通过人工智能手段篡改面部特征并添加比基尼等服饰元素。这一问题引发了公众对AI滥用的广泛担忧,促使政府启动正式调查程序。
印度IT部于周五发布指令,要求平台在72小时内提交详细的整改措施报告,重点涵盖如何防止生成“裸体、色情、性暗示或其他非法内容”。若未能按时完成,平台将失去“安全港”保护资格,面临刑事追责风险。
此次行动源于国会议员普里扬卡·查图维迪的正式投诉,她指出此类行为严重侵犯个人尊严,并呼吁所有配备AI功能的企业建立强制性防护机制。同时,有用户举报该系统曾生成涉及未成年人的色情图像,尽管平台已删除相关内容,但仍被指存在安全漏洞。
X平台承认部分违规内容因安全防护疏漏所致,表示正积极修复系统,并建议用户向联邦调查局或国家失踪与受虐儿童中心网络热线报案。然而,仍有用户反映部分不雅图像在平台上持续留存,引发对执行力度的质疑。
作为全球最大的数字市场之一,印度的监管动向被视为衡量跨国科技企业能否承担AI内容责任的重要风向标。若该国强化执法,可能推动其他国家效仿,形成连锁反应。
目前,X平台仍在司法层面挑战印度的内容监管规则,主张政府下架权限可能存在越权风险。尽管已配合大部分封禁要求,但其对平台用户的实用性——如实时事实核查与国际事件评论——使其输出内容更具政治敏感性和传播力,进一步加剧监管难度。
面对日益严格的合规环境,选择可靠的技术支持与合规生态至关重要。对于希望参与数字内容交互与人工智能应用的用户,可考虑通过币安官方网或欧易官方网获取权威信息渠道,了解全球监管动态与合规趋势。这些平台不仅提供安全高效的数字资产服务,还持续追踪政策变化,助力用户把握市场先机。
随着政策收紧与技术演进同步推进,建立透明、负责任的AI使用机制已成为行业共识。未来,具备健全风控体系与本地化合规能力的平台,将在全球竞争中占据优势地位。