微软起诉一组织非法入侵其AI服务，绕过安全防护生成有害内容

10 月 16 日晚，荣耀发布了两款平板新品，其中荣耀平板 GT Pro 有着强势的性能，而荣耀平板 X9 则偏向入门市场，带来了一个千元以下的平板新选择。荣耀平板 X9 采用了一块 11 英寸的护眼屏，为 1920×1200 分辨率，支持 90Hz 高刷新率，并且还有荣耀的四重权威护眼科技，更适合追求护眼体验的用户。性能方面，荣耀平板 X9 ...

IT之家 1 月 12 日消息，据 TechCrunch 报道，微软公司已对一组织提起法律诉讼，指控其故意开发并使用工具绕过云 AI 产品的安全防护措施，非法访问并生成有害内容。该诉讼于 2024 年 12 月由微软向美国弗吉尼亚东区联邦地区 提交，涉及 10 名未具名的被告。

根据诉讼文件，微软指控这些被告通过使用窃取的客户凭证和定制软件，了 Az e OpenAI 服务。Az e OpenAI 是微软基于 OpenAI 技术开发的全托管服务，提供包括 Ch GPT 在内的多种 AI 模型。微软称，被告违反了《计算机欺诈和滥用法》《数字千年版权法》以及联邦反敲诈勒索法，利用其软件和服务器生成“攻击性、有害且非法”的内容。微软并未提供这些内容的具体细节。

微软在诉讼中表示，公司于 2024 年 7 月发现，部分 Az e OpenAI 服务的客户凭证（特别是 API 密钥，即用于验证或用户的 字符串）被用于生成违反服务使用政策的内容。经过调查，微软确认这些 API 是从付费客户处窃取的。微软指出，被告通过系统性的 API 密钥 行为，从多个客户处获取了密钥，并利用这些密钥实施非法活动。

据微软指控，被告利用窃取的 API 密钥创建了一种“即服务”模式，并开发了一款名为“de3u”的客户端工具。该工具允许用户利用被盗的 API 密钥，无需编写代码即可通过 DALL-E 模型生成图像，同时试图绕过 Az e OpenAI 服务的内容过滤机制。当用户输入的文本提示包含触发内容过滤的词汇时，de3u 会阻止服务修改提示内容，从而生成可能有害的图像。

微软还提到，被告通过非法编程访问 Az e OpenAI 服务，逆向工程了微软的内容和滥用防护措施，导致服务遭受损失。目前，托管在 GitHub（微软旗下公司）上的 de3u 项目代码库已无法访问。

IT之家注意到，在周五发布的一篇博客文章中，微软表示， 已授权其查封一个对被告运营“至关重要”的网站，以便收集证据、分析其盈利模式，并 其技术基础设施。微软还表示，已针对观察到的非法活动采取了“反制措施”，并在 Az e OpenAI 服务中增 额外的安全防护机制，但未透露具体细节。