微软起诉一组织非法入侵其AI服务，绕过安全防护生成有害内容

摘要： 韩国现代汽车集团的印度分公司本周正式启动了其首次公开募股计划预计将筹集亿美元创下印度历史上最大规模的记录媒体报道随着机构投资者的强力买入这项周四超额认购...

韩国现代汽车集团的印度分公司本周正式启动了其首次公开募股（IPO）计划，预计将筹集33亿美元，创下印度历史上最大规模的IPO记录。媒体报道，随着机构投资者的强力买入，这项IPO周四超额认购达到两倍以上。不过，小投资者的兴趣较为平淡。根据报道，此次印度最大规模的IPO吸引了远超外国投资者和本地基金经理份额六倍的认购...

IT之家 1 月 12 日消息，据 TechCrunch 报道，微软公司已对一组织提起法律诉讼，指控其故意开发并使用工具绕过云 AI 产品的安全防护措施，非法访问并生成有害内容。该诉讼于 2024 年 12 月由微软向美国弗吉尼亚东区联邦地区 提交，涉及 10 名未具名的被告。

根据诉讼文件，微软指控这些被告通过使用窃取的客户凭证和定制软件，了 Az e OpenAI 服务。Az e OpenAI 是微软基于 OpenAI 技术开发的全托管服务，提供包括 Ch GPT 在内的多种 AI 模型。微软称，被告违反了《计算机欺诈和滥用法》《数字千年版权法》以及联邦反敲诈勒索法，利用其软件和服务器生成“攻击性、有害且非法”的内容。微软并未提供这些内容的具体细节。

微软在诉讼中表示，公司于 2024 年 7 月发现，部分 Az e OpenAI 服务的客户凭证（特别是 API 密钥，即用于验证或用户的 字符串）被用于生成违反服务使用政策的内容。经过调查，微软确认这些 API 是从付费客户处窃取的。微软指出，被告通过系统性的 API 密钥 行为，从多个客户处获取了密钥，并利用这些密钥实施非法活动。

据微软指控，被告利用窃取的 API 密钥创建了一种“即服务”模式，并开发了一款名为“de3u”的客户端工具。该工具允许用户利用被盗的 API 密钥，无需编写代码即可通过 DALL-E 模型生成图像，同时试图绕过 Az e OpenAI 服务的内容过滤机制。例如，当用户输入的文本提示包含触发内容过滤的词汇时，de3u 会阻止服务修改提示内容，从而生成可能有害的图像。

微软还提到，被告通过非法编程访问 Az e OpenAI 服务，逆向工程了微软的内容和滥用防护措施，导致服务遭受损失。目前，托管在 GitHub（微软旗下公司）上的 de3u 项目代码库已无法访问。

IT之家注意到，在周五发布的一篇博客文章中，微软表示， 已授权其查封一个对被告运营“至关重要”的网站，以便收集证据、分析其盈利模式，并 其技术基础设施。微软还表示，已针对观察到的非法活动采取了“反制措施”，并在 Az e OpenAI 服务中增 额外的安全防护机制，但未透露具体细节。