刚刚，美国科技巨头微软遭遇员工“叛变”，被质疑其产品会创建暴力、色情图像。

钛媒体App 3月6日消息，据CNBC报道，微软人工智能业务工程师 、首席软件工程经理肖恩·琼斯（Shane Jones）表示，微软旗下 AI 图片生成工具产品 Copilot Designer 可以创建色情和暴力内容，但微软公司没有采取适当的行动。

“这是一个令人大开眼界的时刻，”已经在微软公司工作6年的琼斯坦言。

琼斯称，他曾在领英上发布公开信要求微软下架 OpenAI 的DALL-E 3模型并进行调查。然而，虽然微软和OpenAI承认其对于 AI 图像产品担忧，但不愿将该产品撤出市场，甚至微软法务部门要求琼斯立即删除其职位。

琼斯透露，目前他已向美国政府FTC（联邦贸易委员会）主席莉娜·汗 (Lina Khan) 和微软董事会都发送了相关信函，而且他还与多位美国参议员就相关问题进行讨论。但截至发稿前，FTC没有对此进行回应。

微软发言人则公开回应称，“我们致力于根据公司政策解决员工提出的所有问题，并感谢员工为研究和测试我们的最新技术以进一步提高其安全性所做的努力。当涉及到可能对我们的服务或合作伙伴产生潜在影响的安全绕过或担忧时，我们建立了强大的内部报告渠道来正确调查和补救任何问题，我们鼓励员工利用这些渠道，以便我们可以适当地验证和测试他们的担忧。”

据悉，微软于2023 年 3 月推出 AI 图像生成软件 Copilot Designer，由 OpenAI 技术提供支持。与 OpenAI 的DALL-E一样，用户输入文本提示来创建图片，鼓励发挥创造力图像。

CNBC报道称，自2023年12月以来，琼斯一直在积极测试 Copilot Designer找寻其漏洞，这种做法被称为Red-teaming（红队）。在测试过程中，他看到该工具生成的图像与微软声明的“负责任的人工智能原则”相悖。该工具生成了女性遭受性暴力以及未成年人饮酒、携带枪支和吸毒等画面。

琼斯对CNBC表示：“那是我第一次意识到，这真的不是一个安全的模型。”

据琼斯在微软内部收集到的信息，Copilot 团队每天都会收到 1000 多条产品反馈消息，但要解决所有问题，需要在新的保护措施或大模型再训练方面进行大量投资。琼斯表示，他在公司会议上被告知，Copilot 团队只会对最严重的问题进行分类处理，并且没有足够的资源来调查所有风险和有问题的内容输出。

然而，Copilot Designer 的 Android 应用目前仍然被评为“适用于所有人”（E for Everyone），这是最具年龄包容性的应用程序评级，表明它对于任何年龄段的用户都是安全且适用的。

除此之外， Copilot Designer 还有侵犯他人版权的风险。

Copilot 工具可以生成迪士尼经典角色的图片，例如《冰雪奇缘》中的艾尔莎、白雪公主、米老鼠和星球大战角色等，这可能违反版权法和微软的政策。

琼斯对 CNBC 表示：“现在的问题是，作为一名微软员工，看到该产品在全球范围内传播有害的、令人不安的图像，没有地方可以报告，没有电话可以进行反馈，更没有办法让此事引发重视得以立即解决。”

事实上，微软与OpenAI这种强绑定的“接近垄断”关系已经引发众怒。

今年2月29日，亿万富翁、特斯拉CEO马斯克（Elon Musk）向美国旧金山高等法院提起诉讼，起诉OpenAI和OpenAI联合创始人、CEO奥特曼（Sam Altman），公司总裁Greg Brockman以及 OpenAI 的若干实体，控告OpenAI团队违约、出尔反尔（“允诺禁反言”）、不正当竞争等。

马斯克在46页、1.4万字诉讼文件中声称，OpenAI违背初衷，背叛了OpenAI这家 AI 公司成立时达成的一项协议，即开发技术的目的是“造福人类”而非利润。他认为，OpenAI最近与微软的密切关系损害了该公司最初对开放、开源通用人工智能（AGI）领域的贡献，他要求OpenAI开放技术并寻求偿还他提供的资金。

3月6日，OpenAI公司发布推文和博客文章，公布过去8年间其与马斯克的邮件、时间脉络等重要关系事实，并计划驳回马斯克所有主张。

就在3月7日凌晨，马斯克回应指，如果OpenAI改名为“CloseAI”，他马上撤诉——Fixed it。

那么，你怎么看待微软这件事？

（本文首发钛媒体App，作者｜林志佳、任颖文，编辑｜林志佳）