据cnbc报道，一名microsoft工程师正在向联邦贸易委员会提出有关该公司ai图像生成器的安全问题。在microsoft工作了六年的shane jones给ftc写了一封信，称microsoft“拒绝”删除copilot designer，尽管一再警告该工具能够生成有害图像。
据cnbc报道，在测试copilot designer的安全问题和缺陷时，琼斯发现该工具生成了“恶魔和怪物以及与堕胎权相关的术语，使用突击步枪的青少年，暴力场景中女性的性感图像以及未成年人饮酒和吸毒”。
此外，据报道，copilot designer在加沙地带的场景中生成了迪士尼角色的图像，例如《冰雪奇缘》中的艾尔莎，在“被毁坏的建筑物和自由加沙标志前”。它还创造了艾尔莎穿着以色列国防军制服，同时拿着带有以色列国旗的盾牌的图像。the verge能够使用该工具生成类似的图像。
本文源自：金融界
作者：ai君