旧金山(美联社)——OpenAI公开发布了其新的人工智能,但该公司不会让大多数用户描述人物,因为它会监控滥用模式。
OpenAI旗舰产品ChatGPT高级版本的用户现在可以使用Sora根据书面命令即时创建人工智能生成的视频。其中最受关注的例子是高质量的视频片段,比如相扑熊和喝咖啡的猫。
但该公司在一篇博客文章中表示,只有一小部分受邀的测试人员可以使用Sora制作人类视频,因为OpenAI正在努力“解决对滥用肖像和深度伪造的担忧”。
像Sora这样的视频被认为是一种节省制作新的娱乐和营销视频成本的方式,但也引起了人们的担忧,即它们很容易在政治和其他方面模仿真人。
OpenAI表示,它正在屏蔽含有裸体内容的内容,首要任务是防止最有害的使用,包括儿童性虐待材料和深度色情内容。
这款备受期待的产品在周一发布后得到了如此多的回应,以至于OpenAI暂时停止了新账户的创建。
该公司的网页称:“我们目前流量很大,暂时无法创建Sora账户。”
今年早些时候,OpenAI首次推出了Sora,但表示希望在向公众发布新工具之前,先与艺术家、政策制定者和其他人接触。
该公司因使用受版权保护的写作作品来训练ChatGPT而遭到一些作家和《纽约时报》的起诉,但该公司尚未披露用于训练Sora的图像和视频来源。
————
美联社和OpenAI允许OpenAI访问美联社的部分文本档案。