OpenAI周二发布了其迄今为止最先进的视频生成模型Sora 2，以及一款独立社交应用Sora，用户可以通过一个名为“cameos”（客串）的功能将自己嵌入人工智能创建的场景中。该公司将此次发布描述为人工智能创造逼真视频能力的重大飞跃。
OpenAI首席执行官萨姆·奥特曼在社交平台X上发长文，在问这款新产品摇旗呐喊的同时，也谨慎地提出了四项原则，以防止这一技术被滥用。
以下为奥特曼的帖子全文：
我们正在推出一款名为Sora的新应用。这是一款名为Sora 2的新模型和一款可以轻松创建、分享和观看视频的新产品的结合。
这对我们中的许多人来说就像“ChatGPT的创造力”的时刻，感觉很有趣，很新鲜。将想法快速转化为结果是一件很棒的事情，新的社会动态也会随之出现。
创造力可能会经历一次寒武纪大爆发，与此同时，艺术和娱乐的质量也会大幅提高。即使是在玩Sora的早期，我们中的许多人也会惊讶地发现游戏环境突然变得如此开放。
特别是，将你自己和你的朋友放入视频的能力——团队在角色一致性上非常努力——是我们在测试期间非常喜欢的功能，对我们中的许多人来说，这是一种令人惊讶的引人注目的新联系方式。
我们也感到一些不安。社交媒体对世界有一些好的影响，但也有一些不好的影响。我们知道像这样的服务会变得多么令人上瘾，我们可以想象它可以被用来欺凌的许多方式。
很容易想象AI视频生成的退化情况，最终导致我们所有人都被吸入强化学习优化的泔水饲料中。团队花了很多心思和精力，试图弄清楚如何制作出一款不会落入陷阱的令人愉快的产品，并提出了许多有希望的想法。我们会在产品的早期尝试不同的方法。
除了我们已经采取的缓解措施（包括防止某人在深度伪造中滥用他人的肖像，防止令人不安或非法内容的保护措施，定期检查Sora如何影响用户的情绪和健康等），我们确信如果Sora变得非常成功，我们将发现我们需要做的新事情。为了帮助引导我们多做好事，少做坏事，我们为这个产品制定了一些原则：
*优化长期用户满意度。回顾过去的6个月，大多数用户应该会觉得使用Sora会让他们的生活变得更好。如果情况不是这样，我们将做出重大改变（如果我们不能解决它，我们将停止提供服务）。
*鼓励用户控制feed。你应该能够告诉Sora你想要什么——你想看能让你更放松的视频，还是更有活力的视频？还是只看符合特定兴趣的视频？或者只是在一段时间内？最终，随着我们技术的进步，你将可以用自然语言详细地告诉Sora你想要什么。（然而，家长对青少年的控制包括选择退出个性化订阅的能力，以及关闭短信等其他功能。）
*优先创造。我们希望每个人都能轻松地参与到创造过程中；我们相信人是天生的创造者，创造对我们的满足感很重要。
*帮助用户实现长期目标。我们想要了解用户的真正目标，并帮助他们实现这些目标。如果你想和你的朋友有更多的联系，我们会尽力帮助你。如果你想健身，我们可以给你看一些能激励你的健身内容。如果你想创业，我们想帮助教你所需的技能。如果你真的只是想要毁灭卷轴和生气，那么好吧，我们会帮助你（虽然我们希望用户花时间使用应用程序，如果他们认为这是值得的，我们不想在这对他们意味着什么家长式的）。
还没有评论，来说两句吧...