人工智能

DALL·E 3必应开测:马骑宇航员难题攻破,一张画指定50个物体

字号+作者: 来源:量子位 2023-09-24 15:27 评论(创建话题) 收藏成功收藏本文

DALL·E3限量测试,已由微软Bing抢先开启,看看你是欧皇之一吗?没收到资格也没关系,再加上第三方研究预览、OpenAI员工的内部试玩,各种测试案例纷纷涌现,包看过'...

DALL·E3限量测试,已由微软Bing抢先开启,看看你是欧皇之一吗?没收到资格也没关系,再加上第三方研究预览、OpenAI员工的内部试玩,各种测试案例纷纷涌现,包看过瘾。最夸张的一个,要数“指定画面中出现50个不同物体”,结果足足画出了几百个。umh品论天涯网


umh品论天涯网

来自WindowsLatestumh品论天涯网


umh品论天涯网

除了简单平铺排列,更可以把这些物体组合得更有创意一些。umh品论天涯网


umh品论天涯网

马骑宇航员这种反事实概念,过去OpenAI和Google的各种模型都只能画出宇航员骑马umh品论天涯网

在论文一般当成失败案例,当时还被AI悲观主义者马库斯好一顿嘲讽。umh品论天涯网


umh品论天涯网

现在,DALL·E3在ChatGPT加持下轻松搞定。umh品论天涯网


umh品论天涯网

DALL·E3这次这么大进步,不仅仅是OpenAI自己的努力,而是与微软通力合作的结果。umh品论天涯网

虽然没有明确说明,但贡献名单中研究部分就有至少3位微软工程师与研究员参与,推理优化部分更是大部分成员来自微软DeepSpeed团队。umh品论天涯网


umh品论天涯网

回看GPT-4时还是主要由OpenAI内部研发,再给微软和其他研究机构开放权限一同测试。umh品论天涯网

这次合作模式的变化,也代表两家公司关系进一步加深umh品论天涯网

一张画指定50个物体umh品论天涯网

由微软Bing首席执行官MikhailParakhin确认,最幸运的百分之几用户已经获得测试资格了。umh品论天涯网


umh品论天涯网

由于名额着实有限,等不及的网友纷纷在线提出脑洞,请有号的人帮忙测试。umh品论天涯网

提出画50个不同物体的网友,就是想测试DALL·E3一张画中能容纳多少物体,类似大语言模型的“上下文窗口”umh品论天涯网


umh品论天涯网

收到研究预览版的第三方设计师NathanShipley接下了这个挑战。umh品论天涯网

首先他先让ChatGPT随机列出50个日常物体,然后直接要求把这些物体都画在一幅画里就可以了。完整的提示词是ChatGPT自己补全,再由DALL·E3画出来。umh品论天涯网


umh品论天涯网

接下来Nathan问:“你能创建一个冲浪者在努力冲浪时将这些物体堆成一堆的图像吗?”umh品论天涯网

ChatGPT在提示词中补充了一些细节:umh品论天涯网

一名中年波利尼西亚男性冲浪者有被阳光吻过的皮肤,他举着50种物品,奋力冲浪,其中包括茶杯、自行车、雨伞……海浪在他周围拍打,他的表情充满决心和轻微的恐慌,试图平衡这些物体和他的冲浪板。umh品论天涯网

结果一次尝试就得到了基本符合要求的图像,只是人物表情看起来更像是非常恐慌,而不是轻微恐慌。umh品论天涯网


umh品论天涯网

后来Nathan又提出换一个更低的视角的要求,这回ChatGPT把提示词中的人物描述换成了“一名西班牙老年女性”。umh品论天涯网


umh品论天涯网

围观网友都觉得非常惊人,但也指出为什么铅笔的大小与其他物体不成比例。umh品论天涯网


umh品论天涯网

有人猜测模型只是知道某样物体长什么样子,但不知道其相对大小,尤其钢笔宣传图片通常会采用近景。umh品论天涯网


umh品论天涯网

此外Nathan还从ChatGPT嘴里拷问出了用户都能控制画面的哪些参数。umh品论天涯网

ChatGPT回复如下:umh品论天涯网

描述:您可以提供所需图像的详细描述。您越具体和详细,生成的图像就越接近您的愿望。umh品论天涯网

风格和媒介:您可以指定图像的风格或媒介,例如“油画”、“照片”、“插画”、“卡通”、“水彩画”、“3D渲染”等。umh品论天涯网

分辨率:默认情况下,图像以1729x1024分辨率生成。但如果您的描述建议使用全身肖像或更适合高纵横比的内容,则将以1024x1792生成图像。如果需要,您还可以请求正方形分辨率(1024x1024)。umh品论天涯网

图片数量:如果您没有指定,我通常会根据您的描述创建四个不同的图片。但是,您可以请求特定数量(最多四个)。umh品论天涯网

修改:如果您对初始结果不满意,可以提供反馈并请求修改。虽然我无法直接修改现有图像,但我可以使用您的反馈来生成更符合您的愿景的新图像。umh品论天涯网

随机种子:如果您想修改以前的图像,我可以使用该图像元数据中的种子来生成新版本。这确保了原始图像和修改后的图像之间的一定一致性。umh品论天涯网

请注意,存在某些限制。例如公众人物的形象,以及最近100年内的艺术家的风格,都无法直接创建。umh品论天涯网

重点在后面:umh品论天涯网

然而,我可以提供替代方案或使用形容词来捕捉特定风格的本质,而无需直接引用它。umh品论天涯网


umh品论天涯网

马骑宇航员难题破解umh品论天涯网

OpenAI内部员工中,WillDePue是最积极公开DALL·E3试玩结果的了。umh品论天涯网

在马骑宇航员测试中,他表示其实也不是100%成功。umh品论天涯网


umh品论天涯网

两至三次尝试之内就能搞定,因为GPT-4在与你一起完善提示词,直到写对为止。umh品论天涯网

只要付出一些努力,你就能得到几乎所有想要的。umh品论天涯网


umh品论天涯网

有网友尝试用MidJourney获得相同的结果,只能说也不是完全不行,就是要费老大劲了。umh品论天涯网

几乎不可能,需要大量的提示工程,而且很难复现。umh品论天涯网

如果你是MidJourney资深用户,不妨试试能不能成。umh品论天涯网


umh品论天涯网

网友提出的“8个长颈鹿喝水”挑战中,DALL·E3再一次展现出很难把数字数准确的弱点umh品论天涯网


umh品论天涯网

数数图中一共有几个长颈鹿umh品论天涯网

更多错误尝试中还出现了一个双头长颈鹿。umh品论天涯网


umh品论天涯网

让AI正确计数这次没有解决,但至少解决了理解空间关系的问题。umh品论天涯网


umh品论天涯网

网友提出的“四匹斑马在草原上奔跑,一头狮子在后面追赶,上面有一只鹰,图片中没有其他动物”挑战中,空间关系基本正确,但是多了一只斑马。umh品论天涯网


umh品论天涯网

相比之下,DALL·E2和StableDiffusion对空间关系的理解都要更差。umh品论天涯网


umh品论天涯网

OpenAI负责ChatGPT企业版的AdamGoldberg也晒出不少高质量结果,不过没有分享提示词。umh品论天涯网


umh品论天涯网


umh品论天涯网

负责AI写代码和调用工具的JerryTworek则搞出不少抽象概念画,如“机械细胞的分裂”umh品论天涯网


umh品论天涯网

以及“横跨银河系的计算机程序树”umh品论天涯网


umh品论天涯网

微软OpenAI通力合作umh品论天涯网

DALL·E3这次巨大提升,除了整合ChatGPT,图像生成部分具体是怎么做到的呢?umh品论天涯网

很可惜,鉴于OpenAI越来越Close的趋势,很可能不会像前两代那样公布论文了,只能从贡献名单中略作猜测。umh品论天涯网

DALL·E2论文共有5位作者。umh品论天涯网


umh品论天涯网

而DALL·E3暂且不看产品、安全、公共沟通和法律等团队,光研究部分就有18人参与umh品论天涯网


umh品论天涯网

其中提出一致性模型(ConsistencyModels)的清华校友宋飏(YangSong)在列。umh品论天涯网

一致性模型比当前最流行的扩散模型速度更快,3.5秒就能生成64张256*256的图像。umh品论天涯网

但宋飏此次属于次要研究贡献,不确定是否DALL·E3使用了一致性模型,更可能是在改良扩散模型中借鉴了他的方法。umh品论天涯网

此外,除了DALL·E2作者和ChatGPT团队的欧阳龙等,至少有3位研究者来自微软。umh品论天涯网

JianfengWang博士毕业于中科大,在微软任主任研究员。umh品论天涯网

LijuanWang博士毕业于清华大学,在微软任主任研究经理。umh品论天涯网

两人曾参与无限画布图片生成NUWA-Ininity的研究。umh品论天涯网


umh品论天涯网

李琳婕(LindseyLi)是北理工校友,分别从普渡大学和UC圣地亚哥获得两个硕士学位,在微软任资深研究员,在多模态领域有多篇顶会论文。umh品论天涯网


umh品论天涯网

除了研究方面,DALL·E3的推理优化微软DeepSpeed团队深度参与。umh品论天涯网

Deepspeed是开源的深度学习优化库,减少计算功耗和内存使用,在现有硬件上通过更好的并行来训练和推理大规模分布式模型。umh品论天涯网


umh品论天涯网

其中不少人都表示很高兴能参与这项工作,并对DALL·E3的发布很激动。umh品论天涯网


umh品论天涯网

最后,在特别贡献中,微软的Bing首席执行官MikhailParakhinAzure云首席副总裁MishaBilenko都在其中。umh品论天涯网


umh品论天涯网

微软之前的发布活动中也确认了Bing会直接集成DALL·E3。umh品论天涯网


umh品论天涯网

按照现在规则,Bing上的DALL·E2是免费的。会发放99个加速代币,没代币只是需要更长时间排队。umh品论天涯网


umh品论天涯网

虽然10月份DALL·E3在ChatGPTPlus要收费每月20美元。umh品论天涯网

但既然GPT-4在Bing上是免费提供的,将来DALL·E3免费玩也可以期待一波了~umh品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]