ConsiStory – 英伟达推出的无需训练的文本生成图像框架

详细介绍

ConsiStory是什么：

ConsiStory是由NVIDIA和特拉维夫大学共同开发的一种创新的文本到图像生成技术。它能够在不需要额外训练的情况下，利用预训练的文本到图像模型生成一系列图像，这些图像在遵循不同文本提示的同时，保持主题的一致性。

主要特点：

无需训练：ConsiStory不需要对预训练模型进行优化或个性化训练。一致性主题生成：支持生成在不同文本提示下保持相同主题身份的图像系列。跨帧一致性：通过内部激活共享确保主题特征的一致性。布局多样性：使用注意力丢弃和查询特征混合技术增加图像多样性。兼容性：兼容现有图像编辑工具，例如ControlNet。快速生成：生成速度快，比现有技术快约20倍。

主要功能：

主题定位：确定图像中包含主题的区域。主题驱动的共享注意力：扩展自注意力机制以共享主题特征。布局多样性增强：通过混合特征和注意力丢弃增强多样性。特征注入：使用DIFT特征对齐和混合不同图像间的特征。锚定图像和可重用主题：选择锚定图像以提高计算效率和生成质量。多主题一致性生成：支持在单个图像中保持多个主题的一致性。

使用示例：

生成一致的图像集：给定一系列文本提示，生成包含一致主题的图像集。与ControlNet集成：结合ConsiStory和ControlNet生成具有特定姿势的一致性角色。训练免费个性化：使用编辑友好的反演技术，实现训练免费的个性化。种子变化：通过改变起始噪声生成不同的一致图像集。种族多样性：在提示中提供不同种族群体，生成属于这些群体的一致主题。

总结：

ConsiStory提供了一种快速、高效且训练无关的方法来生成一致性图像，特别适用于需要保持主题一致性的应用场景。它不仅能够处理单主题场景，还能够应对多主题挑战，并与现有的图像编辑工具集成，提供了一个强大的图像生成解决方案。