当前的大型语言模型如 GPT、LLaMA 等在自然语言处理领域取得了显著进展，能够理解和生成复杂的文本内容。然而，我们是否可以将这种强大的理解和生成能力扩展到多模态数据上呢？这个想法正在逐步变为现实。 最新的多模态大模型 LaVIT 是由快手和北大合作开发的。它通过结合图像和视频数据，使得模型能够轻松理解海量的多媒体内容，并且能够辅助创作图文并茂的内容。 LaVIT 的出现对于多媒体内容的理解和创作具有重要意义。它不仅可以识别图像和视频中的对象、场景和情感，还可以生成与之相关的自然语言描述。这样一来，我们可以更好地利用多模态数据，并且创作出更加生动有趣的图文内容。 LaVIT 的研发是对大型语言模型在多模态领域的一次重要尝试。它有望为多媒体内容的处理和创作带来更多的可能性，并且推动自然语言处理和计算机视觉领域的进一步发展。
LaVIT是一种新型的通用多模态基础模型，它可以像语言模型一样理解和生成视觉内容。它采用了与大型语言模型相似的训练方法，使用自回归方式来预测下一个图像或文本标记。训练完成后，LaVIT可以作为一个通用的多模态接口，无需进一步微调即可执行多模态理解和生成任务。例如，LaVIT可以实现以下功能：
LaVIT是一个强大的文本到图像生成模型，它能够根据给定的文本提示生成高质量、多种纵横比和高美感的图像。与最先进的图像生成模型（如Parti、SDXL和DALLE-3）相比，LaVIT具有相媲美的图像生成能力。它的独特之处在于能够生成多样化的图像，并且保持高质量和高美感。无论是纵向还是横向，LaVIT都能够生成令人满意的图像作品。通过结合先进的技术和高质量的训练数据，LaVIT为用户提供了一个出色的文本到图
在LaVIT中，图像和文本被表示为离散化的token。因此，它可以利用多模态提示进行图像生成，包括文本、图像 文本和图像 图像的组合。这种多模态生成不需要进行任何微调，系统可以根据提示生成相应的图像。
LaVIT是一种图像理解模型，可以读取图像并理解其语义。它能够为输入的图像生成相关的描述，并回答相关的问题。
LaVIT 的模型结构如下图所示，其整个优化过程包括两个阶段：
图：LaVIT 模型的整体架构
阶段 1: 动态视觉分词器
为了能够像自然语言一样理解和生成视觉内容，LaVIT 引入了一个设计良好的视觉分词器，用于将视觉内容（连续信号）转换为像文本一样的 token 序列，就像 LLM 能够理解的外语一样。作者认为，为了实现统一视觉和语言的建模，该视觉分词器 (Tokenizer) 应该具有以下两个特性：
下图是 LaVIT 所提出的视觉分词器结构：
图：(a) 动态视觉 token 生成器 (b) token 合并器
该动态视觉分词器包括 token 选择器和 token 合并器。如图所示， token 选择器用来选择最具信息的图像区块，而 token 合并器则将那些 uninformative 的视觉块的信息压缩到保留下的 token 上，实现对冗余 token 的 merging。整个动态视觉分词器则通过最大限度地重构输入图像的语义进行训练。
Token 选择器
Token 选择器接收 N 个图像区块级的特征作为输入，其目标是评估每个图像区块的重要性并选择信息量最高的区块，以充分代表整个图像的语义。为实现这一目标，采用轻量级模块，由多个 MLP 层组成，用于预测分布 π。通过从分布 π 中采样，生成一个二进制决策 mask，用于指示是否保留相应的图像区块。
Token 合并器
Token 合并器据生成的决策掩码，将 N 个图像区块划分为保留 X_r 和舍弃 X_d 两组。与直接丢弃 X_d 不同，token 合并器可以最大限度地保留输入图像的详细语义。token 合并器由 L 个堆叠的块组成，每个块包括因果自注意力层、交叉注意力层和前馈层。因果自注意力层中， X_r 中的每个 token 只关注其前面的 token，以确保与 LLM 中的文本 token 形式一致。与双向自注意相比，这种策略表现更好。交叉注意力层将保留的 token X_r 作为 query，并根据它们在语义上的相似性合并 X_d 中的 token。
阶段 2: 统一的生成式预训练
经过视觉分词器处理后的视觉 token 与文本 token 相连接形成多模态序列作为训练时的输入。为了区分两种模态，作者在图像 token 序列的开头和结尾插入了特殊 token ：[IMG] 和 [/IMG]，用于表示视觉内容的开始和结束。为了能够生成文本和图像，LaVIT 采用两种图文连接形式：[image, text] 和 [text; image]。
对于这些多模态输入序列，LaVIT 采用统一的、自回归方式来直接最大化每个多模态序列的似然性进行预训练。这样在表示空间和训练方式上的完全统一，有助于 LLM 更好地学习多模态交互和对齐。在预训练完成后，LaVIT 具有感知图像的能力，可以像处理文本一样理解和生成图像。
零样本多模态理解
LaVIT 在图像字幕生成（NoCaps、Flickr30k）和视觉问答（VQAv2、OKVQA、GQA、VizWiz）等零样本多模态理解任务上取得了领先的性能。
表 1 零样本的多模态理解任务评估
零样本多模态生成
在這個實驗中，由於所提出的視覺 tokenizer 能夠將圖像表示為離散化 token，LaVIT 具有透過自回歸生成類似文字的視覺 token 來合成圖像的能力。作者對模型進行了零樣本文本條件下的圖像合成性能的定量評估，比較結果如表 2 所示。
表2 不同模型的零樣本文字到影像產生效能
從表格中可以看出，LaVIT 的表現優於所有其他多模態語言模型。與 Emu 相比，LaVIT 在更小的 LLM 模型上取得了進一步改進，展現了出色的視覺 - 語言對齊能力。此外，LaVIT 在使用更少的訓練資料的情況下，實現了與最先進的文字到影像專家 Parti 可比的性能。
多模態提示影像產生
#LaVIT 能夠在無需進行任何微調的情況下，無縫地接受多種模態組合作為提示，產生相應的圖像，而無需進行任何微調。 LaVIT 產生的圖像能夠準確反映給定多模態提示的風格和語義。而且它可以透過輸入的多模態提示修改原始輸入影像。在沒有額外微調的下游資料的情況下，傳統的影像生成模型如 Stable Diffusion 無法達到這種能力。
多模態影像產生結果的範例
定性分析
如下圖所示，LaVIT 的動態分詞器可以根據圖像內容動態選擇最具資訊量的圖像區塊，學習到的程式碼本來可以產生具有高層語意的視覺編碼。
動態視覺分詞器（左）和學習到的codebook（右）的視覺化
LaVIT 的出現為多模態任務的處理又提供了一種創新範式，透過使用動態視覺分詞器將視覺和語言表示為統一的離散token 表示，繼承了LLM 成功的自回歸生成學習範式。透過在統一生成目標下進行最佳化，LaVIT 可以將圖像視為一種外語，像文字一樣理解和產生它們。這項方法的成功為未來多模態研究的發展方向提供了新的啟示，利用 LLM 強大的推理能力，實現更聰明、更全面的多模態理解和產生打開新的可能性。
以上是圖像化語言：快手、北大多模態大模型與DALLE-3不相上下的詳細內容。更多資訊請關注PHP中文網其他相關文章！
