模型直接生成的樣本也具有明顯的個(gè)體特征，包含著可以被清晰識(shí)別的目標(biāo)個(gè)體，這說(shuō)明模型的確理解了圖像中所包含的空間信息和不同目標(biāo)的特征。

從語(yǔ)言跨界圖像的GPT

在語(yǔ)言領(lǐng)域，像GPT－2和BERT等依賴于詞預(yù)測(cè)的非監(jiān)督學(xué)習(xí)算法非常成功，在多個(gè)語(yǔ)言相關(guān)任務(wù)上取得了最好的表現(xiàn)。其中一個(gè)重要的原因在于下游任務(wù)（數(shù)據(jù)）是以自然的文本方式呈現(xiàn)的：答案往往伴隨著問(wèn)題（問(wèn)答任務(wù)），文章往往伴隨著總結(jié)（文本摘要任務(wù)）。而像素序列針對(duì)其所屬的圖像卻沒(méi)有非常明顯的標(biāo)簽。

即使沒(méi)有這種隱式的監(jiān)督，GPT－2在圖像任務(wù)上成功的原因也不難發(fā)現(xiàn)：一個(gè)足夠大的transformer模型，用于訓(xùn)練針對(duì)下一個(gè)像素的預(yù)測(cè)，最終能夠?qū)W會(huì)生成豐富的可以清晰辨認(rèn)的目標(biāo)樣本。

當(dāng)模型可以有效合成圖像時(shí)，研究人員開始思考是不是可以通過(guò)“基于合成的分析”來(lái)嘗試?yán)�用模型識(shí)別目標(biāo)的分類。先前很多生成模型都受到了這一觀點(diǎn)的啟發(fā)，最近的BigBiGAN就是一個(gè)典型的例子，可以產(chǎn)生非常有效的樣本和特征。在這一研究中，研究人員首先展示了更好的生成模型可以實(shí)現(xiàn)更強(qiáng)的分類表現(xiàn)，隨后通過(guò)對(duì)GPT－2生成能力的優(yōu)化，在很多情況下實(shí)現(xiàn)了最為優(yōu)異的分類表現(xiàn)，為基于合成的分析思想提供了更多的佐證。

邁向通用非監(jiān)督學(xué)習(xí)

生成序列模型可以被視為一種通用的非監(jiān)督學(xué)習(xí)算法：由于所有的數(shù)據(jù)類型都可以被標(biāo)示為字節(jié)序列，無(wú)需額外的改動(dòng)，transformer可以被直接應(yīng)用于任何類型的數(shù)據(jù)形式上。為了驗(yàn)證這種算法的通用性，研究人員將原先用于自然語(yǔ)言處理的GPT－2的架構(gòu)直接應(yīng)用于圖像生成任務(wù)上，故意放棄了對(duì)圖像先驗(yàn)知識(shí)的手動(dòng)編碼（包括卷積、相關(guān)注意力、稀疏注意力、2D位置嵌入等等）。

但隨之而來(lái)的是，如果要實(shí)現(xiàn)具有競(jìng)爭(zhēng)力的非監(jiān)督學(xué)習(xí)性能，就需要更多的計(jì)算量來(lái)保證�；�于對(duì)比的方法在從圖像生成高質(zhì)量特征的過(guò)程中的確具有更高的計(jì)算效率，然而在與最好的無(wú)監(jiān)督算法比較過(guò)程中，基于對(duì)領(lǐng)域知識(shí)的手工編碼和計(jì)算需求間可以找到有效的平衡。在沒(méi)有領(lǐng)域知識(shí)的全新領(lǐng)域，大規(guī)模的計(jì)算也許是解決問(wèn)題值得一試的有效手段。