面向CNN和Transformer的自注意力機制自適應性提示學習

摘要： 隨著大規(guī)模預訓練模型對視覺領域中的一般性數(shù)據(jù)的深入研究，當將其應用于特定下游任務時，若模型只訓練分類頭方法則極其依賴于預訓練模型且效果一般；而全面微調預訓練模型也因模型參數(shù)過大而變得不切實際；另外如VPT等視覺提示學習方法在圖像數(shù)據(jù)集具有很大的數(shù)據(jù)多樣性時，每個數(shù)據(jù)集的通用提示在向原始預訓練數(shù)據(jù)分布轉變時會帶來極大的挑戰(zhàn).基于以上的種種挑戰(zhàn)，本文提出一種新的提示學習方法，即在輸... （共7頁）