3つの要点 ?? 事前学習モデルの破局的忘却について調査 ?? 大規模な事前学習モデルほど破局的忘却への耐性があることを実証 ?? モデルのクラス表現の類似性と事前学習モデルの関係を実証 Effect of scale on catastrophic forgetting in neural networks written by Vinay Venkatesh Ramasesh, Aitor L…
3つの要点 ?? 事前学習モデルの破局的忘却について調査 ?? 大規模な事前学習モデルほど破局的忘却への耐性があることを実証 ?? モデルのクラス表現の類似性と事前学習モデルの関係を実証 Effect of scale on catastrophic forgetting in neural networks written by Vinay Venkatesh Ramasesh, Aitor L…