タンパク質における「言語」を紐解く～ProteinBERT～ （）

3つの要点 ?? タンパク質言語モデルの事前学習タスクに従来のMLMタスクに加えてGOアノテーションを予測するタスクを追加した ?? 局所的な特徴と全体的な特徴を分離して扱うことにより、従来のニューラルネットワークよりも小さく高速なアーキテクチャを提案した ?? 構造予測や翻訳後修飾予測を含むベン…