BERTとは BERT とは、 B idirectional E ncoder R epresentations from T ransformers の略で、「Transformerによる双方向のエンコード表現」と訳され、2018年10月にGoogleのJacob Devlinらの論文で発表された自然言語処理モデルです。