BERTの特徴として大きくは次の３つです。

・高精度な言語処理

・高い汎用性

・少ないデータでも始められます。

BERTは双方向性のTransFormerによって学習するため、従来の手法にくらべ精度が向上しました。

それを実現しているのがMasked Language Maskedです。

BERTの得意な機能の一つである文章分類のため、数々の文章に分類用のラベルを、文章の後尾につけて、そのラベル付きの文章を読み込ませて機械学習させました。

・Chat GPT３との比較では

・オープン使用であるBERTに対して、Chat GPT３はマイクロソフト社が独占使用権を持っている。（現在許可された人のみ試用の権利が与えられている。）

・BERTは高性能パソコンで機械学習が可能であるが、Chat GPT３はAI専用の高性能大型コンピューターの能力が必要。

・学習させるデータ件数

　BERTは大体、50万語～1000万語。Chat GPT３はインターネット上の3億語以上

・BERTは第3次AIブームの最強の自然言語人工知能、Chat GPT３は第4次AIブームを作り出した。