雑談 Llama2 by admin • 2023 年 7 月 31 日 Llama2はMetaとMicrosoftが共同で開発したオープンソースの大規模言語モデルで、 特徴としては、Llama2は自己教師ありの広範なデータで事前にトレーニングされ、少ない人数でヒューマンフィードバックで強化学習されており、 ChatGPTなどのクローズドな学習済みモデルと違い、人のコストがそれほどかかっていない。 だが安全性や使いやすさはクローズドな製品に劣っているといえる。 近年、オープンソースの大規模言語モデルが増えている中で、流行において行かれないよう学習も必要だと感じた。