Pythiaの学習量が300Bトークンで、RedPajamaが現在600Bトークンって考えると、NVidiaが出したモデルが1.1Tトークン学習してるってのはさらに2倍だから相当すごいのかも
海行の個人インスタンスです。 よろしくどうぞ。 ホームページ http://soysoftware.sakura.ne.jp/