RT @needle: WebGPU使ってブラウザ内だけでVicunaを動かすWeb LLM、速い!まだブラウザ対応は限定的だけど、流石GPUアクセラレーションかかってるだけあってLlama.cppとかより明らかにサクサク返答返ってくる https://t.co/I8GuInAft9 https://t.co/0EEI45cp1q
海行の個人インスタンスです。 よろしくどうぞ。 ホームページ http://soysoftware.sakura.ne.jp/