Follow

RT @needle: WebGPU使ってブラウザ内だけでVicunaを動かすWeb LLM、速い!まだブラウザ対応は限定的だけど、流石GPUアクセラレーションかかってるだけあってLlama.cppとかより明らかにサクサク返答返ってくる t.co/I8GuInAft9 t.co/0EEI45cp1q

Sign in to participate in the conversation
Mastodon

海行の個人インスタンスです。
よろしくどうぞ。

ホームページ
http://soysoftware.sakura.ne.jp/