海行（うみゆき） @umiyuki@mstdn.soysoftware.net
RT @sho_furu: 2,250万人の開発者が使うソフトウェア開発プラットフォーム replit が1,500億円の評価額でユニコーンになった🦄
各種LLMのAPIを簡単に使えて本番反映までできる
・プロジェクト数 2 億 3500 万
・外部アクセス月間 250 億
へえ。WizardLMでは、人間の代わりにGPT-4かなんかに命令チューニングデータをいい感じに量産させて、そのデータで学習させたというブツらしい →RT https://t.co/AiQgrIZI2d
RT @JagersbergKnut: WizardLM: An Instruction-following LLM Using Evol-Instruct
uuh
"WizardLM-7B outperforms ChatGPT in the high-complexity instructions...
Evol-Instruct is a novel method using LLMs instead of humans to automatically mass-produce open-domain instructions"
RT @syoyo: とりあえず Markdown 文書の前処理(たぶん nodejs でやったほうが楽)が必要なことがわかりました... 😌
おお～、RWKVの14Bを微調整！LoRAとはいえ14Bモデルを微調整するのは相当なスペックがいると思ってたけど、VRAM32GB消費くらいという説と、83GBまでいっちゃうという説があるのね →RT
RT @shi3z: RWKV14Bを日本語AlpacaデータセットでLoRAして公開しました(ご家庭で動く!?)｜shi3z @shi3z #note https://t.co/MAZgjPTWwk
僕も英語サイトとか読めないけど、DeepLのWeb翻訳使ってる。ChromeのWeb翻訳だってタダで十分使える。画像については右クリして「Googleで画像を検索」すれば翻訳できる。使え
おお～、ChatGPT Business！現状のChatGPTですでに履歴オフする事で学習に使われない所まで譲歩してるけど、数ヶ月以内に出てくるChatGPT Businessではさらに30日間のデータ保管まで無くせそうだね！官公庁や企業はこれ使えばいいでしょ。それでもまだUIが日本語じゃないとヤダとか言うのか？ →RT
RT @akinoriosamura: ChatGPTのチャット履歴と学習を無効にできる機能を追加。
ただし、不正行為を監視するために必要な場合には確認される。
また、ChatGPT Businessを数ヶ月以内に提供する予定。
専門家や企業向けにデータをより詳細に管理するためのもので、データは学習に使われない。
https://t.co/aCeCtgI8EQ https://t.co/AdytzJNLzV https://t.co/PKXMZCAiFs
RT @sama: you can now disable chat history (and training) in ChatGPT, and we will offer ChatGPT Business in the coming months.
RT @itmedia_news: ChatGPTに“シークレットモード”機能追加 企業向けプランも計画中
https://t.co/7pDiaP4Acw
RT @forasteran: DeepFloyd IFのコードだけ公開された！
🔧https://t.co/6Kf0C4GSPV
モデルはブログやQA等出た後に"a couple of days"(数日?)で公開になるって👏
文字が書けるフォトリア系の噂のモデル
プロンプトで書いてほしい文字を唱える奴
超解像アプスケもできるん楽しみ
#DeepFloydIF
https://t.co/59V9dKT0Yb https://t.co/Vi45G3UX7B
やっぱ命令チューニングの微調整では指示に沿う能力は上がるけど、知識自体はどうもならんのかなあ。日本語でしっかり事前トレーニングしたモデルだとどうだろう →RT
RT @kun1em0n: RWKV-7Bを日本語のDolly Alpacaの67KでLoRA 70エポックしてみたけど3Bのときと結果はあまり変わりませんでした。うーん.... https://t.co/dcJYEsEfOE
RT @kun1em0n: 昨晩、日本語DollyデータセットでLoRAしたRWKV-3B (80エポック)。CerebrasGPTと同様、語学力は付いたけど知識がさっぱり(データが15Kだけってのもあると思うけど) まだ試してないけど日本語事前学習しているrinnaが一番良かったりするのかもしれない.... https://t.co/u30xVCUDLH
RT @forasteran: ControlNet 1.1.09.から「Control Mode」が登場
以前Guess Modeと言われた機能が改善された
⚖️Balanced＝1.0と同じ(オフ)
🧲"ControlNet is more important" CN重視
→呪文無くても生成できるｗ
🧲"My prompt is more important" 呪文重視
ControlNet使う時は試す価値あり
https://t.co/e9NUSji0vs https://t.co/pBdddZO036
Deep Floyd IFが出たんかあ。新しい画像AIが作られるのは素晴らしいけど、そのたびに諸々のツールやらControlNetやらが何も無いゼロの環境にリセットされるのがしんどいね →RT
RT @kuronagirai: https://t.co/RrV1vrXPRA
Deep Floyd IFが出たものの、画像生成AIのベースモデル開発者たちからの反応はイマイチっぽい…？
ライセンスが非商用であることと
SAIL鯖の開発者はパラメーターを増やしまくった拡散モデルより優れてることに懐疑的…
WDは今LLMに熱中だし、SAILは動画生成に集中してる
シュートしたらコケたりするのがかわいい。ヨチヨチしてる感じがなんかペンギン的なかわいさ →RT
RT @1amageek: やべぇ！！
数年後にはオーバーヘッドキック決めてそうやな。 https://t.co/tIYsznkHNP
