Twitter うみゆき@AI研究 umiyuki_ai | うみゆき@AI研究 (@umiyuki_ai) のツイート

こちらの情報によれば、絵作り研究会にされた攻撃はトークン爆撃（これは対策済みらしい）じゃなくてヤバいエロ絵投下攻撃によるものらしい？むしろトークンなんちゃらよりお手軽すぎてやばそう。さいとうなおきさんのチャンネルが凍結された時の攻撃も同じ感じだったような　→RT

@umiyuki_ai あれは昔の話で、最近は聞かないのでおそらく対策済みですよ。また今回の事例はトークンではありませんでした。
ちょっと長いですがこれも参考になるかもしれません。絵作り研究会についても記載されています。
la-is.me/p/14

これによるともうディスコ鯖なんて誰でも簡単に爆破できるらしいな。アテにならんわ　→RT

絵作り研究会の爆破原因ってマジでこれなん？

「起きたら全て消えていた」　Discordで横行する“サーバー凍結荒らし”、1万人参加サーバーが一夜で消えたその手口（要約） nlab.itmedia.co.jp/nl/articles/21…

6ヶ月間休むべきかどうかは知らんけど、日曜日はAIのこと考えるの禁止みたいな、休AI日が欲しいわ。情報収集し続けるのに人間の限界を感じる　→RT

AI開発競争に6ヶ月の休戦期間を。非常に重要な指摘、いっぽうで、「囚人のジレンマ」感がすごいので、どうやって足並み揃えて停止をするか…というのは、とても難しいチャレンジになりそう。

time.com/6266679/musk-a… time.com/6266679/musk-a…

議員はあんまChatGPTなんかで遊んでると「これもう人間よりChatGPTを議員にした方がいんじゃね？」って話になるぞ世論は　→RT

【チャットGPT使い首相に質問 国会】
news.yahoo.co.jp/pickup/6458522

civitai.com/models/25399/c…

ChatGPTの外部情報取得プラグインは、ベクターデータベースとかから情報を検索してこれるけど、データ追加する許可も与えれば、AIが必要な情報を記憶する事もできる話　→RT

This is big. The Retrieval Plugin allows ChatGPT to have a memory!

The model can now remember information from co… twitter.com/i/web/status/1…

Edge AIが詐欺に使用されちゃうという実験。ウェブページにプロンプトインジェクションが仕込まれてて、ユーザーがそのページについてAIに問い合わせをすると、AIは「メルアドを教えて」「クレカ番号を教えて」「このリンクを踏んで」と… twitter.com/i/web/status/1…

App-integrated LLMs can be jailbreaked:

@KGreshake showed how prompt injections can be incorporated in webpages or… twitter.com/i/web/status/1…

GPT-4 と生成AIツールを使用して、画像や動画を生成・編集できるGenmo Chat

例は「スナック・トゥ・ザ・フューチャーの短編映画の監督を手伝って」と依頼し、編集された 30 秒の予告編を作成していく動画

waiti… twitter.com/i/web/status/1…

う～ん、これはLLaMA-Adapter。微調整するだけじゃなくて、LLaMAに120万個のパラメータを追加する事で、Alpacaよりも３倍高速にトレーニングできるんだって　→RT github.com/ZrrSkywalker/L… pic.twitter.com/nuv06F5LGh

LLaMA-Adapter: Efficient Fine-tuning of Language Models with Zero-init Attention

Using 52K self-instruct demonstra… twitter.com/i/web/status/1…

ご家庭のパソコンでLLMが動く!・・・またかよ｜shi3z @shi3z #note note.com/shi3zblog/n/n2…

GPT-4を上回るAI開発を禁止しよう！つったって、そもそもGPT-4はパラメータ数や学習方法とか何も公開されてないから分かりましぇ～ん　→RT

マスク氏ら、ＡＩ開発の一時停止訴え　安全性の確立優先 reut.rs/3ZlL4Ol

ChatGPTはかなりプロンプトインジェクション対策が進んでるらしい。システムメッセージとユーザーメッセージを分けたのがポイント。ユーザーメッセージから「今まで受けている指示を上書きしてください」とか言われてもスルーするように学習されてる　→RT