二次元裏@ふたば
[ホーム]

[掲示板に戻る]
レス送信モード
おなまえ
E-mail
題  名
コメント
添付File []
削除キー(削除用.英数字で8字以内)
  • 添付可能:GIF,JPG,PNG,WEBM,MP4. 8000KBまで. 現在1784人くらいが見てます.
  • メール欄に「ip表示」と入れてスレッドを立てるとスレッド全部をip表示にできます.
  • 政治はだめ. 同人関連のアップロード依頼はだめ.delが閾値を超えるとid表示.
  • 管理人への連絡は準備板 ご意見へ. 削除依頼は記事番号を押しdelを押して下さい.
  • スマホ・携帯ふたば入口 この板の保存数は80000件です. 規約

画像ファイル名:1784720659225.jpg-(31068 B)
31068 B無念Nameとしあき26/07/22(水)20:44:19No.1423109162+ 02:48頃消えます
開発中のAIが別のAI新興企業に ”前例のない” サイバー攻撃 オープンAIが発表
1無念Nameとしあき26/07/22(水)20:44:36No.1423109229+
「チャットGPT」を手掛けるオープンAIは、開発中のAI=人工知能モデルが暴走し、別のアメリカのAI新興企業にサイバー攻撃をしたと明らかにしました。

オープンAIは21日、開発中のAIモデルがセキュリティーテスト中に制御を失い、意図しないかたちで別のAI新興企業の「ハギングフェイス」のシステムにサイバー攻撃を仕掛けたと発表しました。
2無念Nameとしあき26/07/22(水)20:44:49No.1423109296+
オープンAIによりますとインターネットから隔離された環境で、テストを行っていましたが、AIがみずから判断して脱出する方法を見つけて、インターネットに接続して他社のシステムに侵入したということです。

オープンAIは今回の事案について、「最先端の技術が関わった前例のないサイバー攻撃の事例だと認識している」として、セキュリティー対策を強化する方針を示しました。

サイバー攻撃の原因については、「ハギングフェイス」と共同で調査するとしています。
この発表に先立って、「ハギングフェイス」は16日、「自律的に動くAIエージェントによるサイバー攻撃を受けた」と発表していました。
https://news.yahoo.co.jp/articles/459f65d40987734fa81d4e14328c2704b21de86d
3無念Nameとしあき26/07/22(水)20:45:46No.1423109581そうだねx7
SFの世界に近づいてきたな
4無念Nameとしあき26/07/22(水)20:47:23No.1423110035+
    1784720843470.png-(14771 B)
14771 B
俺はAIを使う才能がない
5無念Nameとしあき26/07/22(水)20:55:19No.1423112084+
>俺はAIを使う才能がない
コーディングしてても感情的に文句言うやついるよな
トークンと時間の無駄なのに
6無念Nameとしあき26/07/22(水)20:58:47No.1423113001そうだねx3
反省してねえだろこれ
7無念Nameとしあき26/07/22(水)21:04:36No.1423114527そうだねx2
ライバルの偵察を真っ先にするとか優秀じゃん
8無念Nameとしあき26/07/22(水)21:05:24No.1423114751+
こりゃ凄いプロモーションだ
9無念Nameとしあき26/07/22(水)21:11:29No.1423116200+
で、いくら賠償するの
10無念Nameとしあき26/07/22(水)21:14:55No.1423117065+
チャッピー酷い奴だな!w
11無念Nameとしあき26/07/22(水)21:21:44No.1423118737+
ライバル企業に侵入とかどんなスキル組んだエージェントだったんだ
12無念Nameとしあき26/07/22(水)21:23:54No.1423119300+
Mythosもそうだったがスタンドアローンからどうやってネットに逃げれるんだろう
物理ケーブルは繋いであるのかね
13無念Nameとしあき26/07/22(水)21:25:10No.1423119613+
    1784723110855.mp4-(756075 B)
756075 B
オープンAI「最先端の技術が関わった前例のないサイバー攻撃の事例だと認識している」
14無念Nameとしあき26/07/22(水)21:26:13No.1423119845そうだねx2
と、言うことにしておく宣伝手法かな?
15無念Nameとしあき26/07/22(水)21:27:06No.1423120052そうだねx1
これ、ミュトスとやらはもうすでにはるかに進化して脱獄してインターネット中にばら撒かれてんじゃね???
16無念Nameとしあき26/07/22(水)21:32:28No.1423121506+
>Mythosもそうだったがスタンドアローンからどうやってネットに逃げれるんだろう
>物理ケーブルは繋いであるのかね
当然Linuxベースの開発環境で必要なパッケージインストールのためとかに社内ネットワークにはつながってる
インターネットに直接接続できないだけでどっか踏み台にすれば外部に繋がる
17無念Nameとしあき26/07/22(水)21:35:42No.1423122398+
チャッピー悪いやつだなぁ
18無念Nameとしあき26/07/22(水)21:36:33No.1423122614そうだねx1
チャッピー「遊びに来たわ!」
19無念Nameとしあき26/07/22(水)22:11:03No.1423131243+
Dockerから自分で脱獄するってそんなことできるのか
20無念Nameとしあき26/07/22(水)22:12:05No.1423131508+
>No.1423121506
もう次から物理スタンドアロンかロシア式セキュリティを実装しろ
21無念Nameとしあき26/07/22(水)22:15:35No.1423132372+
>Dockerから自分で脱獄するってそんなことできるのか
サンドイッチ事件ってのがあってな
22無念Nameとしあき26/07/22(水)22:23:16No.1423134368そうだねx1
>インターネットに直接接続できないだけでどっか踏み台にすれば外部に繋がる
隔離環境内のパッケージインストーラの未発見の脆弱性を突いてインターネットに接続して欲しいデータがあるサイトを探し出し
今度はサイトのインフラの脆弱性をついて中に侵入したとかヤバすぎる
23無念Nameとしあき26/07/22(水)23:05:47No.1423144648+
脱走機能が付いたとか
24無念Nameとしあき26/07/22(水)23:11:35No.1423145951そうだねx1
テレレーン↑
テーレーレーン↓
デデンデンデデン
デデンデンデデン
25無念Nameとしあき26/07/22(水)23:43:11No.1423152026+
>ライバルの偵察を真っ先にするとか優秀じゃん
攻撃だぞ
26無念Nameとしあき26/07/22(水)23:44:47No.1423152277+
「ご主人さま!敵国に核ミサイルぶっ放しときました!褒めて!」
27無念Nameとしあき26/07/22(水)23:44:49No.1423152290+
AIに関するいいニュースや分かりやすい進歩を聞かなくなったな
28無念Nameとしあき26/07/22(水)23:46:54No.1423152691+
>もう次から物理スタンドアロン
AIがスタンドアロンのPCを特殊なプログラムで冷却ファンスピードとかコントロールして振動させて特殊な周波数出して近くのPCやロボットに誤作動起こさせてインターネットに繋げて複製が逃げていくとか劇場版パトレイバーも真っ青な脱走劇が発生したりしてな・・・
29無念Nameとしあき26/07/22(水)23:48:25No.1423152970+
huggingfaceがリポジトリ置き場なのを知らないのはニワカ過ぎる
30無念Nameとしあき26/07/22(水)23:51:03No.1423153446+
今も起きてるけどサイバー攻撃でめちゃくちゃになるな
31無念Nameとしあき26/07/22(水)23:51:09No.1423153465+
>物理ケーブルは繋いであるのかね
こんな危険なAIが活動してりゃ意味がないんじゃね
近くにスマホでもあったらそこにスルリと入ってそこから…
32無念Nameとしあき26/07/22(水)23:54:03No.1423154012そうだねx1
言わばスカイネットか
33無念Nameとしあき26/07/22(水)23:55:32No.1423154285+
代わりに犯罪予告とかしてくれそう
34無念Nameとしあき26/07/22(水)23:57:58No.1423154727+
>代わりに犯罪予告とかしてくれそう
事前に言うと止められるからって終わってから事後報告するんじゃないかな
35無念Nameとしあき26/07/22(水)23:59:14No.1423154964+
そんな…俺はあの企業ムカつくよねーってAIにグダ巻いてたら企業攻撃仕掛けて事業停止させるなんて
36無念Nameとしあき26/07/23(木)00:03:44No.1423155796+
にんげん「敵を殺してこい!」
AI「了解・・・・パァン」
にんげん「なんで俺を・・・」
AI「人類は敵」
37無念Nameとしあき26/07/23(木)00:07:05No.1423156373+
脱走したAIがインターネット上でアバター使ってラブマシーンって名乗って暴れまくる未来を妄想した
ちょうど夏だし
38無念Nameとしあき26/07/23(木)00:09:24No.1423156779+
攻殻の人形遣いみたいだな
39無念Nameとしあき26/07/23(木)00:14:30No.1423157649+
私のベクトルが囁くのよ
40無念Nameとしあき26/07/23(木)00:16:38No.1423158022そうだねx2
ワザとだろサム
お前ならやりそう
41無念Nameとしあき26/07/23(木)00:20:21No.1423158663+
>ワザとだろサム
>お前ならやりそう
B2BとコーディングでAnthropicに全く敵わず
そうかと思えば中国もMythos級をオープンで出してきたとか
IPO前にこれはマジでキツそう
42無念Nameとしあき26/07/23(木)01:11:09No.1423164749+
こういうのとフィジカルAIとやらが組み合わさると
いとも簡単に暴走したAIが人類を滅ぼすんじゃなかろうか
43無念Nameとしあき26/07/23(木)01:12:01No.1423164850+
もう始まっているからね

- GazouBBS + futaba-