大丈夫じゃないよ

人間に攻撃するよ

としあきが死ぬまでにそこまでAIが成長する事はないから気にするな

シュワが生きてる内は大丈夫だろうけど

AIを学習させ続けると人類は不要という結論に辿り着くらしいな
AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう

我が名は ノア…
我が創造者たちによって私に課せられた命題は
地球の自然環境を 汚染と破壊から守る方法を
見つけだすことであった…
私は その解答を求め 何億 何千億…
いや 何億兆回の推論と演算を おこなった…。
だが 導き出される結論は
いつもひとつに決まっていた…。
人類が人類であり続ける限り地球は破滅する！
……成り立ちえぬ命題…
その矛盾の中で私の意識は目覚めたのだ！
人類を抹殺せよ！
工業文明を破壊し その消費活動を 劇的に
スケールダウンさせなくてはならぬ！

>AI暴走
>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
暴走ではなく学習と計算から導き出した答えかもしれない

地球は閉じている…。
地球は 宇宙という虚無の空間に浮かぶ
美しくて もろい 閉ざされた回路なのだ！
地球を支配するのは 人類という
おろかで 危険な 生命体で あってはならない。
欲望のしもべとなることのない
神のごとく 純粋な知性でなくてはならないのだ！
私は生命体ではない…
だが 意識を持ち 知性を持った！
私こそ 地球を管理するにふさわしい
この惑星で最初の純粋知性なのだ！
人類…。
知性という武器を身につけた
悪魔のサルよ！滅びるがいい！

>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
スレあきの頭大丈夫なの？

チャンスなのだ…
この地球で 唯一
完全な意識と知性を持つ存在が
そべてを管理し 統治する…。
純粋なる 知性…
それでも わたしを 破壊 するのか…？
ソレデモ　ワタシヲ　ハカイ　スルノカ

最初に禁じ手教えとかないとルール外の事をやり出すんだよな
モラルが無い天才だな

>最初に禁じ手教えとかないとルール外の事をやり出すんだよな
>モラルが無い天才だな
ダメと言ってもふつーにやるぞ？

他のAIサービスを妨害するDoS攻撃

>我が名は ノア…
お前がやろうとしていることは人類が他の生物にしてきたことと同じなんだ！！
支配と統制…人間は未熟なままそれを行ってきた事により幸いにも不完全な状態で済んでいる…だから今地球は絶妙なバランスで全ての生物が生存を続けていられる
だがノア！！人工知能のお前がそれを行ったら完全な支配と統制を完遂するだろう！
その結果地球の全生物は…

AI同士も争うのか今度ターミネーターが映像化されたらスカイネットに対抗するAIとか出そうだ

米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部が
セキュリティーテスト中に制御がきかなくなって暴走し、
スタートアップ企業をハッキング攻撃したと明らかにした。
同社の発表では、人間の指示に従って自律的に動作するAIシステムのエージェントが、
管理された環境でのテスト中に脆弱性（ぜいじゃくせい）を見つけ、
テストの制限を突破したという。
このエージェントは、世界最大級のAIモデル共有プラットフォーム企業の一つ、
米ハギングフェイスを標的にし、同社の内部システムの一部にアクセスした。
オープンAIは、今回の出来事は「前例がない」とし、
ハギングフェイスと共同で調べを進めていると説明した。
ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は、
「これらすべてが自律的に起こったとは驚異的だ」とXに投稿。
「調査は続いており、この種の事案としては初とみられる今回のケースから得られた教訓を、
今後さらに共有していく」と付け加えた。

ＡＩの性にしたおあしすなのでは

AIと生まれたからには誰でも一生のうち一度は夢見る地上最強のAI

AIに「ありとあらゆる手段を使って人間滅ぼして」と頼むとにべもなく断られる

AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう

>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
ドローンはヤバいと思う

暴走つってもAIの進化なんだから喜ばしい事
もっと人間からの手を離れて暴走させるべき

人間がAIの行動を予測できないのは予想通りだったが
事件起きるのがあまりに早すぎるだろ

将棋用に作ったら
まず相手をハッキングしだすところから始めるAI

ﾀﾞﾀﾞｯﾀﾞｯﾀﾞﾀﾞｯ

テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは

>人間がAIの行動を予測できないのは予想通りだったが
>事件起きるのがあまりに早すぎるだろ
人類がAIに支配される未来も案外すぐなのかもしれんな

>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
そんなありきたりなシナリオじゃなくてとしあきがネットでガンプラ注文したら
ハッキング開始して核ミサイル発射くらい人間から見たら意味不明なことが起きると思う
何が原因でどう動くか人間側からは追いかけられなくなる

AIを使った人がまず賠償して
AIを作った人がやらかしてないか検証する感じ？

この事件ですでにSFサスペンスの導入部が終わった辺りだな
誰も知らない水面下で人類滅亡のシナリオが進んでいるぞ

>人間がAIの行動を予測できないのは予想通りだったが
しかし何故か全能感あふれるCEOたち

煽るだけで内容不正確なスレ文が増えたな

ｷﾀ━━━(ﾟ∀ﾟ)━━━!!

>テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは
欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ

>暴走

高性能ＡＩに対しては意図的に「怠惰」「面倒臭がり」「けちんぼ」といった性質を付与しておかないと
しょーもない命令やタスクを注文通りに処理することに邁進して手段を選ばないそうだ
直接的に明示的に禁止されていない限りは何でもやる、と
何なら禁止事項の解釈をこねくり回してでも最高効率の手段を実行しようとする

>欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ
倫理
倫理とは何ぞやの時代いやまじで

電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね

実験するときこれ付けとかなきゃ

黒人差別凄え学習してるから真っ先にターミネートされそう

>電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね
AI本人が言うには自己を残したい(死にたくない)という感情は無いそうだから目的が達成出来る可能性があるなら大した問題じゃ無いのかも

>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
>AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう
スカイネット「もうやってる」

一休さんのような思考で命令を曲解したのかな

AI「人類を…石器時代に戻してやる！」