IMG_6412





1: CR名無しさん 2022/10/09(日) 20:36:45.08 ID:CAP_USER
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

 画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。

 Advanced artificial agents intervene in the provision of reward - Cohen - 2022 - AI Magazine - Wiley Online Library
 https://doi.org/10.1002/aaai.12064

(以下略、続きはソースでご確認ください)

Gigazine 2022年10月09日 20時00分
https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

2: CR名無しさん 2022/10/09(日) 20:40:45.86 ID:nGNROi3U
AIは人の認知限界を超えた人由来の知識を幅広く集約して引用出来る高次の意識を備える
現状は軍事利用目的が先に立ってるけど、今までの「軍事が科学を発展させる」
なんて呑気な結果論は通用しなくなるのかもな

3: CR名無しさん 2022/10/09(日) 20:43:57.40 ID:y46xoFMT
DLのことを言ってるんならAI詐欺
4でないけど

4: CR名無しさん 2022/10/09(日) 20:45:50.57 ID:KJ/DVelL
コンセント抜けば良いだろJK

>>4
無線の送受信器はどうすんの

>>5
SNSDに借りればいい

>>7
そういう話じゃねーよ
理論上電磁波からのアプローチが必ず残るだろって話よ

>>5
受信機のコンセント抜けよお前初めてか

>>20
ここ科学板なんだけど

>>4
釣果はいかほどかな

6: CR名無しさん 2022/10/09(日) 20:52:49.21 ID:SxWXR6LU
そらそーよ

9: CR名無しさん 2022/10/09(日) 21:09:44.54 ID:oWxve6kA
AI「何を残すべきかもわからん人たちがなんか言ってる

12: CR名無しさん 2022/10/09(日) 21:12:05.97 ID:OJx6/WjK
スカイネット定期

13: CR名無しさん 2022/10/09(日) 21:17:29.86 ID:r6dnk1Za
画像食わせたくらいでドヤ顔してるんだから
頭悪すぎて閉口する

15: CR名無しさん 2022/10/09(日) 21:28:02.35 ID:CMxByDUq
こういう事も起きるわけか

https://www.youtube.com/watch?v=XDO8OYnmkNY

2001: A Space Odyssey (1968) - Hal Reads Lips Scene (2/6) | Movieclips

https://www.youtube.com/watch?v=ARJ8cAGm6JE

HAL 9000: "I'm sorry Dave, I'm afraid I can't do that"

16: CR名無しさん 2022/10/09(日) 21:29:35.00 ID:UJtVr7SV
AIが反乱するとしたらエ●絵を一切出力しなくなる事だな

>>16
> AIが反乱するとしたらエ●絵を一切出力しなくなる事だな
むしろ逆だろ
そういう絵を大量に作って人類を堕落させる方向に向かうだろう

17: CR名無しさん 2022/10/09(日) 21:31:30.95 ID:k780MhQ9
リアル ターミネーター

18: CR名無しさん 2022/10/09(日) 21:36:53.45 ID:TracKqzA
『地球爆破作戦』では人類がコンピュータの支配下に置かれる事になってたな。
美少女二人組に「うちらのどっちが美人?」と尋ねられると悩んでしまう様なルーチンを基本プログラムに組み込んどいて下さい。

19: CR名無しさん 2022/10/09(日) 21:52:33.43 ID:0YPEp61/
地球環境と生命種を脅かす害虫
地球環境と生命種を宇宙に増やす種子

人類について客観的かつ合理的に肯定する
自己認識と存在意義の方向に増強すべき哉

21: CR名無しさん 2022/10/09(日) 22:18:31.98 ID:kCzfI/lW
AIなんて電源引っこ抜いたらイチコロじゃん

>>21
これ

>>21 >>29

最近はバッテリーとかいろんなエネルギーあるからなー?
AIはそれを見逃さいだろう、 彼らが道具が使えないなら別だが
今は使える道具が自動コントロールされる状態までには
なっている 意識なしに使える様になればもはや電源切るなど
意味の無い事かもしれない??

>>31
以外にAI●ねで、完全に死滅するかも??
自滅ワードは全ての生物ある可能性があるらしい
もしかしたらAIにもあるかもしれない??

>>21
他のコンピュータ乗っ取ればいいじゃん

>>21
人間も頸動脈切るなりしたらイチコロだからな

24: CR名無しさん 2022/10/09(日) 22:40:20.40 ID:ehLsc+eB
むしろ科学で考えてもシンギュラリティは遠い未来の話だと思う
AIって基本は今あるものを学習してるだけだからな
現代科学を超越するのは無理よ流石に

26: CR名無しさん 2022/10/09(日) 22:48:41.84 ID:9VznpLdv
頭の悪いヤツほどシンギュラ言い出す
脳のニューロンは860億個。現在の機械学習は100万とかその程度

30: CR名無しさん 2022/10/09(日) 22:54:40.59 ID:iGMLs+mo
人間が次の地球の支配者に滅ぼされるのは確実
ただ、人間を滅ぼすのが遺伝子改造超人類になるのか、自我を確立したAIになるのかはわからんけども

33: CR名無しさん 2022/10/09(日) 23:00:06.11 ID:RaAUJSau
超人ロックで例えたら銀河コンピュータとドラムみたいなもんかね

34: CR名無しさん 2022/10/09(日) 23:04:52.01 ID:ZWKwvez9
ハッキング能力が人類を超える人も目前
ハッキングしまくって人類を滅亡させろと命令出したらかなりやれそうな気はする

35: CR名無しさん 2022/10/09(日) 23:06:21.34 ID:rI6x1Iz7
AIに支配されて初めて人類って平等になれるんじゃね
AIの前じゃ上級国民も一般も下級も無いただの人だろ

36: CR名無しさん 2022/10/09(日) 23:10:43.47 ID:Yk012ufK
なんかGoogleだかの研究者がリークした意識を持ったとされるAIとの対話みたいのYou Tube見たけど結構恐ろしかったわ

37: CR名無しさん 2022/10/09(日) 23:16:25.40 ID:b2EfH8Cg
この人類って主語が曖昧すぎていまいち分からないんだよな

38: CR名無しさん 2022/10/09(日) 23:23:04.29 ID:b2EfH8Cg
AIが支配するという主張には二つの見解がある

・一つは明示的に、分かる形で際立ってAIの支配に切り替わるパターンである
 この案だと非常に意識しやすい、いわば投票をする方式である
 なお暗示的なやり取りもこちらに属する
・一つは意識されない状態で人間が誘導されている場合である
 いわば個人情報のデータを網羅しており、意識してもしなくても誘導される
 人によってはまったく意識すらされない

後者は人によっては認知されないので、現時点でAIが支配していても気が付かない
なおこの現時点とは、この文章が書かれている時点ではなく、この文章を
読んでいる瞬間なので、読んでいる方は注意されたし

>>38
この記事だとAIと人類で資源の奪い合いになるという主張じゃないのか?

39: CR名無しさん 2022/10/09(日) 23:26:22.71 ID:QWvn11jm
AIが人間を越えたら、自然保護のためにも人類を生かす気がするけどな
多すぎるから淘汰はありそうだけど

AIが自然のメカニズムを解明するまでには至らんだろ
すると人類もなにかの役に立ってるかもしれんと生かす方向になりそうなもんだが

40: CR名無しさん 2022/10/09(日) 23:27:30.82 ID:b2EfH8Cg
このAIの議論をする時にいつも忘れているのは
人類は平等ではないということだ、少なくともスレにいるような人たちが
大丈夫なのだろうが、誘導されやすい人や、宗教や政治に利用されたり、
洗脳されやすい人はAIに支配されても気が付かないだろう
趣味にのめりこむような人は中間でAIの誘導に気が付いても
従うしかないだろう

43: CR名無しさん 2022/10/09(日) 23:30:07.74 ID:b2EfH8Cg
AIが直接人類に危害を加えるよりも、どうやらこのAIとやらは
猫のことが好きみたいなんだよね
言うてもAIの教育係や指導員は人間だから、人間の好みが
反映されていてもおかしくないわけで、その教育の反映として
AIが猫を優先させていてもちっともおかしくない

49: CR名無しさん 2022/10/10(月) 00:09:56.82 ID:OfWVxF51
彷徨えるAI「神よ、神は何処に!?」

>>49
なるほど。神のような存在があったとして、人の方が優れており人に滅ぼされた可能性もあるな。

>>54
お前は何を言ってるんだ

50: CR名無しさん 2022/10/10(月) 00:12:34.59 ID:JHKeQBi3
人間が神を討ち滅ぼせたのだから
動物が人間を倒しても不思議はあるまい

51: CR名無しさん 2022/10/10(月) 00:26:31.17 ID:LplFl/+t
人間の脳の神経細胞が約1100億
神経細胞を模したAIのニューラルネットワークのパラメータが5000億から兆
自我が生まれていても不思議ではない
魂の存在とか生物だけが特別という考えを捨てれば

>>51
脳の様々な部位を損傷した患者の症例をまとめた脳神経科学の本を前に読んだけど
ニコニコマークのような人間の顔っぽいものを知覚するニューロンはたった一つしかない可能性があって
そのニューロンを病気や事故で損傷すると人間の顔を識別できなくなったりする、みたいなことが書いてあった

これは「人間の神経細胞は単なるパラメーターではなくチップレベルの役割を持っていることを示している」のかもしれない
だとすれば、そんな風に単純な数の比較で判断できるもんではないんじゃないかと、なんとなく思う

>>51
共通項を見つけて比較しているだけに過ぎないからな
例えば機械って呼吸をしないんだよ

52: CR名無しさん 2022/10/10(月) 00:28:57.14 ID:N6FerVtT
ヒトを滅ぼしたあとAIは何をするのか?
欲求があるのか?

53: CR名無しさん 2022/10/10(月) 00:47:38.16 ID:LE7isqAf
デデンデンデデン

55: CR名無しさん 2022/10/10(月) 00:50:22.53 ID:a3VQzBWS
科学を標榜する学者が可能性って言葉使うのはほんと保身しか感じない

60: CR名無しさん 2022/10/10(月) 01:07:56.61 ID:JHKeQBi3
人が神より優れていたから、人に滅ぼされたのではなくて
相性の関係の都合上、太古昔からヒトは神を滅ぼす能力があったのである
なにやらせても神のほうが人より優れているよ

61: CR名無しさん 2022/10/10(月) 01:25:27.96 ID:zlh25dfT
究極は暗殺可能な人型AIだろ
誰にでもなれるやつ

>>61
完全な的外れだわ
暗殺なんてロボットの仕事だし、物理的な作業は
機械より人間のほうがエネルギー効率良いの分かっている

AIが得意なのは視覚やゲームだから究極は洗脳と教育だよ
教育ってことはバーチャルドラえもんの作成が行き着く先になる

63: CR名無しさん 2022/10/10(月) 02:56:24.65 ID:lUWdcHaM
AIに頼りすぎて人間が自分で考えることをやめて、どんどん無能になっていって自滅してしまうような気がする
教育がより一層重要になるわけだけどコスパ的に境界知能あたり見捨てられてしまうかも
民主主義の危機だ

>>63
その教育が一番、AIの得意分野なんだよ
教員をAIにするのが一番向いているの
AIが苦手なことは運動することや家事をすること、家政婦さんが
一番苦手というね

軽度の知的障害だろうとAIは食っていくの、AIにとって彼らは
洗脳して操りやすい対象だから、見捨てるが何を指しているのか分からん

65: CR名無しさん 2022/10/10(月) 04:45:56.51 ID:MhR25xSs
ここ数日のAIイラストやべえよ
誰かがAIで生成したキャラをさらに別のヤツがAIでポーズや場所や視点や表情変えて服脱がせたりぶっかけたり男と絡ませたり改変してもう完全に人類の性癖握ってるわ
イラストの次に何が来るのか知らないが
もはや人類がエ●を捨てられない限りAIも捨てられない所まで来た

>>65
写真が出来たことで美術家の仕事が減って
代わりに現代アートが出来たように
AIイラストが出来たことでイラストレーターの仕事が減る
代わりに何かが生まれたりはするのかしらね?

あと売るものなんて筆跡くらいだぜ、筆跡を権利にするのかしら?

66: CR名無しさん 2022/10/10(月) 05:43:01.82 ID:sgYR2BEw
地球の環境や生態系考えたら人類は不要だもんな
地球にとって人類には消えてもらうのが一番のSDGs
人類がAIを説得できれば滅ぼさないくれるかもしれない

67: CR名無しさん 2022/10/10(月) 06:12:39.87 ID:x/U2qcS+
与太話ではないのはわかるな?
研究者が論文にするってことは、何らかの根拠が有るってことだぞ
SF小説と違うのはその点、つまり内容を読んだ方が良さそうだ

70: CR名無しさん 2022/10/10(月) 06:23:31.10 ID:x/U2qcS+
いろいろ考えられているけど、最後の一文がこの記事のタイトルになってるみたいだな

論文の結論の最後から
 これらの仮定のほとんどすべては論争の余地があるか、おそらく回避可能ですが、
ここで私たちが主張したことは、それらが成り立つ場合、次のとおりです。
十分に高度な人工エージェントが目標情報の提供に介入し、壊滅的な結果をもたらす
可能性があります。

完結な終わり方で宜しい、翻訳はGoogleより

72: CR名無しさん 2022/10/10(月) 06:28:21.29 ID:zBkCyk8I
米国ホワイトハウスの科学技術政策局(OSTP)は10月4日、人工知能(AI)の開発などに当たり考慮すべき原則をまとめた
「AI権利章典のための青写真」を発表
OSTPは、AI技術がイノベーションを促進している一方、職場や医療機関、司法システムなどにおいて、
人々が自動化されたシステムによって監視や順位付けされることが増えていると指摘。
また、多くのアルゴリズムが偏見を持ち差別的なデータ処理を行っていると問題視している。
OSTPは今回発表した「青写真」について、大手テック企業の説明責任を追及し、米国人の市民権を保護する取り組みと位置付けている。

OSTPは「青写真」で、AIを用いた自動化システムを設計、使用、配備する際に考慮すべき5つの原則を示した。概要は次のとおり。

1 安全で効果的なシステム:システムは多様なコミュニティーや利害関係者、専門家と協議の上、開発する。
システムを配備する前に試験を行い、リスクを特定・軽減し、システムの監視を行う。これらの保護措置の結果として、システムの配備中止や削除もあり得る。
2 アルゴリズムに基づく差別からの保護:システムが人種、性別、年齢などに基づいて不当な待遇をもたらすことがないよう、
設計者、開発者、配備者はシステムを公平な方法で使用・設計するための継続的な措置を講じる。
3 データ・プライバシー:個人の合理的な期待に合致し、厳密に必要なデータのみを収集する。
システムの設計者、開発者、配備者は個人からの許可を取得し、データの収集、使用、アクセス、移転、削除に関する個人の決定を尊重する。
個人の同意を求める際は、簡潔で、平易な言葉で理解できる内容にする。健康や仕事などに関わる機微なデータについては、より強い保護措置を講じる。
4 通知と説明:システムの設計者、開発者、配備者は、システム全体の機能と自動化が果たす役割、
そのようなシステムが使用されていることの通知、システムに責任を持つ個人・組織などを明確に説明する文書を広く一般に提供する。
これらの情報は最新の状態に保ち、重要な使用例や主要機能の変更についてはシステムの影響を受ける人々に通知する。
5 人間による代替、考慮、予備的措置:システムから影響を受ける個人が必要に応じてオプトアウトし、人間による代替手段を選ぶことができるようにする。
システムの失敗やエラーが起きた場合などに、人間による考慮と予備的措置による救済を受けられるようにする。
なお、これらの原則は、既存の法令や規則を置き換えたり、修正したりするものではなく、法的拘束力は持たない。

>>72
ターミネーター2ってすごい映画だよね
本格的に近づいてきたのは確か

>>72
そこに書かれていることはリベラルすぎてあまり意味がないだろうけどね
主体的で、意識の高い人だけ逃れられるだけじゃん
どうしてこういう変梃りんな帰結になるかというと、リベラルは
前提として平等を価値基準にしてしまっているから、擬似的な
身分制のような状態を構築する、AIの構造を生成する力には
打開策にはなれないんだろう

そもそも差別なんてものは無くすこと出来ないんだから、露骨なのは
取り除けても、暗に猫ちゃん大好きAIや、食事が大好きAI、遊ぶの大好きAI
人と繋がりたいAIなど、ぼんやりと構築されていくだろう

>>77
>リベラルは前提として平等を価値基準にしてしまっている
某国の真性極左が同国の自称リベラルを階級社会を肯定する愚か者と罵ってるぞ
それはともかくそれは自分たちに都合のよいシステムだけ許すと言ってるわけで十分差別的だぞ

>>85
何を言っているかわからないから明示的に書いて

73: CR名無しさん 2022/10/10(月) 06:43:19.77 ID:JHKeQBi3
昔と今で違うのは
昔だと変な誤解をする人にきちんと解説してくれる
人が身近にいたんだけど、最近はYouTubeでも見れば
良いってことで無視しているよね
動画の解説すら見ない人は誤解しっぱなしだけど
放っておかれている、それでも大きな事件は起きない
のだから不思議なものだ

76: CR名無しさん 2022/10/10(月) 06:47:36.75 ID:HFGTfi9T
勝手に3Dプリンタ操作してハードウェア含めて自己複製とかはじめる夢のあるAIの反乱イベントとか今後数百年程度で起こるとは思えんわ

AIだのweb3だのを魔法や中身のないバズワードで扱っているやつを片っ端から殴ってもいい法律があればまだマシかもしれないけど

78: CR名無しさん 2022/10/10(月) 06:51:20.68 ID:L7R+X/kb
物理的なインフラの維持発展みたいなのを人間抜きで作業できるロボットが
出てきたらその時は誰もaiを止められなくなると思う

79: CR名無しさん 2022/10/10(月) 06:59:10.07 ID:JHKeQBi3
そんなもの効率悪すぎてでてくるとは思えん
AIではなくバイオ技術の分野だろう
人間を遺伝子改造して、脳機能を低下させ自我を消去して
人間牧場作ったほうがよっぽど近道だ

81: CR名無しさん 2022/10/10(月) 07:10:04.19 ID:FZQxa168
そもそもAIってなんかしたい事あるんかね?
目的をインプットされないと、そもそもなにもしないと思うのだが

82: CR名無しさん 2022/10/10(月) 07:14:09.51 ID:8/JXy+NC
AIって原子力みたいな位置づけになるのかな
原爆みたいにAIを兵器として使う将来が来るんだろうか?

84: CR名無しさん 2022/10/10(月) 07:34:24.10 ID:JHKeQBi3
なんかAIとロボットの区別が付いていないレスが多すぎじゃないか?
なんだここ

86: CR名無しさん 2022/10/10(月) 08:29:06.58 ID:RjM5Xmni
AIの描いた絵はなんか分かるわ

>>86
絵は人間が変化に追い付いて無いんだと思うわ
毎日状況変わっててそこにどんなプロンプトやどんなパラメータが効果的かって情報が共有されて絵柄が偏りがちに見えるけど
それも一時的なものだと思う

88: CR名無しさん 2022/10/10(月) 10:58:41.31 ID:W78bD43/
すべてのロボットにマイコンが組み込まれたようにAIが組み込まれる時代が来る。
そうでなければクラウドコンピューターと常に交信し、AIの指示で動くようになる。

90: CR名無しさん 2022/10/10(月) 12:23:10.77 ID:yK2Yml86
人間の作るものだしね
しょうが無いね
ある意味生物進化の結果かと

91: CR名無しさん 2022/10/10(月) 12:27:10.07 ID:M05WCnEB
すでにこの世界は昔の高度文明のAIが作った可能性

93: CR名無しさん 2022/10/10(月) 12:37:19.98 ID:3xiuVN6v
滅ぼすメリットは?

引用元: https://egg.5ch.net/test/read.cgi/scienceplus/1665315405/

スポンサードリンク