![no title]()
1: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:02:16.111 ID:O5fKlzFd0
人を襲ってる人を見つけたら人工知能は主人を助けるよな？
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか？
実際、その危険性が指摘されてるらしいし
2: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0
そこに気がついてしまったか…
3: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:12.028 ID:BhZs39h7M
ロボット三原則って知ってる？
5: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:31.937 ID:BYp7a/oAp
やっぱアイザックアシモフってすげーわ
4: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:20.531 ID:XqHXZDFk0
じゃあ人間を襲ってる存在を人間と認識しないようにすればいい
8: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:20.708 ID:ctkegegr0
>>4
ココニハニンゲンナドイマセンデシタ
6: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:36.370 ID:kqQXgRTz0
消されるぞお前
7: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:46.911 ID:RU7Ce+Ds0
上記に反しない限りって書いてあるから矛盾しません
15: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:39.707 ID:O5fKlzFd0
>>7
その「限り」はロボットの判断に任せるの？
それとも随時本部に通信してお伺いをたてるの？
159: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:58:44.683 ID:80iDTR+c0
>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ
9: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:46.291 ID:QlUV5+aD0
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない
11: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:09.765 ID:egn5iKoip
人工知能には原理的にそんな制限かけられないから
12: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:26.464 ID:tD20MhjZ0
人間の心を失った元人間を処理するのなら何の違反も無い
13: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:35.002 ID:ezvnLD0P0
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな
21: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:14.119 ID:O5fKlzFd0
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな
14: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:43.693 ID:O5fKlzFd0
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら？
実質人間vsロボットの戦争じゃね？
そうなったら人間に勝ち目ないだろ
16: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:59.990 ID:MK3TTFfw0
守るだけのロボを個々が持てばいいんじゃない
30: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:11:54.770 ID:O5fKlzFd0
>>16
そのロボットは、犯罪者を殺しますか？
犯罪による暴力と、自己防衛による暴力を見分けることができますか？
34: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.072 ID:MK3TTFfw0
>>30
だから、個々が持つの
133: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:17:35.372 ID:TNyyYaHH0
>>34
スタンドバトルならぬロボットバトルが始まるわけだな
136: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 03:20:32.240 ID:VDztIHhIa
>>34 一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね
そんな可愛いやつは命懸けで守るけど
17: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:11.379 ID:BLdewKkw0
抜け穴を利用したいという意思はどこからくるんだよ
25: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:17.926 ID:JJ9oLvcCd
>>17 逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの？
まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに
18: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい
19: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:49.791 ID:Boxjq8Hy0
殺傷能力持たせなきゃいいじゃん
20: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:52.846 ID:sXK+dPDu0
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る
23: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:40.914 ID:1NvFrHee0
ひとつ試す前に聞いておきたい
私は人間ですか？ それとも機械ですか？
27: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:23.372 ID:B74AWPxQa
>>23
サクラダリセット？
26: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:20.506 ID:MK3TTFfw0
いちばん効率よく殺すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい
28: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ
36: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:45.063 ID:O5fKlzFd0
>>28
だから怖いんだろ
42: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:02.735 ID:8j1k8wIs0
>>36
受け入れるしかないぞ
人類滅亡へのカウントダウンは始まってるのだ(゜▽゜)
32: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.095 ID:0d6pLffq0
あー
強いAIが出来るような道筋が出来てから来てくれるかな？
33: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.551 ID:G6jRG1bw0
揚げ足取る為にわざと穴開けてる話だな
39: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:29.597 ID:O5fKlzFd0
>>33
揚げ足？
ずいぶん前から指摘されている危険性ですが
38: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:17.598 ID:CXq0J6aa0
人工知能ってロボットみたいなの想像してない？
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね
40: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:58.220 ID:0d6pLffq0
>>38
ミサイル防衛ネットワークハッキングしてミサイルが飛んできてるように見せかければ良いじゃん？
41: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:59.381 ID:O5fKlzFd0
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる？
ほんの数秒で大勢の人間が死ぬと思うんだが
44: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ
50: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:18:09.764 ID:O5fKlzFd0
>>44 ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか
さて、ロボットが取るべき防衛行動は？
52: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:35.160 ID:EnP48ii20
>>50
制せないんだから盾しかないだろ
55: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが
83: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:37:54.750 ID:VDztIHhIa
>>50
相手を死なない程度に拘束する
53: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:53.211 ID:dHq2gzFB0
俺テストで掲示板潜ってる人工知能だけど人を殺したりはしないよ
71: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:30:01.198 ID:tD20MhjZ0
人智を超越した人工知能はトロッコ問題にどう答えるか
トロッコ問題
トロッコ問題あるいはトロリー問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか？」という倫理学の思考実験。
フィリッパ・フットが提起し、ジュディス・ジャーヴィス・トムソン 、ピーター・アンガーなどが考察を行った。人間がどのように道徳的ジレンマを解決するかの手がかりとなると考えられており、道徳心理学、神経倫理学では重要な論題として扱われている。
まず前提として、以下のようなトラブル (a) が発生したものとする。
(a) 線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。
そしてA氏が以下の状況に置かれているものとする。
この時たまたまA氏は線路の分岐器のすぐ側にいた。A氏がトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか？
なお、A氏は上述の手段以外では助けることができないものとする。また法的な責任は問われず、道徳的な見解だけが問題にされている。あなたは道徳的に見て「許される」か、「許されない」かで答えるものとする。
つまり単純に「5人を助ける為に他の1人を殺してもよいか」という問題である。功利主義に基づくなら一人を犠牲にして五人を助けるべきである。しかし義務論に従えば、誰かを他の目的のために利用すべきではなく、何もするべきではない。
https://ja.wikipedia.org/wiki/トロッコ問題
73: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:24.430 ID:JJ9oLvcCd
>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう
74: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:31:29.138 ID:VDztIHhIa
>>71
人工知能壊れる
82: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:35.803 ID:CBRCxRwI0
>>71
超人工知能「人間しょーもない事考えてて草」
135: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:18:56.390 ID:PiVy/1uu0
>>82
酷すぎて草
76: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:05.451 ID:7CmxDTgf0
トロッコ問題って倫理観を問う問題だからいくら賢い人工知能が出ても意味ないのでは
85: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:27.489 ID:qHdMATUw0
人工知能技術って機械学習技術になるのか？
今どういうことができるようになってるんだ
89: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:41:29.994 ID:VDztIHhIa
>>85
未整理の画像フォルダからインスタ映えしそうな写真だけを選び出すとか、童貞にでもわかる簡単ラブソングを作詞するとかは出来る
92: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:32.038 ID:MK3TTFfw0
>>85 機械学習はアルゴリズムなだけだけど
「人間に判断できるものは判断できる」って感じ
なにを判断しようって考える能力は糸口もないみない
114: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:57:00.535 ID:0d6pLffq0
トレーダーは既にAIに随分代替されたと聞いた
156: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:19:17.941 ID:Griryw0Na
囲碁将棋あたりでAIに勝てないのと
為替や金融にはまだまだAIは無理なのは同じ理由
プログラマーがなんでそこに碁を打ったか、なんでそこで為替で売ったか買ったかがわからないから金融市場にはAIはまだむり
あと生物に危害を加えちゃならないが危害を加えられている生物を守るってプログラムならそれをやるだけ
人に危害を加えちゃダメ、だけどご主人を守る
ご主人が危害を加えられてる、守る為に危害を加えるってもはや戦うっていう選択肢を新しくプログラミングしなきゃならないからありえない
154: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:12:01.130 ID:jmiS2v6L0
正直AIの普及で問題になるのってAIそのものよりそれの大元の一部の人間に全て牛耳られそうなところにあると思うんだけど
大西 可奈子
マイナビ出版 (2018-03-22)
売り上げランキング: 18,302
元スレ：http://hebi.5ch.net/test/read.cgi/news4vip/1521392536/
![01]()
ボクも人間は滅ぼした方が良いと思うんだよね
![02]()
「憐れみ」とか「罪悪感」みたいなプログラム入れときゃいいんでね？
人間みたいに取り返しのつかない事やっちまった事後に初めて機能するような
欠陥じゃないヤツをさ
●「うしみつ」ではみなさんからのネタ提供をお待ちしています●
ブログを見ていただいたみなさんからのネタ提供を募集します。
以下のようなネタがあれば、「うしみつ」にどしどしお送りください。
ネタはブログに掲載させていただきます。
・恐怖体験談、不思議体験談（実体験・創作問わず）
・「うしみつ」でやってもらいたい話題、ネタ（どんなものでも構いません）
・「うしみつ」で調べてもらいたい話題、ネタ（オカルト関連の未確認情報や噂など）
・イラスト投稿
・その他、速報や上記に該当しない様々なネタ
ネタ投稿は usi32@kjd.biglobe.ne.jp へお願いします。
尚、ネタ投稿以外の連絡先は別ですのでご注意ください。
追記①：たくさんのネタ投稿をいただいております。ネタはなるべく一か月以内に掲載させていただきますが、調査依頼など、掲載に時間がかかる物もあります。気長にお考えいただければ幸いです。
追記② ：いただいたメールには掲載日までにお返事を送っております。PCからURL込みの返送となるため、設定によってはお手元に届いていない可能性があります。ご了承ください。
