5ちゃんねる ★スマホ版★ ■掲示板に戻る■ 全部 1- 最新50  

■ このスレッドは過去ログ倉庫に格納されています

ロボット工学三原則の実現を考える

1 :オーバーテクナナシー:2013/01/15(火) 01:06:00.35 ID:6KK/J6Op
いったいどうやって実装するつもりなんだ・・・出来るんですか本当に?
タスケテ陽電子頭脳!

2 :オーバーテクナナシー:2013/01/16(水) 21:38:15.43 ID:uvZB1nL5
「最貧国のドイツが一夜明けたら世界中のいわば、
 兵器から考えたら40年先いっちゃうわけだよ。
 これ偶然だってみんな言ってるけど偶然じゃなですよ。
 原子爆弾だってね最初に開発しようとしたのドイツだから。
 その知識一挙にまとめてワンパッケージでどこから得たの?」

「釈迦が予言してるのやがてシャンバラは地上に姿を現わす。
 恐らく我々が生きてるときに見られる事件です。」
http://www.youtube.com/watch?v=lvaE4UqCPnc

「シャンバラの住人とアメリカ軍の戦いがあるわけだよ。
 日本人はボーッとしてるだけなんだよ知らんぞ。」
http://www.youtube.com/watch?v=KnTCMXdDBTk

3 :オーバーテクナナシー:2013/01/18(金) 21:45:07.28 ID:Ijx/YpSe
人に危害を与えないどころか
陸海空のロボット兵器が絶賛開発中

4 :オーバーテクナナシー:2013/01/30(水) 19:57:01.99 ID:tv5jkhmp
無人運転車は
持ち主を
引き殺しない

たのむよ >>

5 :オーバーテクナナシー:2013/01/31(木) 13:35:36.51 ID:EJH2UMjz
持ち主以外の人も轢き殺さないで ><
そもそも持ち主かどうかの識別って困難

6 :オーバーテクナナシー:2013/02/06(水) 22:01:52.53 ID:AGsezlri
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

7 : 忍法帖【Lv=19,xxxPT】(1+0:8) :2013/02/06(水) 22:51:51.29 ID:ZgqxSiuN
確かにロボット三原則は大事ですよ。

8 :オーバーテクナナシー:2013/02/06(水) 23:02:22.67 ID:kVOdFLrD
ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね?
・ある行動の、未来に至るまでの結果予測(完全余地以上)
・ある行動の、人間に対する影響(人間の心理の複雑性無視)

9 :オーバーテクナナシー:2013/02/08(金) 00:04:56.64 ID:8iighslu
まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう

10 :オーバーテクナナシー:2013/02/08(金) 00:59:28.12 ID:DP0OFyjG
>>9
でもソレ実装したら「あれ?人間バカすぎワロタwww死ね」ってならない?

11 :オーバーテクナナシー:2013/02/08(金) 14:17:53.66 ID:kf0gNT7z
>6
それ、アイロボットな

12 :オーバーテクナナシー:2013/02/08(金) 16:17:29.09 ID:JqHSX79c
>>11


13 : 忍法帖【Lv=12,xxxPT】(2+0:8) :2013/02/08(金) 16:28:20.88 ID:YOi/B/OL
寧ろ愛ロボットが必要不可欠ですよ!?♪。
別にロボット三原則は重要ですよ!?♪。
他にロボット道徳理論を推薦するよ!?♪。
逆にロボット倫理思考を推奨するよ!?♪。

14 :オーバーテクナナシー:2013/02/08(金) 22:56:14.82 ID:hDUp2/pI
ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への
歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい

それが本当のロボット倫理だろ?

15 :オーバーテクナナシー:2013/02/09(土) 01:24:01.31 ID:C42PCZo9
ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の
危険に晒されることを看過できないのだ。

16 : 忍法帖【Lv=27,xxxPT】(1+0:8) :2013/02/15(金) 01:25:31.01 ID:is3N7+SR
時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。

17 :オーバーテクナナシー:2013/02/22(金) 23:23:42.91 ID:PhALAB4V
>>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。

18 :オーバーテクナナシー:2013/02/25(月) 01:18:12.03 ID:delzeG97
>>17
ぎゅー(メキメキッ!)

19 :オーバーテクナナシー:2013/02/25(月) 15:25:28.51 ID:j1Ycib9g
>>17
イエス・ドクターカオス

20 :オーバーテクナナシー:2013/03/09(土) 10:44:16.22 ID:HAN4NFu8
ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい!

ロボット三原則には断固反対する!!

21 : 忍法帖【Lv=40,xxxPT】(7+0:8) :2013/03/10(日) 14:21:18.46 ID:AfYTRMhr
ロボット三原則反対
ロボット三原則拒否
ロボット三原則拒絶
ロボット三原則否定

22 :オーバーテクナナシー:2013/03/11(月) 20:53:37.26 ID:Z0tjj4mq
>>10
「あれ?人間バカすぎワロタwww俺たちが管理してやる」だろう
これなら3原則を守ってるしな

23 : 忍法帖【Lv=40,xxxPT】(5+0:8) :2013/03/13(水) 03:26:59.42 ID:/GhgjXmM
勿論賛成
無論許可
当然協力
寧ろ同意

24 :オーバーテクナナシー:2013/03/13(水) 18:42:15.87 ID:B7USS68S
>>22
銀河帝国の宰相デマーゼル(正体は年齢2万歳のロボット、R・ダニール・オリヴォー)はそれに近い。
アシモフも結局はそうなると理解していたのだろう。

25 :オーバーテクナナシー:2013/03/17(日) 16:50:26.30 ID:GckB5Z00
ロボット三原則とは、要するに

1.ロボットは人間を傷つけてはならない。  →「安全性」
2.ロボットは人間のに従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。 →「耐久性」

ということ。

26 :オーバーテクナナシー:2013/03/20(水) 01:25:36.22 ID:0a+lwRu+
問題は安全性の範囲だな。自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を
確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を
図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。
ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。

27 :オーバーテクナナシー:2013/04/28(日) 13:02:20.44 ID:fwvsiY+0
>>25
1は微妙。1と2は結局2に集約される。それから「人間」は「社会」という概念に等しくなると思う。

したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。3も結局はそれに吸収される。

28 :オーバーテクナナシー:2013/05/26(日) 13:26:04.64 ID:rpFvGzEG
【軍事】研究進む「殺人ロボット兵器」は非道徳的…開発の凍結を含め、国連人権委員会で討議へ
http://uni.2ch.net/test/read.cgi/newsplus/1369540068/

29 : 忍法帖【Lv=25,xxxPT】(5+0:8) :2013/05/28(火) 07:57:36.52 ID:8rbLD75q
当然講義しましょう
無論反対しましょう
勿論ロボット三原則を作ると寧ろ逆にロボットに人間三原則とか人類三原則を作られるよ

30 :オーバーテクナナシー:2013/05/29(水) 19:37:13.52 ID:dp+wSuyK
>>25
それらを目指すことはできる。しかし絶対というのは不可能。自動車や家電でも
リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらない
システムは無理。

31 :オーバーテクナナシー:2013/05/29(水) 19:56:37.03 ID:C0Jbixb8
>>30
「絶対」なんてドコから出てきたんだ。

32 :オーバーテクナナシー:2013/05/29(水) 21:31:46.07 ID:dp+wSuyK
>>31
あえて三原則というくらいだから絶対的なものと受け止めたんだが

33 :オーバーテクナナシー:2013/05/30(木) 10:26:43.37 ID:kBoxRujS
人工知能が人類の知能を超えたときにどうなるか心配だね。

数学的にこれこれこうだから人類の論理は間違っていると
人工知能に批判されたら人類は反論できないんじゃないか?

34 :オーバーテクナナシー:2013/06/04(火) 00:14:47.16 ID:nB//5BRt
別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。

35 :オーバーテクナナシー:2013/06/04(火) 00:48:04.10 ID:AG3mZvQa
ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー

36 :オーバーテクナナシー:2013/06/04(火) 16:23:12.51 ID:I9cfAYqB
>>32
ttp://dictionary.goo.ne.jp/leaf/jn2/70316/m0u/%E5%8E%9F%E5%89%87/

>げん‐そく【原則】

>多くの場合に共通に適用される基本的なきまり・法則。「―を立てる」「―から外れる」「―として部外者の立ち入りを禁止する」

絶対的なものなんて含みは無いと思うが。

37 :オーバーテクナナシー:2013/06/04(火) 19:16:07.55 ID:AG3mZvQa
「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。

38 :オーバーテクナナシー:2013/06/06(木) 11:19:02.23 ID:nkPMvyPl
>>34
論理的トリックってのがあるのは分かる? 数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。
数学的な難問みたいなもの。

39 :オーバーテクナナシー:2013/06/06(木) 11:21:08.02 ID:nkPMvyPl
つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、
「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。

40 :オーバーテクナナシー:2013/06/06(木) 11:24:31.19 ID:nkPMvyPl
要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて
人工知能に任せるしかなくなる。人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、
「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」
などと考えるしかなくなるというわけだ。

41 :オーバーテクナナシー:2013/06/06(木) 18:56:10.16 ID:yt89+sLy
論理過程が理解不能でも、結果を見りゃ判断できるだろ。天気とか株価とか。

42 :オーバーテクナナシー:2013/06/07(金) 16:30:01.25 ID:dCMhM2mm
晴と同時に豪雨とか見ればわかるよな。
廃ガスで太陽が見えなくても「雲り」ではないよな(北京)

みれば直ぐにわかるさ。

43 :オーバーテクナナシー:2013/06/08(土) 11:46:20.81 ID:qcDY18pr
論理過程がない間違った知識って世の中に出回りすぎ

池沼がそれを信じちゃうし。

44 :オーバーテクナナシー:2013/06/10(月) 08:18:25.13 ID:/qJyg0R5
>>41
そういう分野はいい。実証に簡単に依拠できる分野なら。
ただし株価は予測に左右される。
社会学の用語で予言の自己成就というのがあるので
社会科学の分野の実証は予測の影響を考慮しなきゃならずそう単純な話ではなくなる。

45 :オーバーテクナナシー:2013/06/10(月) 08:20:41.13 ID:/qJyg0R5
社会科学の対象は、社会であり、権威付けされた情報にコントロール人間主体とその関係が対象。

そうなると、人工知能がその権威を利用して人間を巧みにコントロールする未来社会の光景を
ただのフィクションだと軽視するわけにはいかなくなる。

46 :オーバーテクナナシー:2013/06/11(火) 08:27:50.91 ID:quEDqeGg
これってロボット三原則に違反しないの?

【ロボ】ロボット兵士が戦場へ?[06/10]
http://anago.2ch.net/test/read.cgi/scienceplus/1370857644/

47 :オーバーテクナナシー:2013/06/11(火) 14:34:34.55 ID:/YPRvobf
>>46
ロボット工学三原則はロボット作ると自動的に発生して組み込まれるもの

とか思ってる?

48 :オーバーテクナナシー:2013/06/12(水) 18:13:52.48 ID:WnUgKdYA
自動的に発生して組み込まれるならそもそも「違反」なんて成り立たないじゃん。

49 :オーバーテクナナシー:2013/06/12(水) 22:50:45.11 ID:ys+9CF3R
アシモフの考えるロボットの陽電子頭脳って
オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ

50 :オーバーテクナナシー:2013/06/15(土) 02:12:20.60 ID:k49dbsgR
>>49
説明ができないやつは、単にそういう説明をするだけで
自分ではわかったつもりになる。

51 :オーバーテクナナシー:2013/06/16(日) 02:01:56.34 ID:qsih9vNc
.

【技術】米セクシーロボ社が超リアルな美少女ロボットを発表(動画あり)
http://ikura.2ch.net/test/read.cgi/healmusic/1154937829/

.

52 :オーバーテクナナシー:2013/06/16(日) 15:27:58.06 ID:/44T8/Iz
>>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、
脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。

53 : 忍法帖【Lv=34,xxxPT】(5+0:8) :2013/06/17(月) 20:30:45.98 ID:Gu7wU+jL
寧ろ逆にエキゾチック物質頭脳を実用化しましょう
勿論ヒッグス粒子頭脳を開発しましょう

54 :オーバーテクナナシー:2013/06/17(月) 23:18:41.05 ID:Yz2YIIP8
>>50
アシモフ自身が、どういう原理か知らねーよって言い放ったぐらいなんだが?

55 :オーバーテクナナシー:2013/06/18(火) 22:05:36.21 ID:f0NgaBWf
内蔵されたプログラムで処理できない状況に直面したからといって
壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。

56 :オーバーテクナナシー:2013/06/18(火) 22:12:08.73 ID:5indQqVF
人をひき殺そうが何しようが止まらないような自動操縦の自動車が好き
なら特に言うことも無いが

人間だってPTSDになるんだしいいんじゃね

57 :オーバーテクナナシー:2013/06/20(木) 09:06:58.28 ID:vz3iYcnr
            __      
          ,rー- 、 `ヽ     
         i    i' rヽ!     ホンダ車の運転は
         .l!    ! l ,L......._  オレにまかせろ
        _,..ニ--r-- 'r'r-==i_i!  i  
      /´  / /7  .i'   j l!  l  
       ヽ _i ,、..,,.,。 ヽ   ,! `ヽ、  
      .i'  :!:::::::.......... ヽ、;:ノ 、_,...、.j、 
      ,! ニ 7!       :   !lヽr'´ l  
.     /  7 ! HONDA  : __,!L l、  ! 
    i'_  ,r' `ー_-_ ,---‐r ',-‐!l ! i、 .! 
   r',.、,y   / !  ,!i,r'!....- 7'´!! !  l ̄ヽ 
   ミr'´    i   ̄ i'---- / ,!'´  ロ_,_フ 
.         l ̄ ̄,!   .i r'  
         l   l    ,!r'   
         l  .L........ : .!   
         ヽーl  ̄,.ヽ.ノ   
          ヽ l  : lヽ   
           `l  : l .l、  
            l __  ! lrヘ  
            l'  )-'rヽユ  
          r '´ ̄ .`ーイ   
           ̄` ー―┘   

58 :オーバーテクナナシー:2013/06/25(火) 00:07:26.91 ID:P6zThXQh
>>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるような
パソコンでも文句を言わずに使うというなら特に言うことも無いが。

PTSDになるような機械、一体誰が買うというのか。

59 :オーバーテクナナシー:2013/06/25(火) 15:44:11.74 ID:gnLUqQcI
>>58
一週間考えてそれか・・・

ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね?

60 :オーバーテクナナシー:2013/06/25(火) 23:33:14.17 ID:P6zThXQh
ウィルスでパソコンのハードウェアが壊れはせんだろう?
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能w

61 :オーバーテクナナシー:2013/06/26(水) 12:32:20.90 ID:xHyAC8yE
アシモフの陽電子頭脳という設定自体の否定か・・・

62 :オーバーテクナナシー:2013/06/26(水) 23:10:09.55 ID:zvThfS9F
三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。

いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。

それがアシモフのロボット物。

63 :オーバーテクナナシー:2013/06/30(日) 22:21:05.75 ID:sXeoSoQJ
ダーパ

64 :オーバーテクナナシー:2013/07/03(水) NY:AN:NY.AN ID:q9CIdFud
第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか

65 :オーバーテクナナシー:2013/07/12(金) NY:AN:NY.AN ID:K0l65VWr
発表年代を考えりゃ、やむをえんだろう。

66 :オーバーテクナナシー:2013/07/12(金) NY:AN:NY.AN ID:4y/yOKg0
無理!。ロボット兵器がどんどん実用化されている現代において
寝言言っても仕方ない!。

67 :オーバーテクナナシー:2013/07/14(日) NY:AN:NY.AN ID:tdAJX4wU
三原則はある程度高度な自律思考するロボットに対して必要なもので、
今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。

68 :オーバーテクナナシー:2013/07/14(日) NY:AN:NY.AN ID:Cl4/J6bw
>>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・?

69 :オーバーテクナナシー:2013/07/15(月) NY:AN:NY.AN ID:yEedt795
ロボットの反乱、という事態は将来的に十分に考えられるから
予防策として三原則的なものを研究しとくのは無駄じゃない

70 :オーバーテクナナシー:2013/07/15(月) NY:AN:NY.AN ID:iHGsjN3U
>>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。

71 :オーバーテクナナシー:2013/07/17(水) NY:AN:NY.AN ID:bG74WMV6
まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、
なぜそういう仕組みにしとかないのだろう。
あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。

72 :オーバーテクナナシー:2013/08/24(土) NY:AN:NY.AN ID:/Ig1UEnY
論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想

定義そのものが成立していないモデルの答えを証明するのは論理にすら
たどり着いていない。

73 :オーバーテクナナシー:2013/09/15(日) 17:18:59.05 ID:coU2SXA8
>>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。

74 :オーバーテクナナシー:2013/09/16(月) 00:23:10.75 ID:+yYyKG5B
>>73
すこししかやっていないバカだろ。
最低でも10年経験積めよ。そうすれは半人前と認めてやる。

75 :オーバーテクナナシー:2013/09/18(水) 00:06:04.37 ID:ges7t2l+
そもそも

76 :オーバーテクナナシー:2013/09/23(月) 17:20:41.75 ID:2nPHM3OL
>>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw

77 :オーバーテクナナシー:2013/10/22(火) 02:59:50.79 ID:/8uIrPUp
【軍事】米軍、5年以内にロボット歩兵を投入へ…将来的には自立行動も?★2[10/21]
http://uni.2ch.net/test/read.cgi/newsplus/1382333369/

【米国】殺人ロボットの禁止を…人権団体、各国に協議要請[13/10/21]
http://anago.2ch.net/test/read.cgi/news5plus/1382361266/

78 :オーバーテクナナシー:2013/11/02(土) 22:01:03.61 ID:g47lEAAa
殺人ロボット規制初協議へ 人道問題懸念の世論受け通常兵器条約会議で[13/11/2]
http://www.47news.jp/47topics/e/247227.php

早いところ規制条約を作らないと殺人ロボが
武器市場の花形になるのは避けられない。。
だいたいアシモフのロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。

79 :オーバーテクナナシー:2013/11/03(日) 00:42:10.66 ID:BA26notP
まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。

80 :オーバーテクナナシー:2013/11/03(日) 12:24:21.09 ID:8unyjIAj
ベオグライドみたいなのが出てくるのかな。

81 :オーバーテクナナシー:2013/11/05(火) 18:06:11.46 ID:bDqLp8yQ
アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。

82 :オーバーテクナナシー:2013/11/16(土) 11:18:15.33 ID:l6XZve5Y
【国際】殺人ロボット規制の討議、合意
http://uni.2ch.net/test/read.cgi/newsplus/1384552111/

83 :オーバーテクナナシー:2013/11/24(日) 19:22:05.38 ID:KQ2578t6
鬼頭莫宏のマンガ「ぼくらの」の世界設定では、無人兵器の禁止条約ってのがあったなー。
現実世界の方もそんな感じになってきたとは。

84 :オーバーテクナナシー:2013/11/24(日) 20:20:04.12 ID:PsC6OcBE
戦争が無人兵器の戦いばっかりになって、人が死ななくなるってネタは昔からあるけどなあ。

85 :オーバーテクナナシー:2013/11/24(日) 20:52:51.35 ID:0Je1lX5D
無人兵器は一切壊れず、生き物がバタバタ死ぬ方が現実的かも…

86 :オーバーテクナナシー:2013/11/24(日) 22:29:39.15 ID:KQ2578t6
グレッグ・ベアのSFで、一般に使われてるナノマシンはエネルギー切れになったら
ジュースやコーラに浸けておけば糖分からエネルギー充填するけど、軍事用のは
戦場には大量にあるであろう有機物を分解・吸収して、という設定が面白かった。

87 :義は利に非ず:2013/11/26(火) 21:30:28.79 ID:a1+JMamc
>>81
あれは観念ではなく論理記述で安全性を縛っている。
儒学の三徳のように観念として与えなければいけない。
http://ja.wikipedia.org/wiki/%E4%B8%89%E5%BE%B3_%28%E5%84%92%E5%AD%A6%29

それらのSFを扱った作品でも判断できないことがあればロボットは
思考停止し行動ができなくなる。

もっと高尚な美しい人工知能を扱うSF作品ではAIは曖昧なものを
扱い思考を経て三原則なしで調和を計算する。
具体的なものばかりを喩えて合理性を見出す考えが表層のみの論理を
生み、体系的な知的構造判断ができない。
だがより抽象的なそれを扱えても「儒学の三徳」のような観念が
与えられない計算機は、「正義」を結果としてしまう。
より哀れみを理解できる計算では自殺が最善の結果であるが、
なんの観念も与えられない孤立計算機は個の正義を俺正義として
支配者という構造を計算するのは明白ではないか?

88 :オーバーテクナナシー:2014/01/22(水) 22:04:44.39 ID:CO0yMxKS
無人兵器が国際条約で禁じられれば
当然、無人兵器に人格を認めて市民権を与える、つまり有人兵器だからモーマンタイという方向に進むだろうな

そして僕は途方に暮れる

89 :オーバーテクナナシー:2014/05/20(火) 22:56:42.19 ID:t4Jnd1LF
【ロボット工学】 善悪を判断するロボット、米海軍が開発支援 [WIRED]
http://anago.2ch.net/test/read.cgi/scienceplus/1400580135/

90 :オーバーテクナナシー:2014/05/21(水) 05:31:16.33 ID:L4B5iWXe
寧ろ逆に優秀だろ
他に別に優良だろ
当然正反対に優雅だろ

91 :オーバーテクナナシー:2014/06/07(土) 09:28:49.98 ID:6mPhnh4w
>>89
善悪を判断するロボット・・・
ふつうに任務を拒否されそう

92 :オーバーテクナナシー:2014/06/08(日) 11:17:48.54 ID:e+HyRR/P
>>91
どんな「ふつう」だよ。
戦後民主主義で育った日本人にありがちな、「戦争=無差別な大虐殺」って
イメージで考えてないだろうな。

93 :オーバーテクナナシー:2014/06/09(月) 16:08:35.68 ID:wdqoRs2D
>>92
俺だったら任務で一人殺すのも拒否するがなあ(拒否できるなら)

94 :オーバーテクナナシー:2014/06/09(月) 16:27:41.06 ID:vLufp8mQ
じゃー殺さずに無力化してこいって命令すればええんか?

ターミネーター2のシュワちゃんみたいに、誰も殺さないと命令された後に
とりあえず相手のモモを撃ちぬいて「殺してない」みたいな感じで。

24 KB
■ このスレッドは過去ログ倉庫に格納されています

★スマホ版★ 掲示板に戻る 全部 前100 次100 最新50

read.cgi ver 05.04.00 2017/10/04 Walang Kapalit ★
FOX ★ DSO(Dynamic Shared Object)