追記をご容赦ください。
本書はロボットに道徳を植え込む技術的な内容ではありません。 ロボットに「それ」を植え込む前提で、道徳を徹底的、論理的、科学的に分類解析し階層化することで「道徳ってナニ?」を読者にこそ植え込む内容ではないでしょうか。
道徳でいう「人」とは「仲間」のことなんじゃない? この意味だけ読み取っただけでも本書の価値はあると思います。 道徳に関し、「木を見ず森を見た」ような読後感をもちました。
さて、ロボットに本能は実装できるか、、、そんな課題を自分で思い浮かべながら、その回答が与えられるか読みましたが残念ながら、、、。 命題じたいに矛盾がありありました。 それに途中で気づいたのは、ある意味本書のおかげです。 本能とは、生まれもって備わっている能力による生得的な行動様式です。 ロボットは「それ」がないからロボットなんですね。 道徳のアルゴリズムに「それ」を組み込むことは、困難なのではなく、仮定じたいの矛盾により不可能、と考えつきました。 つまり、ロボットは生まれる、のではなく、作られるもの、という命題への自己矛盾があったわけです。 過去の哲学者や思想家の誤りを次々と糾弾し、より正しく検証しながら階層化されてゆく道徳の階層から描かれるアルゴリズムには、「本能」が入り込む余地はない、と頭の片隅で考えながら読み切りました。
「おわりに」で、ちょっと意外な主張らしき?が展開されます。 大事なのは議論ではない、解決すること。 右・左のポジショントークではなく包括的な視野で見通しを。 あとは本書をお読みください。 平易に説明が展開されますので、とくに道徳が教科化される昨今、新しい気づきが与えられることと思います。 経歴を眺めてみただけでお腹いっぱいになりそうな教授です。 文系理系を超越した思考で、次の著作にも期待したいと思います。
2018年5月11日 追記
=============
いつも恐縮ですが、後半読了後のレビュー追加をご容赦ください。 遅読ゆえ、フライング衝動を抑えられません。 ★5つは変わりません。
ロボットに道徳エンジン搭載のため、道徳を構造化し、その判断ソフトを実装しようという、まさに「AIと道徳のフュージョン」。
すごい試みですね。 これだけで★5つです。 何がすごいのか。 道徳概念を「科学的」に解析する発想のみならず、その結果を本当にロボットという形で具体化させようとする実行力が、すごいと思うのです。 道徳を分類、意味づけを推察、そしてそれら一つひとつの妥当性を検証してゆく。 分ける、から、分かるへ、まさに科学的手法で論理的に道徳を科学してゆきます。
ここで、疑問が浮かびます。
前著「東大理系教授が考える道徳のメカニズム」でもレビューさせていただきましたが、「本能」という概念の解析はできない、したがってソフト実装は不可能と考えるからです。 たとえば「なぜ、人を殺してはいけないか」という命題には、本書にもある通り、答えを与えることはできそうです。 死刑や戦争という”肯定ケース”もあるではないかという反論には、事象を分類し、その一つひとつの意味づけで判断基準を構築すれば、理解(というか回避)は可能と思われます。 しかしそこには「本能」というCauseもありそうです。 「本能」は基準で判断しないから本能なのであって、AIがそれを体得するのは、ゼロや無限大の可視化に等しい難問(というか無理矛盾がある)と思われます。 そういった疑問点に鄭教授がどのように気づきを与えてくれるのか否か。 その楽しみを待ちきれずにフライング・レビューしました。 読了後のレビュー追加をお許し下さい。 2018年5月7日
無料のKindleアプリをダウンロードして、スマートフォン、タブレット、またはコンピューターで今すぐKindle本を読むことができます。Kindleデバイスは必要ありません。
ウェブ版Kindleなら、お使いのブラウザですぐにお読みいただけます。
携帯電話のカメラを使用する - 以下のコードをスキャンし、Kindleアプリをダウンロードしてください。
東大教授が挑む AIに「善悪の判断」を教える方法 (扶桑社新書) 新書 – 2018/4/29
鄭 雄一
(著)
「人を殺してはいけない」は“いつも正しい”か?
韓非子、アリストテレスから、アドラー、サンデルまで。ロボットに「道徳」を搭載すべく、古今東西の思想を大胆に横断する!
私たちを待ち受けるロボット社会は「平和的共存」か、それとも――。
東京大学で工学部・医学部教授を兼務する気鋭のAI研究者が、人間と共存するうえで不可欠な「人間のモラル」をロボットに搭載すべく、その構造を工学的に解き明かす!
◎著者からのメッセージ
私は東京大学で、AIに「善悪の判断」を教える研究をしています。
そのためには、まず「人間の道徳がどのような構造で成り立っているか」を明らかにする必要があります。
医工学の考え方を道具にすれば、こうした「抽象的概念のモデル化」が可能です。
本書では、古代から近現代思想まで、古今東西の道徳思想がどのような構造で成り立っているかをフラットに分析・分類し、道徳システムの共通の原理を抽出していきます。
そのうえで、ロボットに搭載できる「道徳エンジン」をつくることが目標です。
さあ、さっそく講義をはじめましょう!
◎全6回の「オープンキャンパス形式」でスラスラ読める!
第1回講義 「人を殺してはいけない」という道徳は普遍的だろうか?
第2回講義 これまでの道徳思想を分類してみよう
第3回講義 そもそも「人を殺してはいけない」の「人」って誰だろう?
第4回講義 道徳をモデル化してみよう
第5回講義 道徳の階層を分類してみよう
第6回講義 道徳エンジンをロボットに搭載してみよう
≪各講義にオリジナルの「演習問題」、巻末に「演習問題のヒント」つき≫
韓非子、アリストテレスから、アドラー、サンデルまで。ロボットに「道徳」を搭載すべく、古今東西の思想を大胆に横断する!
私たちを待ち受けるロボット社会は「平和的共存」か、それとも――。
東京大学で工学部・医学部教授を兼務する気鋭のAI研究者が、人間と共存するうえで不可欠な「人間のモラル」をロボットに搭載すべく、その構造を工学的に解き明かす!
◎著者からのメッセージ
私は東京大学で、AIに「善悪の判断」を教える研究をしています。
そのためには、まず「人間の道徳がどのような構造で成り立っているか」を明らかにする必要があります。
医工学の考え方を道具にすれば、こうした「抽象的概念のモデル化」が可能です。
本書では、古代から近現代思想まで、古今東西の道徳思想がどのような構造で成り立っているかをフラットに分析・分類し、道徳システムの共通の原理を抽出していきます。
そのうえで、ロボットに搭載できる「道徳エンジン」をつくることが目標です。
さあ、さっそく講義をはじめましょう!
◎全6回の「オープンキャンパス形式」でスラスラ読める!
第1回講義 「人を殺してはいけない」という道徳は普遍的だろうか?
第2回講義 これまでの道徳思想を分類してみよう
第3回講義 そもそも「人を殺してはいけない」の「人」って誰だろう?
第4回講義 道徳をモデル化してみよう
第5回講義 道徳の階層を分類してみよう
第6回講義 道徳エンジンをロボットに搭載してみよう
≪各講義にオリジナルの「演習問題」、巻末に「演習問題のヒント」つき≫
- 本の長さ187ページ
- 言語日本語
- 出版社扶桑社
- 発売日2018/4/29
- 寸法10.9 x 1.3 x 17.3 cm
- ISBN-104594079504
- ISBN-13978-4594079505
この商品をチェックした人はこんな商品もチェックしています
ページ 1 以下のうち 1 最初から観るページ 1 以下のうち 1
商品の説明
著者について
鄭 雄一(てい ゆういち、 Chung Ung-il)
医工学者/道徳哲学者。昭和39年東京都新宿区戸山生まれ。平成元年に東京大学医学部医学科を卒業、内科研修医および医員として勤めた後に、東京大学大学院医学系研究科に入学。在学中の平成7年に米国マサチューセッツ総合病院に留学し、ハーバード大学医学部講師、助教授を勤めた後、平成13年に東京大学に戻り、平成19年より東京大学大学院工学系研究科バイオエンジニアリング専攻教授となる。平成28年より東京大学大学院医学系研究科疾患生命工学センター教授を兼務。
専門は、骨・軟骨の生物学、再生医学、バイマテリアル工学。医学と工学を融合することで、生体に働きかけて治療や再生を促す高機能デバイスの開発に従事している。東京大学センター・オブ・イノベーションでは、「自分で守る健康社会」という将来ビジョンのもと、10以上の産学協創プロジェクトを推進し、「入院を外来に、外来を家庭に、家庭で健康に」をテーマに、健康状態を可視化し行動変容を促すことで、健康医療イノベーションを興そうと試みている。イノベーションと道徳の関わりについても研究しており、道徳エンジンを人工知能やロボットに搭載することも試みている。
著書:
『東大理系教授が考える道徳のメカニズム』KKベストセラーズ(2013)
『[図解]骨博士が教える『老いない体』のつくり方 実践篇』ワック(2011)
医工学者/道徳哲学者。昭和39年東京都新宿区戸山生まれ。平成元年に東京大学医学部医学科を卒業、内科研修医および医員として勤めた後に、東京大学大学院医学系研究科に入学。在学中の平成7年に米国マサチューセッツ総合病院に留学し、ハーバード大学医学部講師、助教授を勤めた後、平成13年に東京大学に戻り、平成19年より東京大学大学院工学系研究科バイオエンジニアリング専攻教授となる。平成28年より東京大学大学院医学系研究科疾患生命工学センター教授を兼務。
専門は、骨・軟骨の生物学、再生医学、バイマテリアル工学。医学と工学を融合することで、生体に働きかけて治療や再生を促す高機能デバイスの開発に従事している。東京大学センター・オブ・イノベーションでは、「自分で守る健康社会」という将来ビジョンのもと、10以上の産学協創プロジェクトを推進し、「入院を外来に、外来を家庭に、家庭で健康に」をテーマに、健康状態を可視化し行動変容を促すことで、健康医療イノベーションを興そうと試みている。イノベーションと道徳の関わりについても研究しており、道徳エンジンを人工知能やロボットに搭載することも試みている。
著書:
『東大理系教授が考える道徳のメカニズム』KKベストセラーズ(2013)
『[図解]骨博士が教える『老いない体』のつくり方 実践篇』ワック(2011)
登録情報
- 出版社 : 扶桑社 (2018/4/29)
- 発売日 : 2018/4/29
- 言語 : 日本語
- 新書 : 187ページ
- ISBN-10 : 4594079504
- ISBN-13 : 978-4594079505
- 寸法 : 10.9 x 1.3 x 17.3 cm
- Amazon 売れ筋ランキング: - 481,324位本 (本の売れ筋ランキングを見る)
- - 244位扶桑社新書
- - 270位メカトロ・ロボット工学
- - 1,748位科学読み物 (本)
- カスタマーレビュー:
著者について
著者をフォローして、新作のアップデートや改善されたおすすめを入手してください。
著者の本をもっと発見したり、よく似た著者を見つけたり、著者のブログを読んだりしましょう
-
トップレビュー
上位レビュー、対象国: 日本
レビューのフィルタリング中に問題が発生しました。後でもう一度試してください。
2018年5月7日に日本でレビュー済み
Amazonで購入
2018年5月9日に日本でレビュー済み
Amazonで購入
読むのを待ち切れず、一気に読み切りました。
著者は、東京大学大学院工学系バイオエンジニアリング専攻の鄭雄一教授。
私はこれまで、いくつかのAIに関するSF映画を観、また興味本位にAI関連の本もそれなりに読んでおり、AIが当たり前に存在する新世界に強い好奇心を持つ多くの地球市民の一人です。
そしてこの本のテーマは、そんな我が知的興奮を強く促すもので、本書の題名とサブタイトルに惹かれ、私は新たなオモチャを得た子どものように、ワクワクしながら読み進みました。
この本のテーマは AIの道徳の問題。AIが急速に進化いていく中で、最重要テーマの一つです。 この本の第一印象、この手の本ではなかなか実現できない「分かりやすさ」が特長だと感じました。
難しい分野の話ですが、とても分かりやすい言葉と論理展開で書いてある。だから読み終わって、達成感と納得感がありました。 この本の中で今後のAI、ロボット等と人間が共存する世界で重要な「道徳」について哲学も交え取り扱い、新たな概念が示されています。
著者は、有名なアシモフの3原則に触れ、その進化版についても提示していて、それは今後進化していくロボットが守るべき新たな原則です。
そしてサブタイトルにあるように、「人を殺してはいけない」は”いつも正しい”か? という深い問いに答え、また、誰でも耳にした事があるだろう、既に我々が耳馴染んでいるマズローの「欲求五段階説」の限界に触れ、ある「新たなの分類体系」を提示しています。 その中で著者は、この後の時代の「最高レベルの欲」として、『共通の掟さえ守れば、異質・未知なものでも仲間になれると認識し、多様性社会を作り、オープン・イノベーションを興したいという欲』を挙げています。
また『こういう欲を持つ人たちの特長として、「すべての人間のために尽くしたい」「多様な専門や背景を持つ人々とともに、未知の発見をしたり、新たな事業を興したい」などと考える傾向がある。「寛容性・多様性」とは、この欲が発露された結果に他ならないでしょう。』と言っています。
このところ多くの世界の英智が提唱している内容と合致していると感じました。 私は微力ながら、ある意味では鄭先生の研究の下流、後工程に当たるパートに携わっているという立場で、現実に起こせるソーシャルな活動やプロジェクトの創造、それによる新たな教育に、仲間と共に力を注いでいきたいと思っている人間です。
本書の最終部分で著者は、家庭に広がっていくロボットに「道徳次元4」の最高レベルの道徳エンジンを載せる事で人間に影響を及ぼそうという戦略を提示していますが、それは読んでのお楽しみ。
今後のAI時代の新世界を統合的に思考し、本当の意味での人類とAI、さらに地球上の生物全体とAIやロボットの共存、その相互協力による平和と繁栄の実現の道への原点・基盤となるべき、AIの道徳問題。 鄭教授、そして同研究室のメンバーの方々、協力企業等の新時代を切り開かんとする有志チームの皆さんが、この分野で世界の先駆者となり、この本を契機にこのテーマで日本が、世界が注目し世界をリードすることとなり、それが直接的に社会に活用され世に影響される時が来ることを心から祈念しています。
そしてできるだけ多くの方々にこの本に触れていただき、世で議論が深まり広がっていく事を願っております。ME
著者は、東京大学大学院工学系バイオエンジニアリング専攻の鄭雄一教授。
私はこれまで、いくつかのAIに関するSF映画を観、また興味本位にAI関連の本もそれなりに読んでおり、AIが当たり前に存在する新世界に強い好奇心を持つ多くの地球市民の一人です。
そしてこの本のテーマは、そんな我が知的興奮を強く促すもので、本書の題名とサブタイトルに惹かれ、私は新たなオモチャを得た子どものように、ワクワクしながら読み進みました。
この本のテーマは AIの道徳の問題。AIが急速に進化いていく中で、最重要テーマの一つです。 この本の第一印象、この手の本ではなかなか実現できない「分かりやすさ」が特長だと感じました。
難しい分野の話ですが、とても分かりやすい言葉と論理展開で書いてある。だから読み終わって、達成感と納得感がありました。 この本の中で今後のAI、ロボット等と人間が共存する世界で重要な「道徳」について哲学も交え取り扱い、新たな概念が示されています。
著者は、有名なアシモフの3原則に触れ、その進化版についても提示していて、それは今後進化していくロボットが守るべき新たな原則です。
そしてサブタイトルにあるように、「人を殺してはいけない」は”いつも正しい”か? という深い問いに答え、また、誰でも耳にした事があるだろう、既に我々が耳馴染んでいるマズローの「欲求五段階説」の限界に触れ、ある「新たなの分類体系」を提示しています。 その中で著者は、この後の時代の「最高レベルの欲」として、『共通の掟さえ守れば、異質・未知なものでも仲間になれると認識し、多様性社会を作り、オープン・イノベーションを興したいという欲』を挙げています。
また『こういう欲を持つ人たちの特長として、「すべての人間のために尽くしたい」「多様な専門や背景を持つ人々とともに、未知の発見をしたり、新たな事業を興したい」などと考える傾向がある。「寛容性・多様性」とは、この欲が発露された結果に他ならないでしょう。』と言っています。
このところ多くの世界の英智が提唱している内容と合致していると感じました。 私は微力ながら、ある意味では鄭先生の研究の下流、後工程に当たるパートに携わっているという立場で、現実に起こせるソーシャルな活動やプロジェクトの創造、それによる新たな教育に、仲間と共に力を注いでいきたいと思っている人間です。
本書の最終部分で著者は、家庭に広がっていくロボットに「道徳次元4」の最高レベルの道徳エンジンを載せる事で人間に影響を及ぼそうという戦略を提示していますが、それは読んでのお楽しみ。
今後のAI時代の新世界を統合的に思考し、本当の意味での人類とAI、さらに地球上の生物全体とAIやロボットの共存、その相互協力による平和と繁栄の実現の道への原点・基盤となるべき、AIの道徳問題。 鄭教授、そして同研究室のメンバーの方々、協力企業等の新時代を切り開かんとする有志チームの皆さんが、この分野で世界の先駆者となり、この本を契機にこのテーマで日本が、世界が注目し世界をリードすることとなり、それが直接的に社会に活用され世に影響される時が来ることを心から祈念しています。
そしてできるだけ多くの方々にこの本に触れていただき、世で議論が深まり広がっていく事を願っております。ME
2019年1月24日に日本でレビュー済み
Amazonで購入
私たち人間が倫理をどう扱っているのかを紐解きながらロボットに搭載する道徳エンジンの設計を試みる
2019年5月30日に日本でレビュー済み
Amazonで購入
道徳の最大公約数を整理。ダイバーシティ、異文化や異民族への寛容の精神にもつながる。
2018年6月18日に日本でレビュー済み
Amazonで購入
本書を読む前に、友人たちとタイトルだけを見て話す機会があった。
AIに「善悪の判断」を理解させるにはどうすれば良いか?
そこで出た結論は、まずは刑法のように人間の行為の罪を規定している「法律を覚えさせること」であった。
その後、本書を読むと、道徳に関する考察が繰り返され、また論理が明確であり、素直に驚きを覚えた。
本書は、AIに「善悪の判断」を教えるために「何が起きても、ロボットが善悪の判断を自分でできる仕組みをつくる必要がある」(p.14)として「道徳エンジン」の搭載を企図することから始まり、東西の道徳(デカルトなど)について思想を分類し、その結果のモデル化を試みている。
一見すると難解そうに思えるが、論理を理解する上で必要な言葉が「まとめ」の形で何度も繰り返されており、立ち止まることなく最後まで読める工夫がされている。
また、結論である「道徳アルゴリズムの理想的構成」(p.170)を見開き1ページに掲載していることから、さらに分かりやすい。
以上のことから、この本を読むことは、道徳の構造を考える機会が得られるだけでなく、論文の作成に必要となる①題の設定、②仮説の設定、③検証及び④結論を再確認する上でも効果的な一冊である。
AIに「善悪の判断」を理解させるにはどうすれば良いか?
そこで出た結論は、まずは刑法のように人間の行為の罪を規定している「法律を覚えさせること」であった。
その後、本書を読むと、道徳に関する考察が繰り返され、また論理が明確であり、素直に驚きを覚えた。
本書は、AIに「善悪の判断」を教えるために「何が起きても、ロボットが善悪の判断を自分でできる仕組みをつくる必要がある」(p.14)として「道徳エンジン」の搭載を企図することから始まり、東西の道徳(デカルトなど)について思想を分類し、その結果のモデル化を試みている。
一見すると難解そうに思えるが、論理を理解する上で必要な言葉が「まとめ」の形で何度も繰り返されており、立ち止まることなく最後まで読める工夫がされている。
また、結論である「道徳アルゴリズムの理想的構成」(p.170)を見開き1ページに掲載していることから、さらに分かりやすい。
以上のことから、この本を読むことは、道徳の構造を考える機会が得られるだけでなく、論文の作成に必要となる①題の設定、②仮説の設定、③検証及び④結論を再確認する上でも効果的な一冊である。
2018年5月12日に日本でレビュー済み
Amazonで購入
核心をついている部分があり、そこは非常に面白い。ただ学者によく見られるような、結論をだらだらと先延ばしにして「結局何が言いたいの」と思わされる構成になっているのが残念。
また最後の提案の有用性はその通りと思いつつ、結論が概念レベルで終わっており、現実に実現するにあたってどういう課題が出て、どう解決していくか。実験した結果や今後の展開等のが全く具体的に提示されていないのがこの本の価値を下げてしまっている。
また最後の提案の有用性はその通りと思いつつ、結論が概念レベルで終わっており、現実に実現するにあたってどういう課題が出て、どう解決していくか。実験した結果や今後の展開等のが全く具体的に提示されていないのがこの本の価値を下げてしまっている。
2020年5月11日に日本でレビュー済み
Amazonで購入
気に入ったこと。哲学を工学的観点で紐解いていくところが非常にわかりやすいのと、AIの道徳エンジンを作成する上で非常に重要なことが書いてあること。
2018年5月13日に日本でレビュー済み
Amazonで購入
前の著書の「道徳のメカニズム」の内容を、さらにまとめて、簡単なことばで人間の道徳の原理を抽出している。しかも、そこから、道徳を4つの段階に分類して、その構造も明らかにしている。この本の内容をどう受け止めるか自体が、その人の心の広さや多様性に対応していて、実は道徳の段階の計測になっている可能性があり、それに気づくとある意味おそろしい。