トロッコ問題+自動運転|功利主義?義務論?見れば分かります!【未来予測 シンギュラリティ】人工知能 AI
Summary
TLDRこの動画スクリプトは、人工知能と自動運転技術の発展に伴う倫理的問題であるトロッコ問題を考察しています。問題の背景や哲学的な議論、自動運転技術の進歩、そしてAIがこの難題にどのように対処するかが説明されています。AIの進化がもたらす未来の可能性や、都市の発展についても触れられており、視聴者がAI技術と倫理的課題に深く関心を持つように誘導しています。
Takeaways
- 🚂 トロッコ問題は、1967年に哲学者フィリッパ・フットが提起した倫理的問題で、AIの進化と共に注目されています。
- 🤖 AI技術の発展が急速であることから、トロッコ問題のような倫理的な問題に対するAIの答えが問われています。
- 🚗 自動運転技術は6段階のレベルに分けられ、レベル3からが自動運転と定義されています。
- 🌐 世界中で自動運転の開発や試験走行が行われており、日本でもレベル4の自動運転シャトルバスが運用されています。
- 🚕 米国では、自動運転レベル4のタクシーサービスが運用されており、AIによる運転は事故の減少につながると考えられています。
- 💻 トロッコ問題において、AIは情報解析を行う際の判断に焦点が当てられます。
- 🛑 制御不能を避けるためには、AIの品質と信頼性の確保、ハードウェアの品質向上が重要です。
- 📉 自動運転者はネットワークに接続され、渋滞情報を得ながら全体をコントロールすることができます。
- 🔄 トロッコ問題の解決に向けて、AIは各方向の人数、速度、衝突の衝撃度を計算し、正確な判断を下すことが求められます。
- 💭 理主義と義務論の対立する考え方が、トロッコ問題において選ばれるべき行動を決める際に影響を与えます。
- 🌟 トロッコ問題の提起は、AI技術の洗練化や、未来の都市構想に向けた議論を促進する可能性があります。
Q & A
トロッコ問題とは何ですか?
-トロッコ問題は、5人の人命を救うために1人を犠牲にしても良いかという究極の選択問題です。これは哲学者フィリッパ・フットによって1967年に提起され、現在ではAIの倫理的なあり方について問われる問題として注目されています。
AIが直面する倫理的な問題とは何故重要ですか?
-AIが急速に発展している昨今、その倫理的なあり方について問われることが多くなっています。AIが人々の生活に深く関与するようになり、その過程で倫理的な判断を誤ると深刻な結果をもたらす可能性があるため、この問題は非常に重要です。
自動運転技術の進化とトロッコ問題の関係は何ですか?
-自動運転技術の発展は、AIの倫理的な問題をより具体的に問うきっかけとなっています。自動運転車が事故を回避するために倫理的な判断をすることを想像すると、トロッコ問題のような难题が実際に発生する可能性があります。
自動運転技術のレベルは何段階存在するのでしょうか?
-自動運転技術には6段階のレベルが存在します。レベル0は完全な人間による運転で、レベル1は運転支援、レベル2は部分的自動運転、レベル3は条件付自動運転、レベル4は高度自動運転、そしてレベル5は完全自動運転です。
日本におけるレベル4の自動運転シャトルバスの例は何ですか?
-日本においては、福井県永平事長によって運営されている全ドライブという名称のレベル4の自動運転シャトルバスがあります。これは、ヤマハ発動記者のゴルフカートをベースにした車両を使い、2kmの区間を最高時速20kmで自動運転走行しています。
自動運転技術が事故を減らすためにどのように機能するのか?
-自動運転技術は、車体の周囲に設置されたカメラ、レーダー、超音波センサーなどを用いて周囲の環境を認識し、AIが解析してハンドルやアクセル、ブレーキなどの制御を行うことで、人間の運転による事故を減らすことができます。
AIが制御不能の状態での対応としてどのような策が考えられますか?
-AIが制御不能の状態を回避するために、ソフトウェアの品質と信頼性を確保し、AIが動作するコンピュータを常に二重化することが考えられます。また、緊急の場合はネットワークによる遠隔操作も可能とするなどのハードウェアの品質向上も必要です。
AIが事故を減らすために取れる措置の具体例は何ですか?
-具体例としては、自動運転者は基本的にネットワークに接続され、どの自動運転者がどの道を選択するかを完成システムが渋滞情報を得ながら全体をコントロールすることができます。そのため、速度を抑えていても全体が統制されてスムーズに運行でき、衝突や重大事故に至る確率が大幅に下がることになります。
トロッコ問題における理主義と義務論の違いは何ですか?
-理主義は結果を重視し、5人を助けるために1人を犠牲にする選択を正当化する考え方です。一方、義務論は行為そのものが正しいかどうかを重視し、誰を犠牲にするような行動は起こすべきではないと考えます。つまり、結果に関係なく、正しい行為を選択することが重要です。
AIが未来にどのような影響を与える可能性がありますか?
-AIは未来に指数関数的に進化発展し、人間と同等の能力やそれを超える知能に到達する可能性があります。その場合、AIは現在未解決の倫理的問題や、其他の複雑な問題にも正解を提供できる可能性があります。
トロッコ問題に対する解決策として考えられる未来の都市の例は何ですか?
-未来の都市では、地下トンネルを利用した交通システムや空飛ぶ自動車、ドローンによる輸送などが実用化される可能性があります。これにより、歩行者との接触で起きる事故が減り、自動運転車がより安全に運営されることが期待されます。また、スマートシティの構想によって地域活性化が進み、必要に応じた地域内での生産と消費が行われることで、遠距離輸送による事故も減少するでしょう。
Outlines
🚂 トロッコ問題とAIの倫理的課題
この段落では、トロッコ問題という哲学的な倫理学的な問題と、それが人工知能AI技術の発展に与える影響について説明されています。トロッコ問題は、5人の命と1人の命の選択肢を問う問題であり、この問題に対するAIの答えが重要となっています。また、自動運転技術の発展に関連して、この倫理的問題が再び注目される理由についても触れられています。
🚗 自動運転技術と事故の減少
この段落では、自動運転技術の進歩と、それが交通事故の減少にどのように寄与するのかについて説明されています。自動運転車には、さまざまな感測器とAIが搭載されており、これらの技術を活用してより安全な運転を実現することが期待されています。また、自動運転技術の進歩により、人間の運転による誤りが減り、事故の発生確率が低下するという視点から、自動運転の利点が強調されています。
🤖 AIの判断と倫理的課題
この段落では、AIが直面する倫理的課題と、トロッコ問題におけるAIの対応について深く掘り下げています。AIは完全な安全性と信頼性を確保し、緊急時に対応できるようにする必要性があると述べられています。また、AIの判断基準として、理主義と義務論の2つの考え方が紹介され、それぞれの立場からの対応が詳細に説明されています。この問題に対する正解は存在しないが、AIの進化が進む中で、より適切な対応ができるようになる可能性があると期待されています。
🏙️ 未来の都市とAIの進化
最後の段落では、トロッコ問題が未来の都市やAI技術の発展に与える影響について考慮されています。トロッコ問題は、AI技術の進歩を阻害する可能性があるというネガティブな側面だけでなく、技術の洗練化と改善につながるポジティブな側面も持っています。また、将来的には、AI技術だけでなく、都市自体が問題に対処するような未来都市の構想が考えられています。このように、トロッコ問題は、AI技術の発展と未来の社会のあり方に深く関連していると結論づけられています。
Mindmap
Keywords
💡トロッコ問題
💡人工知能AI
💡自動運転
💡倫理学
💡理主義
💡義務論
💡AI技術の発展
💡自動運転者のレベル
💡事故の減少
💡未来都市
💡倫理的究極の問
Highlights
トロッコ問題はAIの倫理的あり方について問う問題で、人工知能の進化とともに注目されるようになりました。
トロッコ問題は、5人の命を救うために1人を犠牲にしても良いかという究極の選択を伴っています。
理主義と義務論という2つの考え方がトロッコ問題において対立します。
自動運転技術は、AIの最新技術であり、倫理的な問題にも直面しています。
自動運転車には6段階のレベルが定義されており、レベル4からが本格的に自動運転とされています。
日本ではレベル4の自動運転シャトルバスが営業を行っており、レベル3の自動車もリリースされています。
自動運転車は、カメラやレーダー、超音波センサーを用いて周囲の環境を認識します。
AIによる自動運転の導入で、事故は減る可能性があるとされています。
自動運転車は、人間の運転方法とは異なり、AIが運転を行うため失敗が少なくなります。
トロッコ問題に対する対策として、AIの品質と信頼性の確保、ハードウェアの品質向上が挙げられます。
自動運転システムは、速度を抑えつつも全体をコントロールし、衝突を減らすことができます。
AIは、路面電車と異なり、回避方向の選択肢が多く存在します。
トロッコ問題の解決に向けて、AIは各方向の人数や速度を計算し、損害度合を判断する必要があります。
理主義と義務論の対立は、結果主义と行為主义の対立に他なりません。
統計調査によると、多くの人々はトロッコ問題に対して行主義的な選択をします。
歩道教問題とトロッコ問題は似ていますが、1人を突き落とすという行為が問題となります。
AIの進化は、2045年にはシンギュラリティが到来するという予測があり、その時にはこの問題にも正解を与えてくれるかもしれません。
トロッコ問題の提起は、AI技術の発展にポジティブな影響を与える可能性があります。
AI技術の進歩に伴い、未来の都市は自動運転だけでなく、地下交通システムやスマートシティ構想が進展する可能性があります。
トロッコ問題は、AI技術だけでなく、都市そのものの進化にも影響を与える重要な問題であると言えます。
Transcripts
皆さんはトロッコ問題というのを聞いた
ことがありますか人工知能AIが急速に
進化発展している昨今その倫理的あり方を
問う問題が提起されています果たしてその
問題に対してAIはどのような答えを出せ
ば良いのでしょうかそしてトロッコ問題に
よってAIの技術発展はストップして
しまうのでしょうか今回の動画ではAIの
最新技術である自動運転とそれに対する
倫理的な究極の問トロッコ問題について
取り上げますとてもワクワクする内容に
なっていますので是非最後までお付き合い
くださいトロッコ問題は哲学者フィリッパ
フット氏によって1967年に提起され
ました50年以上も前に提起されそして
すでに本人は2010年に亡くなっている
現在なぜ改めて注目されるようになったの
でしょうかそれはAIの急激な発展が原因
です2006年のディープラーニングの
発明そして2010年代のビッグデータ
収集環境が整ったことにより現在に至る
まで第3次AIブームが起きていると言わ
れていますそして未来学者
レイカーツワイル氏によると2045年に
はAIが指数関数的にその性能を伸ばし
汎用人口知能agiが実現してシンラが来
するというの
ですそういった状況化でAIの急激な発展
に継承を鳴らすかのごとくこのトロッコ
問題が注目されるようになってきました
それは5人の人の命を救うために1人を
犠牲にしても良いかという究極の選択と
なっていますが少し詳しく見ていき
ましょうこの問題においてトロッコとは
路面電車のことですその路面電車が制御
不能となりこのまでは前方の線路で作業し
ていた5人を確実に引いてしまいます線路
は途中で枝別れしており線路を切り替えれ
ば5人は助かりますしかしもう一方の線路
では1人が作業しており線路を切り替えれ
ば必ずその1人が犠牲になります切り替え
店に立っているあなたは5人を助けるため
に線路を切り替えるべきなのかそれとも何
もしないでいるべきなのかというのが
トロッコ問題ですこの問題の条件は必ず5
人か1人が犠牲になるということであり
どちらかを必ず選択しなければなりません
ここで理主義と義務論という2つの考え方
が出てきます行主義の立場からは5人を
助けて1人を犠牲にした方がより多くの
幸福を得られると考え線路を切り替えます
しかし義務論の立場からは誰かを犠牲に
するような行動は起こすべきではないと
考えて線路を切り替えませんたえどんな
結果が待っていようとも誰も犠牲にする
べきでなくまた行動を行わなければその後
のどんな結果に対しても責任を負う必要は
ないという考え方です皆さんならどちらを
選択しますかそして現代におけるトロッコ
問題は自動運転に利用されるAIがこの
問題に正しく対処できるのかという
問いかけをしているのですではこの問題を
さらに探求していく前に自動運転とは何か
を次の賞で見ていき
ましょう様々な乗り物に対して自動運転
技術がありますがここでは自動車の自動
運転に注目していきます自動運転を行う
自動車つまり自動運転者には6段階の
レベルが定義されていますまずレベル0が
完全な人間による運転ですレベル1が運転
支援レベル2が部分的自動運転でハンドル
制御付きのクルーズコントロールなどが
該当しますレベル3が条件付自動運転で
ある特定の条件が揃えば自動運転が可能な
状態ですそしてこのレベル3以上が自動
運転と定義されていますレベル4は高度
自動運転で悪天候などある限られた条件
以外は自動運転が可能な状態ですそして
レベル5が完全自動運転となります世界
各国で自動運転の開発や試験走行が行われ
ていますが日本においてもすでに実例が
あります福井県永平事長では全ドライブと
いう名称でレベル4の自動運転のシャトル
バス営業が行われていますこれはヤマハ
発動記者のゴルフカートをベースにした
車両を使い2kmの区間を最高時速
20kmで自動運転走行します
2021年にはホンダ車からレベル3の
自動運転走行が可能な常用者レジェンドが
限定100台のリース販売ながらも
リリースされレベル3の形式認定としては
世界初となりました海外の例も1つあげて
みましょうGoogle系列のウェイモ社
は米国アリゾナ州フェニックス
カリフォルニア州サンフランシスコと
ロサンゼルスにおいて自動運転レベル4の
タクシーサービスを行っていますこれは
通称ロボットタクシーと呼ばれ他にも様々
な先端企業が研究開発を進めていますこの
ようにシャトルバスやタクシーはすでに
開始していますが現在時点でレベル4また
はレベル5の一般常用者としての自動運転
者はまだ世界的にもリリースされていませ
んここから自動運転者の装備を見ていき
ましょうレベル4またはレベル5の自動
運転者はカメラレーダー超音波センサー
GPSそしてライダーと呼ばれるレーザー
距離測定の装置を用い周囲の環境を認識し
ます例えばWO社の自動運転者は装備から
得られた情報をAIのGoogle
シファーが解析し実際のハンドルや
アクセルブレーキなどの制御を行います
トロッコ問題とはまさにこの情報解析を
行う際のAIの判断に焦点が当てられてい
ますではAIによる自動運転で事故は
減らせるのかを次に見ていき
ますAIによる自動運転を導入することで
事故は減るのでしょうかそれとも増えるの
でしょうかまず人間が運転するケースから
考えていき
ましょう自動車免許を取得する際にも勉強
する内容に運転時の資格というものがあり
ますこれは運転手から見て左右の斜め後方
部分そして前後の下方部分が一般的に見え
づらくなることです運転手は車の中にい
ますのでどうしても車体が邪魔になって
見えない部分ができますまた人間の目には
視野がありますのでその視野の範囲内しか
確認できません一方で自動運転者はどう
でしょうか例えば先ほどのウェイモ車の
ロボットタクシーであれば車体の周囲各部
にカメラが設置されており人間が確認でき
ないような複数の視野も同時に得ることが
でき車体に邪魔されることもありません
運転の仕方はどうでしょうか人間の場合
運転の仕方は個個人の性格に依存してい
ます運転免許資格を取得する際基本的な
運転作法を学ぶのである程度は運転の仕方
が統一されますがそれでも人間には限界が
あります自動運転の場合AIが運転を行う
ので各社によってAIは異なるかもしれ
ませんがそれぞれのAIはソフトウェアと
して同様に振る舞いますそして基本的に
ネットワークに接続され不具合などがあれ
ば随時更新もされますAIの場合は運転の
仕方が統一され性格によってバラバラで
あるということがなくなりまた人間がして
しまう失敗例えば飲酒運転などもなくなり
ます実際のロボットタクシーも人間の場合
と比較して衝突事故で
57重大事故で87%も減少したという
調査が出ていますこれはロボットタクシー
をリリースする側の調査結果なので中身を
十分に吟味する必要はありますしかし結局
のところ一般的にもAIの方が運転による
事故を減らせると考えられていますこれは
トロッコ問題の解決に関係なく事故を
減らせるということでありAIはまだまだ
進化しますので今後のAIはさらに事故を
減らせるでしょうではAIがどういった
対応ができるかを次に見ていきましょう
トロッコ問題は具体的にどのように対策さ
れるのでしょうかまずトロッコ問題におい
ては路面電車が制御不能となります自動
運転の場合制御不能を避けるために
ソフトウェアとしてのAIの品質と信頼性
を確保していくということが必要になって
きますまたAIが動作するコンピュータを
常に二重化する緊急の場合はネットワーク
による遠隔操作も可能とするなどにより
ハードウェアの品質向上も必要です速度に
ついても人が歩行している可能性のある
区域においては速度を下げるという処理が
必要になってきます自動運転者は基本的に
ネットワークに接続されるのでどの自動
運転者がどの道を選択するか完成システム
が渋滞情報を得ながら全体をコントロール
できるようになりますそのため自動運転の
場合は仮に速度をかなり抑えていたとして
も全体が統制されてスムーズに運行でき
ますこれによりそもそも衝突せず重大事故
に至る確率も大きく下がることになります
しってトロッコ問題の対策は何らかの不
具合で自動運転者の速度だけが制御不能に
なりAIの判断や方向の制御はできる時
どう対処するかという課題になりますそこ
でまず自動車は路面電車と異なり線路が
ないため回避方向の選択肢が増えますしっ
て回避方向は複数あるが限定されており
かつどの方向にも人がいる場合を想定する
ことになりますこのケースにおいて
それぞれの方向の人数各へ向かった場合の
速度衝突の衝撃度合そして結果的な損害
度合などを計算することになりますこの
ようなケースに対してAIが正確な判断を
下せるのかというのがトロッコ問題という
ことになりますではこの場合に何が正解に
なるのでしょうかまたこのようなケースが
一体どれくらいの頻度で起きるのでしょう
かさらにはトロッコ問題が投げかけている
のはより制御不能を
より正確に情報を探知しそして正確に処理
をするべきということなのでしょうかそれ
ともどの方向にも人がいる場合は判断する
処理を入れるべきでないと言っているの
でしょうかそれともそもそもそういった
倫理的判断をAIにさせるべきではないの
でAIによる自動運転技術そのものを
諦めるべきと言っているのでしょうか
トロッコ問題に正解があるのかを考えて
いく上で先ほど登場した理主義と義務論と
いう対立する2つの考え方についてさらに
詳しく見ていきましょう路面電車が制御
不能になりそのまま行くと5人が犠牲に
なるしかしあなたが線路を切り替えると別
の線路の1人が犠牲になり5人は助かる行
主義の方は比較的分かりやすく結果として
犠牲者が少なくなるような選択をする
つまり線路を切り替えて5人の方を助けと
いう考え方ですでは義務論の方はどう
でしょうか義務論では結果に関係なくその
行為をする時点での意思が正当化つまり
同機の義足を判定します理性から来る最も
理想的な前行が存在しそれを選択する場合
は結果の良し足に左右されず同期そのもの
を良しとすべきという考え方ですつまり理
主義ではどのような行為をしても結果が
ければ評価されませんが義務論であれば
結果に関係なく同機が正しければそれで
よしと評価されるということですそして
その行主義と義務論をトロッコ問題に
当てはめると答えが真つに分かれます義務
論では行為によって1人が犠牲になるため
同機としては良くないという判断になり
線路の切り替えは行いませんその時結果的
に5人が犠牲になったとしても同機の良く
ない行為を選択しなかったことで結果に
関係なく判断は正しかったという判定に
なるのですではその2つの考え方を踏まえ
た上であなたはどちらを選択しますか統計
調査ではトロッコ問題に対しては線路を
切り替えるつまり行主義的選択の方が多い
ようですここでトロッコ問題と類似した
問題に歩道強問題というのがありますこの
問題の場合は1人を突き落とすばが助かる
という条件になっています歩道教問題の
統計では5人を助けるためだとしてもその
1人を突き落とさないという選択肢が多く
選ばれるようですつまり歩道教問題の場合
5人が犠牲になったとしても1人を
突き落とすという直接的な行為はしたく
ない一方でトロッコ問題における線路の
切り替えという間接的行為なら行えると
いう心理が現れているようですそして論と
してこれらの問題には正解がありません
これはそれらが個人の思想心情に依存する
自レマを抱えた問題でもあるからですでは
改めてこれらの問題にAIは答えを出せる
のでしょうかあるいは出すべきなの
でしょうか2045年シンギュラリティが
到来した未来ではAIが指数関数的に進化
発展し人間と同等の能力あるいはそれを
はかに超える知能に到達すると考えられて
いますそんな未来のAIであればこの問題
にも正解を与えてくれるかもしれませんが
現代の私たちはどう対応すれば良い
でしょう
かここからはトロッコ問題についてどの
ような意義と影響があるのかを見ていき
ますまずトロッコ問題の定期による
ネガティブな側面から見ていきましょう
例えば最もあり得るケースとしてこの問題
が多くの人々に表面的にのみ捉えられ
そしてAIに関する技術発展が阻害される
ことですつまりトロッコ問題という何か
知名的な血管をAIが抱えておりそして
それが解決できないうちは自動運転にAI
を使うべきでないという方向に進んで
しまうことですそうなると表面的な情報に
よって悲観が増幅され自動運転だけでなく
AIという技術そのものを否定されて
しまうことにもなりかねませんもちろん
どの方向を望むのかは個個人の考え方次第
ですがAIが発達する未来としない未来皆
さんならどちらを望みますかではここから
トロッコ問題のポジティブな側面を見て
いきましょうつまりこの問題が提起された
ことによりよりAIに関する技術が注目さ
れそして洗練されてより良い未来が得
られるという捉え方です例えばこの問題が
されたことによりAIの技術者はより深く
アルゴリズムを作り込む必要が生まれます
開発する際は大変ですが利用する側にとっ
てはAIの判断が正確になって事故が
さらに減少しメリットが増大するでしょう
正解のないトロッコ問題が提起される意義
の1つがまさにここにあるのではない
でしょうかそしてまたもしもAIだけでは
解決できない部分がある場合にはどうすれ
ば良いでしょうか
その場合にはAI以外の部分でも対処する
必要が生まれますがそれによって未来都市
と呼べるものが生まれるかもしれません
企業家イーロンマスク氏は2017年地下
トンネルを掘削するためのボーリング
カンパニー者を設立しましたマスク氏は
将来的に地下交通システムを構想している
ようですが自動運転でこのような地下を
利用するようになれば歩行者との接触で
起きる事故も減らせます
今後空飛ぶ自動車というのも実用化されて
くるでしょうしドローンも輸送に利用され
ていきそれらも事故減少に貢献する
でしょうまたスマートシティ構想という
ものがありこれによって地域も活性化して
いきますそこでは地域で必要なものはその
地域で作って利用するようになるつまり遠
距離輸送が必要なくなっていくためさらに
自動運転の事故が減りますこういった形で
未来においてはAIによる対策だけでなく
都市そのものが対応していくことも考え
られ
ますそのような理想の未来都市が生まれる
のであれば難しい地連マを抱えた哲学的
問題定期も非常に意義があると考えること
ができるのではないでしょう
か最後までご視聴いただきありがとう
ございましたトロッコ問題を深く考察して
いくことで自動運転とAiの技術そして
未来都市の姿についてさらに興味を抱いて
もらえたのではないでしょうか皆さんの
意見や知りたい情報など是非コメントで
教えてくださいそれでは次回の動画でお
会いし
ましょう
5.0 / 5 (0 votes)