Your Right to Repair AI Systems | Rumman Chowdhury | TED

Summary

このスクリプトでは、人工知能（AI）が農業に導入され、技術が農民の生活を変える一方で、修理権の問題が生じていることを描いています。AIは作物収量予測や害虫除去に使われていますが、修理権の制限により、農民は自分の農業機械を修理することが難しくなりました。これに対して、農民がプログラミングを学び、ハッカーと協力して自己修理を行っています。修理権の議論は、AIを含むすべての技術分野に拡大するべきだと主張しています。AIの信頼性向上には、人々がシステムにフィードバックを与え、改善に貢献できる「レッドチーム」の手法が有効で、AIの開発者とユーザーの間のフィードバックループを強化する必要があると述べています。

Takeaways

• 🤖 農業と人工知能の組み合わせが意外な共同体を形成している。
• 🌾 現代の農業はコンピュータビジョンや人工知能を用いて作物の収穫予測や害虫の除去を行う。
• ⚠️ 技術の進歩が農民に不都合をもたらしており、特にジョンディーアのスマートトラクターがその例。
• 🛠️ 農民が自らの機械を修理することが法律で禁止され、修理にはライセンスを持つ技術者が必要とされた。
• 💻 農民の中にはプログラミングを学び、ハッカーと協力して自らのシステムを修復する者たちが現れた。
• 🔓 DEFCONで行われたハッキングデモンストレーションは技術の脆弱性と所有権の重要性を示した。
• 🛠️ 「修理の権利」運動は、所有する技術品の修理権を主張する社会運動であり、人工知能にもその権利が必要である。
• 📊 人工知能への不信感が世界的に広がっていると示される最新の調査結果。
• 🔍 人々は、自分のデータが許可なく収集され、システムの構築に用いられることに気づいている。
• 🔄 フィードバックループの改善が、AIシステムの開発者とユーザーの間に必要である。
• 🎯 レッドチームングは、AIシステムの欠陥を見つけるための手法であり、世界最大のテック企業と協力して行われている。
• 🏥 AIエージェントの例として、医療エージェントが家族の健康を管理する可能性があるが、修理権がなければ信頼は築けない。
• 🛡️ 人工知能の利点を最大限に引き出すためには、人々の参加を開発プロセスに取り入れることが不可欠である。

Q & A

現代の農業にはどのような技術が使われていますか？

現代の農業ではコンピュータビジョンが作物の収量を予測するのに使われ、人工知能が害虫の特定と排除に使われ、予測分析が極端な天候条件を予測するのに役立ちます。

ジョンディーアが導入したスマートトラクターはどのような問題を引き起こしましたか？

ジョンディーアがスマートトラクターを導入したことで、農民が自分のトラクターを修理することが法的に禁止され、ライセンスされた技術者が必要なため、修理のために数週間待つ必要があり、作物が腐敗し、害虫が蔓延するリスクがありました。

「修理の権利」とはどのような運動ですか？

「修理の権利」運動は、技術品を所有している人々が、それが故障した場合でも修理する権利を持つべきだと主張するものです。これは、トラクターからスマート歯ブラシ、洗濯機まで、所有している技術品に適用されます。

AIにおける「修理の権利」の重要性は何ですか？

AIにおける「修理の権利」は、人々がAIシステムを信頼し、自分の生活に役立てるために、システムが故障した場合に問題を特定し、修正することができるようにすることに重要です。

AI技術に対する公衆の信頼が低下する理由は何ですか？

公衆の信頼が低下する理由としては、自分のデータが許可を得ずに収集され、彼らがシステムの構築に関与していないことが挙げられます。また、システムが故障した場合にどこに問い合わせるかも不明瞭です。

レッドチームングとはどのようなプロセスですか？

レッドチームングは、軍事やサイバーセキュリティ分野で使用されるプロセスで、外部の専門家がシステムへの侵入を試みることで、防御をテストし、問題が発生する場所を特定し、修正する方法を見つけることができます。

AIシステムが故障した場合、どのような問題が発生する可能性がありますか？

AIシステムが故障した場合、モデルが誤作動したり現実を誤表したりする可能性があり、歴史的に正確でない写真を表示するなど、意図しない結果をもたらす場合があります。

レッドチームングはどのようにしてAIモデルを改善するのに役立つか？

レッドチームングは、専門家の意見を集め、AIモデルの欠陥や誤りを見つけ、修正することで、モデルを改善するのに役立ちます。これにより、モデルがより多くの人々にとって適切で有用なものになるように調整できます。

建築家の視点からAIが建物の設計にどのように影響を与えるかについて、レッドチームングはどのような結果を得ましたか？

建築家のレッドチームングの結果、AIが現代美術館の仕様を設計する能力を持っているとは言えず、建築家は物理や材料科学、建築コードを理解し、感情を呼び起こすデザインを作成する必要があることが明らかになりました。

AIの信頼性に関する建築家の最大の懸念は何ですか？

建築家の最大の懸念は、AIシステムが彼らの仕事や自由に影響を与える可能性がある場合、システムの失敗を修正できないという信頼性の問題です。彼らは建築物の失敗によって免許を取り消されるか、罰金を受けるか、甚だしきには刑務所に入ることがあるためです。

「修理の権利」がAIシステムにどのように適用される可能性があるか説明してください。

「修理の権利」は、基本的なテストを実行する診断ボードを持っている場合や、第三者と協力してシステムのパッチを作成し、改善する方法を提供する場合に適用される可能性があります。また、農民のようにプログラミングを学んで自分のシステムを微調整することも可能です。

人工知能の利点を最大限に引き出すためには、どのようなことが必要ですか？

人工知能の利点を最大限に引き出すためには、開発プロセスに人々を参加させ、彼らがAIを自分にとって有益なものにするためのツールを提供することが必要です。技術者は一人ではできないため、皆さんと協力して実現する必要があります。