Current, former OpenAI employees warn company not doing enough control dangers of AI

PBS NewsHour

5 Jun 202405:11

Summary

TLDR元OpenAI社員が会社とその競合他社が不適切なリスクと監督なしに人工知能を開発していると訴える公開手紙を出しました。彼らは人工知能企業に対して、より透明性を持って、告発者に対する強力な保護を提供するよう求めています。OpenAIは長期的なリスクとトレーダーに焦点を当てた後、この問題が浮上しています。技術記者であるボビー・アリンは、これらの開発を追跡しており、彼らはOpenAIが利益と市場シェアを積極的に追求していると批判していますが、責任を持ってAI製品を開発するという元々の目的から外れていると指摘しています。また、メディア業界はOpenAIと協力するかどうかについて議論が分かれており、ニューヨーク・タイムズは著作権侵害でOpenAIを訴えています。

Takeaways

📜 元OpenAI社員が会社とその競合他社を提訴し、人工知能のリスクと監督の不足を指摘しています。
🔎 彼らは人工知能企業に対して、より透明性を持って情報開示し、告発者に対する強力な保護を求めています。
🛑 OpenAIは長期的なリスクとトレーダーに焦点を当てたチームのフォーカスを変更したと報告されています。
🤖 技術記者Bobby Allynは、これらの開発を追跡しており、彼らが抱える懸念について説明しています。
💡 元社員はOpenAIが利益と市場シェアを積極的に追求していると批判しており、AI製品の責任ある開発に注力していないと主張しています。
🏥 OpenAIは非営利の研究ラボとして設立されており、他の巨大な公開企業とは異なり、テクノロジーの競争を避けるための非営利の回答を提供する予定でした。
🚨 彼らは自主的AIシステムに関する研究を引用し、人工知能が人類を超え、潜在的なリスクをもたらす可能性があると警告しています。
👀 しかし、彼らはディープフェイクやAIによる偽の個人の模倣、誤解を招く情報の拡散などの現実のリスクに焦点を当てています。
📰 メディア業界はOpenAIと協力するかどうかについて分かれており、関連する出版社は収益をもたらす可能性があると言っています。
🤝 一方で、ニューヨーク・タイムズは著作権侵害のためにOpenAIを訴え、彼らの記事を無断で使用し収益化していると主張しています。
🤔 出版社は契約を取り消し始めており、ニューヨーク・タイムズはOpenAIに対する法的戦線を築いていますが、さまざまな戦略が見られます。

Q & A

OpenAIの元従業員たちはなぜ訴訟を起こしましたか？
-OpenAIの元従業員たちは、会社が不適切なリスクと不十分な監視の下で人工知能を構築していると主張し、特に長期的なリスクとトレーダーに焦点を当てた後に訴訟を起こしました。
彼らは人工知能企業に対して何を求めていますか？
-彼らは人工知能企業に対して、より透明性を持って行動し、吹き溜まり者に対する強力な保護を提供するよう求めています。
OpenAIはどのようにして利益と市場シェアを追求していると批判されていますか？
-元従業員はOpenAIが責任を持ってAI製品を開発するのではなく、利益と市場シェアを積極的に追求していると批判しています。
OpenAIは当初どのような目的で設立されましたか？
-OpenAIは当初、非営利の研究ラボとして設立されており、異なるAI製品を開発することが目的でした。
OpenAIが大きなテクノロジー企業のように振る舞っていると批判されている理由は何ですか？
-彼らはOpenAIが当初の目的から外れ、大きなテクノロジー企業のように振る舞い、彼らと競争していると批判しています。
人工知能のリスクについて彼らは何を主張していますか？
-彼らは人工知能のリスクが現実のものであり、ディープフェイクや人々を模倣するAI、誤解を招く情報の拡散などが挙げられると主張しています。
ニューヨーク・タイムズはなぜOpenAIを訴えていますか？
-ニューヨーク・タイムズは、OpenAIが彼らの記事を無断で使用し、その知識とオリジナルな仕事を無断で収益化していると主張して訴えています。
メディア業界はどのようにしてOpenAIと協力するかどうかを決めていますか？
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らのコンテンツが無断で使用されていることを理由に訴訟を起こすかという2つの異なる戦略を検討しています。
OpenAIはどのようにしてコンテンツをトレーニングに使用していますか？
-OpenAIはインターネット全体のコンテンツをトレーニングに使用しており、その中には大きなブロードキャスターや新聞社の記事も含まれています。
OpenAIが直面している問題についてメディア業界の意見はどのように分裂していますか？
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らの記事が無断で使用されていることを理由に訴訟を起こすかという2つの異なる意見に分裂しています。