Current, former OpenAI employees warn company not doing enough control dangers of AI

PBS NewsHour

5 Jun 202405:11

Summary

TLDR元OpenAI社員が会社とその競合他社が不適切なリスクと監督なしに人工知能を開発していると訴える公開手紙を出しました。彼らは人工知能企業に対して、より透明性を持って、告発者に対する強力な保護を提供するよう求めています。OpenAIは長期的なリスクとトレーダーに焦点を当てた後、この問題が浮上しています。技術記者であるボビー・アリンは、これらの開発を追跡しており、彼らはOpenAIが利益と市場シェアを積極的に追求していると批判していますが、責任を持ってAI製品を開発するという元々の目的から外れていると指摘しています。また、メディア業界はOpenAIと協力するかどうかについて議論が分かれており、ニューヨーク・タイムズは著作権侵害でOpenAIを訴えています。

Takeaways

📜 元OpenAI社員が会社とその競合他社を提訴し、人工知能のリスクと監督の不足を指摘しています。
🔎 彼らは人工知能企業に対して、より透明性を持って情報開示し、告発者に対する強力な保護を求めています。
🛑 OpenAIは長期的なリスクとトレーダーに焦点を当てたチームのフォーカスを変更したと報告されています。
🤖 技術記者Bobby Allynは、これらの開発を追跡しており、彼らが抱える懸念について説明しています。
💡 元社員はOpenAIが利益と市場シェアを積極的に追求していると批判しており、AI製品の責任ある開発に注力していないと主張しています。
🏥 OpenAIは非営利の研究ラボとして設立されており、他の巨大な公開企業とは異なり、テクノロジーの競争を避けるための非営利の回答を提供する予定でした。
🚨 彼らは自主的AIシステムに関する研究を引用し、人工知能が人類を超え、潜在的なリスクをもたらす可能性があると警告しています。
👀 しかし、彼らはディープフェイクやAIによる偽の個人の模倣、誤解を招く情報の拡散などの現実のリスクに焦点を当てています。
📰 メディア業界はOpenAIと協力するかどうかについて分かれており、関連する出版社は収益をもたらす可能性があると言っています。
🤝 一方で、ニューヨーク・タイムズは著作権侵害のためにOpenAIを訴え、彼らの記事を無断で使用し収益化していると主張しています。
🤔 出版社は契約を取り消し始めており、ニューヨーク・タイムズはOpenAIに対する法的戦線を築いていますが、さまざまな戦略が見られます。

Q & A

OpenAIの元従業員たちはなぜ訴訟を起こしましたか？
-OpenAIの元従業員たちは、会社が不適切なリスクと不十分な監視の下で人工知能を構築していると主張し、特に長期的なリスクとトレーダーに焦点を当てた後に訴訟を起こしました。
彼らは人工知能企業に対して何を求めていますか？
-彼らは人工知能企業に対して、より透明性を持って行動し、吹き溜まり者に対する強力な保護を提供するよう求めています。
OpenAIはどのようにして利益と市場シェアを追求していると批判されていますか？
-元従業員はOpenAIが責任を持ってAI製品を開発するのではなく、利益と市場シェアを積極的に追求していると批判しています。
OpenAIは当初どのような目的で設立されましたか？
-OpenAIは当初、非営利の研究ラボとして設立されており、異なるAI製品を開発することが目的でした。
OpenAIが大きなテクノロジー企業のように振る舞っていると批判されている理由は何ですか？
-彼らはOpenAIが当初の目的から外れ、大きなテクノロジー企業のように振る舞い、彼らと競争していると批判しています。
人工知能のリスクについて彼らは何を主張していますか？
-彼らは人工知能のリスクが現実のものであり、ディープフェイクや人々を模倣するAI、誤解を招く情報の拡散などが挙げられると主張しています。
ニューヨーク・タイムズはなぜOpenAIを訴えていますか？
-ニューヨーク・タイムズは、OpenAIが彼らの記事を無断で使用し、その知識とオリジナルな仕事を無断で収益化していると主張して訴えています。
メディア業界はどのようにしてOpenAIと協力するかどうかを決めていますか？
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らのコンテンツが無断で使用されていることを理由に訴訟を起こすかという2つの異なる戦略を検討しています。
OpenAIはどのようにしてコンテンツをトレーニングに使用していますか？
-OpenAIはインターネット全体のコンテンツをトレーニングに使用しており、その中には大きなブロードキャスターや新聞社の記事も含まれています。
OpenAIが直面している問題についてメディア業界の意見はどのように分裂していますか？
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らの記事が無断で使用されていることを理由に訴訟を起こすかという2つの異なる意見に分裂しています。

Outlines

00:00

🚨 AI開発におけるリスクと透明性の訴え

元OPENAI社員たちが、会社とそのライバルが不適切なリスクと十分な監督なしに人工知能を開発していると訴える公開手紙を出しました。彼らは人工知能企業に対して、より透明になるよう求めており、内部告発者に対する強い保護を求めています。OPENAIは長期リスクとトレーダーに焦点を当てたと発表しましたが、彼らは利益と市場シェアを積極的に追求していると批判しています。彼らはOPENAIがAI製品を責任を持って開発しておらず、他の大きな公開企業と競争していると主張しています。彼らはAIの危険性についても警告しており、ディープフェイクや人々を模倣するAI、誤解を招く情報などを挙げていますが、これらはまだ現実の問題です。

05:00

📰 メディアとOPENAIの関係性に関する議論

OPENAIはメディアと協力し、AIモデルのトレーニングに使用するコンテンツにアクセスできるようになることが話題になっています。一方で、ニューヨーク・タイムズは著作権侵害のためにOPENAIを訴えています。出版業者の中には、OPENAIと協力し、将来性のある収益源になるかもしれないと期待する声もありますが、ニューヨーク・タイムズのように、自分の記事を無断で使用され、その知識とオリジナルな仕事を無断で商業化されたとして、訴訟を起こしているものもあります。出版業者の中には契約を解除する動きもありますが、OPENAIは彼らの戦略を続けています。CHATGPTはニューヨーク・タイムズの記事やその他のメディアの記事をもとにした回答を提供しており、これは今後のメディアとAIの関係性に関する議論の鍵となるでしょう。

Mindmap

Keywords

💡OpenAI

OpenAIは、人工知能の研究と開発を行う非営利の研究ラボです。ビデオでは、OpenAIが利益追求と市場シェアを強化するため、責任あるAI製品の開発に焦点を当てていないと批判している元従業員の声が聞かれます。

💡Whistleblower

内部告発者とは、組織内の不正行為を外部に告発する人々です。ビデオでは、OpenAIの元従業員が内部告発者として、企業のAI開発におけるリスクと監督の不足を指摘しています。

💡Artificial Intelligence

人工知能とは、人間のように学習し判断することができる技術です。ビデオでは、OpenAIが人工知能をどのように開発し、その開発に伴うリスクと監督について議論されています。

💡Risk

リスクとは、不測の事象が発生し、損失をもたらす可能性を指します。ビデオでは、OpenAIのAI開発における長期的なリスクとそれに伴う問題が議論されています。

💡Transparency

透明性とは、情報公開や意思決定プロセスの公開性です。ビデオでは、元従業員がOpenAIに対して、人工知能開発の透明性を高めるよう求めています。

💡Long-term risks

長期的なリスクとは、将来にわたって問題となる可能性のあるリスクを指します。ビデオでは、OpenAIが長期的なリスクに対処する戦略を強化する必要があると元従業員が主張しています。

💡Deepfakes

ディープフェイクとは、人工知能を用いて生成された偽の映像や音声です。ビデオでは、ディープフェイクがAI技術の悪用の一形として触れられています。

💡Misinformation

誤情報とは、誤った情報やデマを指します。ビデオでは、AIが誤情報を拡散する手段として使用されるリスクについて言及されています。

💡Copyright infringement

著作権侵害とは、他人の著作物を無断で使用することです。ビデオでは、ニューヨーク・タイムズがOpenAIに対して著作権侵害を主張し、訴訟を起こしたと報告されています。

💡AI models

AIモデルとは、人工知能のアルゴリズムとデータセットに基づいて学習されたシステムです。ビデオでは、OpenAIがAIモデルをトレーニングする際にメディアと協力するかどうかが議論されています。

Highlights

Former OpenAI employees have sued the company, warning that it and its rivals are building AI with unnecessary risk and without sufficient oversight.

They are calling on leading artificial intelligence companies to be more transparent and provide strong protections for whistleblowers.

This lawsuit follows OpenAI's decision to focus on long-term risks and its rivalry with other technology companies.

The former employees claim OpenAI is too aggressively pursuing profits and market share, neglecting the responsible development of AI products.

OpenAI was initially a nonprofit research lab with the aim of developing AI products differently from large public-traded companies like Meta, Microsoft, or Amazon.

The lawsuit outlines concerns about the control of autonomous AI systems and the potential risks they pose.

It cites researchers like 'P DOOM', who argue that if AI becomes too smart, it could exceed human intelligence and potentially turn against us.

While acknowledging the hypothetical nature of AI-driven killbots, the lawsuit emphasizes real risks such as deepfakes, impersonation, and misinformation spread by AI.

Former employees assert that OpenAI does not care enough about these real risks and is not doing much to mitigate them.

The media world is divided over whether to partner with OpenAI, with some seeing potential for revenue and others concerned about copyright infringement.

The Associated Press and Axios Media have partnered with OpenAI to gain access to content for training AI models.

In contrast, the New York Times is suing OpenAI over copyright infringement, claiming OpenAI used their articles without consent or payment.

Publishers are now taking different strategies, with some retracting deals and others joining the New York Times in their lawsuit against OpenAI.

OpenAI's systems were trained on a corpus of the entire internet, including content from major broadcasters and newspapers.

The debate is intensifying as AI like ChatGPT continues to generate answers based on content from various sources, including the New York Times.

The future of AI development and its relationship with media content is at stake, with different publishers taking sides on how to engage with OpenAI.