Current, former OpenAI employees warn company not doing enough control dangers of AI
Summary
TLDR元OpenAI社員が会社とその競合他社が不適切なリスクと監督なしに人工知能を開発していると訴える公開手紙を出しました。彼らは人工知能企業に対して、より透明性を持って、告発者に対する強力な保護を提供するよう求めています。OpenAIは長期的なリスクとトレーダーに焦点を当てた後、この問題が浮上しています。技術記者であるボビー・アリンは、これらの開発を追跡しており、彼らはOpenAIが利益と市場シェアを積極的に追求していると批判していますが、責任を持ってAI製品を開発するという元々の目的から外れていると指摘しています。また、メディア業界はOpenAIと協力するかどうかについて議論が分かれており、ニューヨーク・タイムズは著作権侵害でOpenAIを訴えています。
Takeaways
- 📜 元OpenAI社員が会社とその競合他社を提訴し、人工知能のリスクと監督の不足を指摘しています。
- 🔎 彼らは人工知能企業に対して、より透明性を持って情報開示し、告発者に対する強力な保護を求めています。
- 🛑 OpenAIは長期的なリスクとトレーダーに焦点を当てたチームのフォーカスを変更したと報告されています。
- 🤖 技術記者Bobby Allynは、これらの開発を追跡しており、彼らが抱える懸念について説明しています。
- 💡 元社員はOpenAIが利益と市場シェアを積極的に追求していると批判しており、AI製品の責任ある開発に注力していないと主張しています。
- 🏥 OpenAIは非営利の研究ラボとして設立されており、他の巨大な公開企業とは異なり、テクノロジーの競争を避けるための非営利の回答を提供する予定でした。
- 🚨 彼らは自主的AIシステムに関する研究を引用し、人工知能が人類を超え、潜在的なリスクをもたらす可能性があると警告しています。
- 👀 しかし、彼らはディープフェイクやAIによる偽の個人の模倣、誤解を招く情報の拡散などの現実のリスクに焦点を当てています。
- 📰 メディア業界はOpenAIと協力するかどうかについて分かれており、関連する出版社は収益をもたらす可能性があると言っています。
- 🤝 一方で、ニューヨーク・タイムズは著作権侵害のためにOpenAIを訴え、彼らの記事を無断で使用し収益化していると主張しています。
- 🤔 出版社は契約を取り消し始めており、ニューヨーク・タイムズはOpenAIに対する法的戦線を築いていますが、さまざまな戦略が見られます。
Q & A
OpenAIの元従業員たちはなぜ訴訟を起こしましたか?
-OpenAIの元従業員たちは、会社が不適切なリスクと不十分な監視の下で人工知能を構築していると主張し、特に長期的なリスクとトレーダーに焦点を当てた後に訴訟を起こしました。
彼らは人工知能企業に対して何を求めていますか?
-彼らは人工知能企業に対して、より透明性を持って行動し、吹き溜まり者に対する強力な保護を提供するよう求めています。
OpenAIはどのようにして利益と市場シェアを追求していると批判されていますか?
-元従業員はOpenAIが責任を持ってAI製品を開発するのではなく、利益と市場シェアを積極的に追求していると批判しています。
OpenAIは当初どのような目的で設立されましたか?
-OpenAIは当初、非営利の研究ラボとして設立されており、異なるAI製品を開発することが目的でした。
OpenAIが大きなテクノロジー企業のように振る舞っていると批判されている理由は何ですか?
-彼らはOpenAIが当初の目的から外れ、大きなテクノロジー企業のように振る舞い、彼らと競争していると批判しています。
人工知能のリスクについて彼らは何を主張していますか?
-彼らは人工知能のリスクが現実のものであり、ディープフェイクや人々を模倣するAI、誤解を招く情報の拡散などが挙げられると主張しています。
ニューヨーク・タイムズはなぜOpenAIを訴えていますか?
-ニューヨーク・タイムズは、OpenAIが彼らの記事を無断で使用し、その知識とオリジナルな仕事を無断で収益化していると主張して訴えています。
メディア業界はどのようにしてOpenAIと協力するかどうかを決めていますか?
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らのコンテンツが無断で使用されていることを理由に訴訟を起こすかという2つの異なる戦略を検討しています。
OpenAIはどのようにしてコンテンツをトレーニングに使用していますか?
-OpenAIはインターネット全体のコンテンツをトレーニングに使用しており、その中には大きなブロードキャスターや新聞社の記事も含まれています。
OpenAIが直面している問題についてメディア業界の意見はどのように分裂していますか?
-メディア業界はOpenAIとの協力によって収益をもたらすか、それとも彼らの記事が無断で使用されていることを理由に訴訟を起こすかという2つの異なる意見に分裂しています。
Outlines
🚨 AI開発におけるリスクと透明性の訴え
元OPENAI社員たちが、会社とそのライバルが不適切なリスクと十分な監督なしに人工知能を開発していると訴える公開手紙を出しました。彼らは人工知能企業に対して、より透明になるよう求めており、内部告発者に対する強い保護を求めています。OPENAIは長期リスクとトレーダーに焦点を当てたと発表しましたが、彼らは利益と市場シェアを積極的に追求していると批判しています。彼らはOPENAIがAI製品を責任を持って開発しておらず、他の大きな公開企業と競争していると主張しています。彼らはAIの危険性についても警告しており、ディープフェイクや人々を模倣するAI、誤解を招く情報などを挙げていますが、これらはまだ現実の問題です。
📰 メディアとOPENAIの関係性に関する議論
OPENAIはメディアと協力し、AIモデルのトレーニングに使用するコンテンツにアクセスできるようになることが話題になっています。一方で、ニューヨーク・タイムズは著作権侵害のためにOPENAIを訴えています。出版業者の中には、OPENAIと協力し、将来性のある収益源になるかもしれないと期待する声もありますが、ニューヨーク・タイムズのように、自分の記事を無断で使用され、その知識とオリジナルな仕事を無断で商業化されたとして、訴訟を起こしているものもあります。出版業者の中には契約を解除する動きもありますが、OPENAIは彼らの戦略を続けています。CHATGPTはニューヨーク・タイムズの記事やその他のメディアの記事をもとにした回答を提供しており、これは今後のメディアとAIの関係性に関する議論の鍵となるでしょう。
Mindmap
Keywords
💡OpenAI
💡Whistleblower
💡Artificial Intelligence
💡Risk
💡Transparency
💡Long-term risks
💡Deepfakes
💡Misinformation
💡Copyright infringement
💡AI models
Highlights
Former OpenAI employees have sued the company, warning that it and its rivals are building AI with unnecessary risk and without sufficient oversight.
They are calling on leading artificial intelligence companies to be more transparent and provide strong protections for whistleblowers.
This lawsuit follows OpenAI's decision to focus on long-term risks and its rivalry with other technology companies.
The former employees claim OpenAI is too aggressively pursuing profits and market share, neglecting the responsible development of AI products.
OpenAI was initially a nonprofit research lab with the aim of developing AI products differently from large public-traded companies like Meta, Microsoft, or Amazon.
The lawsuit outlines concerns about the control of autonomous AI systems and the potential risks they pose.
It cites researchers like 'P DOOM', who argue that if AI becomes too smart, it could exceed human intelligence and potentially turn against us.
While acknowledging the hypothetical nature of AI-driven killbots, the lawsuit emphasizes real risks such as deepfakes, impersonation, and misinformation spread by AI.
Former employees assert that OpenAI does not care enough about these real risks and is not doing much to mitigate them.
The media world is divided over whether to partner with OpenAI, with some seeing potential for revenue and others concerned about copyright infringement.
The Associated Press and Axios Media have partnered with OpenAI to gain access to content for training AI models.
In contrast, the New York Times is suing OpenAI over copyright infringement, claiming OpenAI used their articles without consent or payment.
Publishers are now taking different strategies, with some retracting deals and others joining the New York Times in their lawsuit against OpenAI.
OpenAI's systems were trained on a corpus of the entire internet, including content from major broadcasters and newspapers.
The debate is intensifying as AI like ChatGPT continues to generate answers based on content from various sources, including the New York Times.
The future of AI development and its relationship with media content is at stake, with different publishers taking sides on how to engage with OpenAI.
Transcripts
D
FORMER OPENAI EMEMOYEES HAS
SUED A PUBLIC LETTER W WNING
THAT T T COMPANY AND ITS RIVALAL
ARE BUILDIDI ARTIFICIAL
INTELLIGENCE WITH UNUNE RISK AND
THOUT SUFFICIENT OVERSRSHT.
THEY'RE CALLING O OLEADING
ARARFICIAL INTELLIGENCE
COMPANIES TO B BMORE TRANSPARENT
AND PROVIDE STRONGNG PROTECTIONS
FOR WHISTLEBLOWERS.
THIS COMES AFTFT OPENAI
DIDIANDED ITS TEAM FOCUSEDEDN
LONG-TERERAI RISKS, AND TWOADER.
TECHNOLOGY CORREREONDENT BOBBY
ALLYN WHO HAS BEEN COVOVING ALL
THTHE DEVELOPMENTS, AND MOMO.
TELL US M ME A AUT WHO IS BEHIHI
THIS OPEN N TTER AND WHAT
SPECIFICALLY THEY Y E ASKING
FOFO
BOBBY: I 'S A NUMBER OF C CRENT
D FORMER OPENAIMPLOYEES.
I ASKED HE SPOKE TO O E OF THEM
ST TODAY ANDHAT THEY A A
SAYING I IS R RLLY L LD AND CLE.
THEY THINK OPENAI IS TOTO
AGGRESSIVELYLYN SEARCH OF
PROFITS AND MARKET SHARE IN THAT
THEY ARE NOT FOCUSUS ON
RESPONSIBLY DEVELOLONG AI
PRODUCTS.
REMEMBER, THIS IS R RLLY
IMPORTRTT BECAUSE OPENANA STARTD
ASAS NONPROFIT RESEARCH LAB
WHWHE AIM WHEN IT WASOUNDED
WAS TO DEVELOP AI PRPRUCTS
DIFFERENT THANN META O MICICSOFT
OR AMAMAN, WHIHI ARE THESESEUGE
PUBLICIC TRADED COMPAPAES THAHA
ARE COMPEPENG WITH ONE A ATHER.
OPENEN WAS SUPPOSED TO O A
NONPROFIFI ANSWER TOTOIG TECH AD
THESE EMPLOYEES SAYAY LOOK, IT
LOOKS LIKE YOU ARERE OPEPETING
JUJU L LE BIG TECH, PUSHING O O
JUST IS NOT REAEA FOR THEM.COCTY
OFF: THEHEETTER LAYAYOUT A
OF THE TANA AI SYSTEMS - -TROL
AUTONOMOUS AI SYSTEMSMS
WHAT DO THEHE FOLKS KNOW THAT WE
DOD'T AND HOW SERIOUSUS SHOULD
BOBBY: IT SOUNDS PRETTYY DIRE ED
IT GOES S CK TO THIS NERDY
CITINGNGHATI RESEARCHERS LIKE
P DOOM.
THEY LIKE BRINGING THIS UP
BECAUSE,E,OU KNOW,HE THEORY IS
IFIFI GETS REALLY SMART, IFF IT
CAN EXCXCD, YOU KNOW, THE S SLLS
AND BRAINPOPOR OF HUMAMATY,
MAYBE E E DAY, IT WILL TURN ONON
US.
EXERCISE AT THISIS POINT THATC
THESE S ST OF KILLLL ROBOTS
WOWOD BE MARCHING AROUND CITIES
AT WAR WITH HUMANITY..
I DON'TTHINK WE ARE ANYWHERE
NEAR THAT.
THEY ARE UNDERSCORININTHIS.
THAT IS A HYPOTOTTICAL RACE BUT
WE ARE SEEING REAL R RKS PLAY
OUT EVERY SINGLE DAY WHETHER I I
IS THE RISISOF DEEPFAKESES
WHETHER I I IS AI BEING G ED TO
IMPERSONATE PEOPLE, W WTHER IT
ISISI BEING USED TWO
SUPERCHAHAED INTEREST
MISINFORMATION AROUND D E WEB,
THTHE ARE REAL RISKS THAT
ACCORDING TO THESE FORMER
EMPLOYEES, OPENAI DOES NOT CARAR
ENOUGH ABOBO AND IS NOT DOING
MUCH TO MITIGATE.
GEOFF: IN OTHER OPEPEI NEWS, THE
MEDIA A RLD SEEMS TO BE SPLITT
OVER WHETHER TO O RTNER WITH THE
COMPANAN
ASSOCIATED PRESSSS ANDOX MEDIA
WHWHH ALLOWS THEM TO GAINCCESS
TO THEHEONTENT TO HELP TRAIN
THEIR AI MODELS.
MEANTIME, YOU GOT THE NEW YORK
TIMES SUING OPENAI OVERER
COPYRIGHT T FRINGEMENT.
HOW DO YOUEE THIS ALL SHAKINGNG
ON BOTH SIDES OFOF THIS DEBATE
OVER WHETHER T TLEY WORK WITH
OPENAI?
BBY: OPENAII HAS PUBLISHERS BY
THECRUFFF THEIR NECK.
SYSTEMS WERE TRAINED ONHE
CORPUS O OTHE ENTIRENTERNET
D THATNCLUDES EVERY LARGE
BROAOAASTER AND NEWSPAPER Y Y
CAN THINK K AND AS YOU
MEMEIONED, THERE ARE TWOWOAMPS
EMERGING NOW.
IN THE ONE CAMP ARE T T
PUBLISHERSRSHO SAID LET' TRY T T
BRING SOMOMREVENUE IN.
T'S P PY NICE W WH OPENAI
BEBEUSE WE HAVE NO CHOICIC
THIS IS THTH FUTUTE..
OPENAI IS G GNG RUTHLESESY
TOWARDS S IS DIRECTION.
T'S TRY TO MAKEKEOME MONEY
RE.
YOU HAVE T TSE WHO H HE CHOSEN
E OTHER DIRECTION WHICIC IS N N
OPENAI.
YOU TOOK ALL O OF OUR ARTRTLES
WITHOUOUCONSENT, WITHOUT PAYMENT
AND NOW, YOUU ARE M MING L LS OF
MONEY OFF OF THE KNOWOWDGE AND
REPORTININ AN O OGINAL WORK THAA
GOES INTNT G G NEW YORK TIMES
ARTICLE, W D D'T WANT T STRIKE
A A CENSING DEAL.
IN FACT, YOUR SYSTEMS A A BASED
ON MATERERL THAT WAS STOLEN FROM
US SO YOU OWE US S LOT OF MONEY
AND WE DO NOT WANT TO PLALANICE.
THEE WAY IT IS S ING TO SHAKE OT
IS SOMOMPUBLISHERS ARERETRIKING
THTHSEALS AND OTHERS WILLLLOIN
THE NENEYORK TIMES CRUSADE TO O
AFTER OPENEN BUT IT'S A REALLY
INTERESTING TIME B BAUSE NO
MAMAER WHAT,HEY HAVE THIS
MATERIAL.
RIGHT?
CHATGPT, EVERY TIMIMYOU ASK IT A
QUESTION, IT IS SPITTITI OUT
ANSWERERTHAT ARE BASED IN PARTRT
ON NEW Y YK TIMES ARTICLES, ANDD
PR ARTICLES,S,OU NAME IT, SO
THTH IS THE FUTURE.
TAKE THEM M COURT?L OR DO YOU
WE ARE SEEING DIFIFRENT SORT OF
STRATEGIGI HERE.
GEOFOF THATT IS BOBOY ALLEN.
THTHK YOU SO MUCH FOR BEIEI WITH
US..
BOBBY:Y: THANKS.
تصفح المزيد من مقاطع الفيديو ذات الصلة
シンギュラリティ×暴走×完全なる仮想世界|希少種となるオリジナル、そして、、【未来予測 2045】人工知能 AI AGI
Microsoft's new "Embodied AI" SHOCKS the Entire Industry! | Microsoft's Robots, Gaussian Splat & EMO
BREAKING: ELON MUSK Drops OPEN AI BOMBSHELL "AGI Achieved" (Elon Musk Lawsuit) Q" QSTAR
Apple devices face ban at Musk companies | World Business Watch
How Microsoft Approaches AI Red Teaming | BRK223
AI News: AGI In 2 Years, Meta’s LEAK, AI Sarcasm Detector & More
5.0 / 5 (0 votes)