ЗАПРЕЩЕННОЕ ИНТЕРВЬЮ бывшего ген Директора Google: «Вы даже не представляете, что вас ждет»

Summary

Эрик Шмитт, бывший генеральный директор Google, выразил предположение о том, что реализация искусственного интеллекта (ИИ) повлияет на мир в непредвиденном масштабе. В интервью на YouTube он рассматривает возможности контекстных окон, ИИ-агентов и генеративных алгоритмов, предполагая их влияние на общество. Обсуждаются проблемы дезинформации, необходимость критического мышления и будущее образования в области компьютерных наук. Шмитт также высказал свое мнение о геополитической ситуации в области ИИ и стратегиях для США.

Takeaways

• 🌐 Эрик Шмитт, бывший генеральный директор Google, выразил мнение о том, что реализация искусственного интеллекта (ИИ) повлияет на мир в непредсказуемом масштабе.
• 🗣️ Интервью Шмитта, которое было удалено с YouTube, говорило о спорных вещах, включая влияние ИИ на общество.
• 🔍 Шмитт предположил, что контекстные окна ИИ могут быть использованы как кратковременная память и могут иметь ограничения в обработке и вычислениях.
• 🧠 Он упомянул, что кратковременная память ИИ подобна работе человеческого мозга, забывая некоторые детали при обработке большого объема информации.
• 🤖 Существуют ИИ-агенты, которые изучают и создают знания в областих, таких как химия, и это может привести к революции в науке.
• 🚀 Шмитт предложил примеры мощности ИИ, включая создание копии TikTok с учетом пользовательских предпочтений и музыки за 30 секунд.
• 💡 Он подчеркнул, что в будущем у каждого будет свой персональный программист-ИИ, который будет делать то, что они хотят без необходимости оплаты.
• 💸 По мнению Шмитта, для достижения искусственного общего интеллекта (AGI) потребуется огромное количество инвестиций и энергии.
• 🌿 Он предложил идею о дружелюбных отношениях с Канадой из-за ее вклада в изобретение ИИ и наличие гидроэлектроэнергии.
• 🏆 Шмитт также обсудил конкуренцию в области ИИ между странами, подчеркнув, что битва между США и Китаем за лидерство в области знаний может перерасти в более серьезный конфликт.

Q & A

Что Эрик Шмидт, бывший генеральный директор Google, рассказал в своем интервью в Стэнфорде?

Эрик Шмидт рассказал о многом, включая спорные вещи, влияние реализации массового контекста и генеративных алгоритмов на мир, использование контекста окна как кратковременной памяти, создание агентов, которые учатся на основе чтения и добавления знаний в своё понимание, а также о том, что в ближайшие год-два у каждого человека будет свой программист в кармане, который будет делать то, что вы хотите.

Почему видеоинтервью Эрика Шмидта было удалено с YouTube?

В интервью Эрик Шмидт говорил о спорных вещах, и возможно正是 из-за этого его видео было удалено с YouTube. Конкретные причины неизвестны, но предполагается, что это могло быть связано с политикой платформы или требованиями правовых сторон.

Какие технические проблемы связаны с контекстными окнами?

Технические проблемы, с которыми сталкиваются контекстные окна, включают сложность обслуживания, вычисления и ограничение в размерах, что приводит к тому, что они забывают середину информации, что аналогично тому, как человеческий мозг работает.

Что такое агенты ИИ и как они могут быть использованы?

Агенты ИИ - это программы, которые могут читать и изучать различные области знаний, такие как химия, создавать гипотезы и учиться на основе результатов тестов. Они могут быть использованы для ускорения научных исследований и развития.

Какие изменения ожидаются в области образования в области компьютерных наук?

Образование в области компьютерных наук должно измениться с учетом появления ИИ-агентов, которые станут партнёрами студентов. В процессе обучения учащиеся будут работать с ИИ-агентами для более эффективного изучения концепций.

Как Эрик Шмидт считает, что компании, включая Google, могут быть уязвимы перед комбинацией контекста окна, ИИ-агентов и генеративных алгоритмов?

Эрик Шмидт считает, что большое контекстно окно, ИИ-агенты и генеративные алгоритмы могут сделать компании уязвимыми, так как они могут быстро создавать конкурентные продукты и услуги, что может снизить их рыночное положение.

Какие краткосрочные и долгосрочные решения могут помочь справиться с дезинформацией?

Краткосрочными решениями могут быть улучшение мониторинга и фильтрации контента на платформах социальных сетей. Долгосрочными решениями являются развитие критического мышления у населения и создание более эффективных систем контроля за дезинформацией.

Чем Эрик Шмидт занимался во время своей работы в Министерстве обороны?

Эрик Шмидт пытался изменить способ управления армией, снизить стоимость роботов и использовать ИИ для создания дешёвых роботов, способных заменить танки и другие военные средства.

Какие страны, по мнению Эрика Шмидта, могут стать лидерами в области искусственного интеллекта?

Согласно Эрику Шмидту, лидерами в области искусственного интеллекта могут стать страны с большим количеством талантов, сильными образовательными системами и большими финансами, такие как США, Китай и Индия.

Чем Эрик Шмидт критикует работу Google?

Эрик Шмидт критикует Google за сдвиг фокусировки с работы и достижений к балансу между работой и личной жизнью, что, по его мнению, делает стартапы более конкурентоспособными.

Outlines

00:00

🌐 Влияние реализации AI在全球范围内

Эрик Шмидт, бывший генеральный директор Google, предупреждает о том, что массовая реализация искусственного интеллекта (AI) окажет непредсказуемое воздействие на мир. В интервью в Стэнфорде он рассказал о спорных технологиях и их влиянии. Видео с интервью было сначала опубликовано на YouTube, но затем удалено. Перевод этого интервью доступен для просмотра и обсуждения. Шмидт также обсудил контекстные окна, агентов и генеративные алгоритмы, которые в дальнейшем повлияют на мир гораздо больше, чем социальные сети. Он предположил, что в будущем каждый человек будет иметь собственного программиста-AI, который будет выполнять задачи безвозмездно.

05:01

💡 Необходимость больших инвестиций в AI

Для достижения(Artificial General Intelligence - AGI) необходимы значительные инвестиции в области искусственного интеллекта. Шмидт подчеркивает, что требуется огромное количество данных и моделей. Он также указывает на то, что необходимо научиться создавать синтетические данные и работать более эффективно с существующими данными. Сравнение с работой в Google и текущей ситуацией в области открытого искусственного интеллекта (AI), где Google, похоже, потерял инициативу. Обсуждение баланса между работой и личной жизнью и его влияния на конкуренцию в индустрии AI.

10:02

🛡️ Конкуренция и военные применения AI

Обсуждение глобальной конкуренции в области AI, с фокусом на том, как一些小国сможет выиграть,если они не будут следовать передовым моделям AI. Рассматривается также важная тема военных применений AI, включая проект White ST, который стремится к созданию дешёвых беспилотников для изменения характера ведения военных операций. Шмидт делится своими мыслями о том, как AI может привести к неизвестным изменениям в области знаний и военного дела.

15:04

🤖 Тестирование и контроль AI-систем

Обсуждение методов контроля и тестирования AI-систем, включая использование состязательных AI для нахождения уязвимостей и улучшения систем. Важность понимания пределов AI и необходимости создания более продуманных тестов для оценки эффективности AI. Также рассматривается инвестиционный пузырь в области AI и его возможные последствия.

20:06

🌐 Влияние AI на будущее образования и программирования

Обсуждение влияния AI на будущее образования в области компьютерных наук и программирования. Предположение о том, что AI-агенты stanут партнёрами студентов-программистов и как это изменит процесс обучения. Также затрагивается вопрос устойчивого развития и сохранения талантов в Индии и других странах с растущим потенциалом в области AI.

25:08

🌟 Заключение и вызов к действию

Заключительная часть видео с обобщением основных тем и вызовом к действия для зрителей. Поддержка каналу через лайки и подписки, а также анонс следующего видео.

Keywords

💡Искусственный интеллект (AI)

Искусственный интеллект (AI) - это область информатики, которая создает системы, способные выполнять интеллектуальные задачи, обычно выполняемые людьми. В видео это ключевой концепт, так как разговор ведет о том, как развивается AI и как он будет влиять на будущее. Например, упоминается о контекстных окнах, агентах и генеративных алгоритмах, которые являются частями развития искусственного интеллекта.

💡Контекстные окна

Контекстные окна - это концепция, связанная с AI, которая предполагает использование контекста для улучшения ответов и решений. В контексте видео, это связано с тем, как AI может использовать контекст для решения задач и предоставления информации. Например, упоминается, что контекстные окна становятся длинными и сложными для обслуживания, что указывает на их расширение и использование в AI.

💡Агенты AI

Агенты AI - это программы или системы, способные выполнять задачи без непосредственного управления. В видео упоминается создание агентов AI, которые могут изучать науки, такие как химия, и генерировать гипотезы. Это демонстрирует, как агенты могут быть использованы для ускорения научных исследований и других задач.

💡Генеративные алгоритмы

Генеративные алгоритмы - это тип машинного обучения, который может создавать новые примеры данных на основе обученных данных. В видео говорится о генеративных алгоритмах текста, что указывает на создание текста с помощью AI. Это связано с тем, как AI может быть использован для создания контента, например, для поисковых систем или социальных сетей.

💡Дезинформация

Дезинформация - это распространение ложной информации с целью воздействия на общественное мнение. В видео упоминается, что дезинформация будет генерироваться социальными сетями и что это одна из угроз демократии. Это подчеркивает важность критического мышления и борьбы с дезинформацией в эпоху развивающегося AI.

💡Энергетическое сверхдержава

Энергетическое сверхдержава - это концепция страны, которая обеспечивает себя достаточным количеством энергии для поддержания своих потребностей и возможно, для экспорта. В видео упоминается идея превратить США в энергетическую сверхдержаву, что связано с поддержкой разработок в области AI и обеспечением необходимых ресурсов для этого.

💡Трансформеры

Трансформеры - это архитектура машинного обучения, которая используется для обработки естественного языка. В видео упоминается, что Google изобрела архитектуру машинного обучения трансформеров, что указывает на важность этой технологии в развитии AI и его применении в поисковых системах и других продуктах.

💡Состязательный AI

Состязательный AI - это концепция использования AI для тестирования и улучшения других систем AI. В видео говорится о создании соревновательных AI, которые будут нанимать компании для взлома существующих систем AI и поиска уязвимостей. Это демонстрирует, как AI может быть использован для улучшения безопасности и надежности других систем.

💡Цепочка мысленных аргументов

Цепочка мысленных аргументов - это методика, используемая в машинном обучении для решения сложных задач, разбивая их на последовательность более простых шагов. В видео упоминается цепочка мысленных аргументов в контексте обучения AI и понимания пределов, которые система может достигнуть. Это ключевой элемент для контроля и улучшения производительности AI.

💡Отворенный исходный код

Открытый исходный код - это термин, обозначающий программное обеспечение, для которого исходный код доступен для просмотра, изменения и распространения. В видео упоминается, что большая часть основ Google была с открытым исходным кодом, что подчеркивает важность открытости и доступности для развития и инноваций в области AI.

Highlights

Эрик Шмитт, бывший генеральный директор Google, дал интервью в Стэнфорде о спорных вещах.

Интервью было удалено с YouTube, но доступ к нему было восстановлено.

Шмитт говорит о масштабе влияния реализации массового использования новых технологий.

Влияние контекстных окон как кратковременной памяти и их потенциал.

Агенты ИИ, способные читать и создавать знания, как в области химии.

Предложение Шмитта: создать копию TikTok с помощью ИИ для проверки возможностей.

Переход от произвольного языка к произвольной цифровой команде как революционный шаг.

Предвидение того, что у каждого будет свой программист-ИИ в кармане.

Требование больших инвестиций для достижения AGI от бывшего директора Google.

Сравнение с Канадой и арабами по поводу инвестиций и энергетики для ИИ.

Шмитт говорит о недостатке энергетических ресурсов для создания AGI.

Трудности с открытым исходным кодом и ИИ в Google对照 с антроп Cloud.

Влияние文化的 на работу и успех технологических компаний.

Перспективы развития искусственного интеллекта и необходимость инвестиций.

Риск инвестиционного пузыря в области искусственного интеллекта.

Возможности ИИ в области образования и компьютерных наук.

Глобальная дезинформация и социальные сети как основные источники.

Визы Индии и сохранение талантов для развития ИИ.

Оценка позиции стран по разработке ИИ и сфере технологий.

Transcripts

когда это будет реализовано массово это

окажет влияние на мир в таких масштабах

которые пока никто не понимает Эрик

шмитт бывший генеральный директор Google

дал интервью в стэнфорде в котором

рассказал о многих спорных вещах

изначально Интервью было выложено на

YouTube канале стэнфорда но через пару

дней его удалили Не только на ютубер

площадках Где оно было опубликовано

потратив несколько часов я каким-то

образом смог получить доступ к этому

интервью я перевёл его для вас и теперь

хочу посмотреть его вместе с вами

прокомментировать самые важные моменты

буду рад поддержке лайкам этот перевод

стоил мне больших усилий Так что

поставьте палец вверх прямо сейчас это

поможет продвижению видеоролика ведь

один лайк - это 10 показов видео Большое

спасибо за поддержку в следующем году вы

увидите очень большие контекстные окна

агентов и и генеративные алгоритмы текст

в

действие когда это будет реализовано

массово это окажет влияние на мир в

таких масштабах которые пока не понимает

На мой взгляд влияние этого будет больше

чем ужасающее воздействие которое

оказали на нас социальные сети и вот

почему контекстное окно по сути можно

использовать как кратковременную память

и Я был потрясён тем что контекстные

окна становятся такими длинными

технические причины связаны с тем что их

сложно обслуживать сложно вычислять и

так далее самое интересное в

кратковременной памяти - это то что

когда вы даёте ей задание прочитать 20

книг отправляя ей тексты эти ниг в

качестве запроса а затем спрашиваете что

в них написано она забывает середину А

ведь именно так работает и человеческий

мозг что касается агентов и сейчас есть

люди которые создают по сути м агентов

что эти агенты делают Они читают что-то

например химию открывают принципы химии

проверяют их а затем добавляют их в своё

понимание это чрезвычайно моно

это текст в действие приведу пример

правительство попытается запретить

tiktok посмотрим получится ли Если

tiktok будет запрещён Вот что я

предлагаю сделать каждому из

вас скажите своему и Агенту следующее

Сделай мне копию тиктока Укради всех

пользователей всю музыку вставь в неё

мои предпочтения создай эту программу в

ближайшие 30 секунд и выпусти

е Чере если она не станет вирусной И

сделать что-нибудь другое в том же духе

Вот такая команда бум-бум-бум

верно вы понимаете насколько Это мощно

если мы сможем перейти от произвольного

языка к произвольной цифровой команде

чем по сути и является питон в этом

сценарии то у каждого человека на

планете будет свой программист в кармане

который действительно будет делать то

что вы хотите в отличие от человеческих

программистов которые работают на меня и

не делают того что прошу программисты

знают о чём я говорю представьте себе не

высокомерного программиста который

действительно делает то что вы хотите и

вам не нужно платить за это деньги И

таких программистов будет бесконечное

множество и всё это в ближайший год-два

Да очень скоро эйдер Девон Пифагор

сейчас существует огромное количество

отличных вариантов помощников для

кодинга Однако и и кодеры способные

создавать полноценные сложные приложения

ещё не появились но обязательно появятся

как говорит бывший директор Google также

он говорит о том что ии агенты смогут

скачивать всю музыку воссоздавать всех

пользователей доставать все секреты

сейчас это невозможно Все эти вещи

сегодня находятся за стеной безопасности

и вы не можете их достать оттуда это как

чёрный заслон Если вы понимаете но Эрик

говорит что в скором времени ии агенты

научатся пробивать этот заслон и по

запросу вос создай мне заблокированный

tiktok они смогут это сделать Я

совершенно убеждён Что именно

объединение этих трёх вещей произойдёт в

следующей волне ии Итак вы спросили меня

о том что ещё произойдёт Каждые 6

месяцев я

колеблются слишком быстро Итак на данный

момент разрыв между передовыми

компаниями которых всего три и всеми

остальными как мне кажется становится

всё больше 6 месяцев назад я был убеждён

что разрыв между ними становится меньше

Именно поэтому я вложил много денег в

маленькие ии компании теперь я не так

уверен я разговариваю с крупными ии

компаниями и они говорят мне что им

нужно 10 млрд 20 50 100 млрд долларов гй

например требует 100 млрд долларов это

очень-очень

жёстко Я разговаривал с самом альтмана

моим близким другом он считает что на ии

потребуется около 300 млрд долларов а

может и больше Я указал ему на то что

сделал расчёты по количеству необходимой

для этого энергии а затем в душевном

порыве пошёл в белый в пятницу и сказал

им что нам нужно стать лучшими друзьями

с Канадой потому что в Канаде очень

хорошие люди она помогла изобрести

искусственный интеллект и у неё много

гидро электроэнергии потому что у нас

как у страны недостаточно сил для этого

альтернатива заставить арабов

финансировать это лично мне арабы

нравятся я провёл у них много времени но

они не собираются придерживаться наших

правил национальной безопасности в то

время как Канада и США являются частью

триумвирата с которым мы все соглас

только в этих центрах обработки данных

стоимостью 100-300 млрд долларов

электричество начинает становиться

дефицитным ресурсом прежде всего он

говорит о том что у нас определённо нет

достаточных энергетических ресурсов для

создания agi сейчас это просто

невозможно для этого экс-директор Google

призывает дружить либо с Канадой либо с

арабами у которых есть Энергия и финансы

здесь мне вспоминаются слова дональда

трампа который пообещал в случае Победы

на выборах превратить США в

энергетическую сверхдержаву где будет

столько электроэнергии что хватит

абсолютно всем и биткойн майнерам и

искусственному интеллекту Эрик также

предполагает что для достижения agi нам

понадобится всё больше и больше данных

всё больше и больше моделей Сэм альтман

говорил похожие вещи Он говорил что нам

нужно уметь делать больше с меньшим или

даже с тем же количеством данных потому

что мы уже использовали все данные

которые когда-либо были созданы человече

и и уже выучил всю базу данных которую

человечество

собиралось Поэтому нам придётся

придумать как создавать синтетические

данные которые будут представлять

ценность а не будут просто деривативами

А ещё нам придётся больше работать с

теми данными которые у нас уже есть вы

долгое время работали в Google и Google

изобрела архитектуру машинного обучени

трансформер Да это всё Питер сделал

Спасибо таким замечательным людям как

Питер н и все остальные но теперь похоже

что они потеряли инициативу в области

открытого ии и даже в последней таблице

лидеров которые я видел antrop Cloud

была на вершине списка а не Google Я

спросил об этом сундара он не дал мне

чёткого ответа Может быть у вас есть

более чёткое или более объективное

объяснение того что происходит с Google

Сегодня я больше не являюсь сотрудником

Google Но я вижу что в Google решили

сдвинуть баланс между работой и личной

жизнью ранний уход домой и работа из

дома важнее чем

Победа Да об этом говорил весь Twitter

Google проигрывает стартапом из-за

сдвинуто в сторону личной жизни баланса

между личной жизнью и работой Это явно

будет менять мир в том виде в котором мы

его знаем естественно стартапы

выигрывают Потому что люди в них

работают как черти Извините за прямоту

но дело в том что если вы все уйдёте из

университета и создадите компанию Вы

точно Не позволите людям работать из

дома и приходить только один раз в

неделю Если хотите конкурировать с

другими когда-то в первые дни

существования Google Microsoft была

такой же именно так в моей отрасли В

нашей отрасли Я думаю существует долгая

история того как компании побеждали

действительно творческим путём

доминировали в каком-то пространстве а

затем не делали следующий переход Это

очень хорошо задокументировано и я думаю

что вся соль в основателя они - это

нечто особенное основатели всегда должны

быть главными Да с ними Трудно работать

они сильно давит на людей но как бы нам

не нравилось личное поведение Илона

маска посмотрите как И чего он

добивается от людей Я ужинал с ним в

монтане в тот же вечер Он улетел в 10:00

вечера чтобы в полночь встретиться с

представителем xai подумайте об этом я

был на Тайване Это другая страна Другая

культура Я был в компании tsmc которая

меня очень впечатлила И у них есть

правило что начинающие доктора наук

которые являются очень хорошими физиками

работают на заводе на цоко эже вы

представляете Что такое будут делать

американские физики и доктора наук очень

маловероятно у них другая Трудовая этика

причина по которой я так сурово отношусь

к работе заключается в том что э система

с сетевым эффектом поэтому время имеет

большое значение а в большинстве

бизнесов Время не имеет такого большого

значения верно У вас много времени

кока-кола и peps всё ещ будут

существовать и борьба между ними будет

продолжаться И оба напитка будут пить со

льдом когда дело с Теле

коммуникационными компаниями типичная

Сделка с ними занимала 18 месяцев Но нет

причин тратить 18 месяцев на что-то

просто Сделайте это мы находимся в

периоде максимального роста и

максимального прироста и и также будет

играть роль в конкуренции с Китаем я был

председателем комиссии по ии которая

очень внимательно это изучала и вы

можете прочитать наш доклад Это около

752 страниц Я просто подведу итог сказав

что мы впереди нам нужно оставаться

впереди и нам нужно много денег чтобы

оставаться впереди нашими клиентами были

сенат и палата представителей из-за

нашей работы появился закон о чипах и

много других подобных вещей грубый

сценарий таков что если вы не принимаете

передовые и и модели которые двигаются

вперёд а за ними ещё несколько моделей с

открытым исходным кодом то вы проиграете

эту игру лишь небольшое количество стран

может выиграть что это за страны или кто

они страны с большими деньгами и большим

количеством талантов

сильными образовательными системами и

готовностью побеждать США Одна из таких

Китай ещ одна сколько ещ

таких я не знаю может быть но безусловно

при вашей жизни битва между США и Китаем

за превосходство в знаниях перерастёт в

войну поэтому правительство США по сути

запретило чипы н видия в Китае хотя им

не разрешается открыто об этом говорить

но они действительно сделали это в Китае

у нас примерно десятилетнему в чипах с

точки зрения чипов размером менее 5

нанометров примерно 10 лет и Вот пример

Сегодня мы на пару лет Опережая Китай Я

предполагаю что мы опередить Китай ещё

на несколько лет и китайцы из-за этого в

ярости они очень расстроены Давайте

поговорим о настоящей войне которая идёт

Я знаю что вы были очень вовлечены в

войну в Украине и в частности Я не знаю

можно ли об этом говорить но у вас есть

проект White ST и его цель чтобы

беспилотники за 500 долларов жа танки

стоимостью 5 млн долларов как это

изменит войны я 7 лет работал на

Министерство обороны и пытался изменить

способ управления нашей армией Я не

особо большой поклонник армии Но она

очень дорогая и я хотел посмотреть Смогу

ли я быть полезен и я думаю на мой

взгляд Я в значительной степени потерпел

неудачу они даже дали мне медаль за это

они теперь начали раздавать медали

неудачникам или что-то в этом роде Но

моя самокритика заключалась в том что

ничего на самом деле не изменилось и

система в Америке не ведёт к настоящим

инновациям поэтому наблюдение за тем

[смех]

как просто сводило меня с ума Поэтому я

решил создать компанию с вашим другом

себастьяном труновой кучей людей из

стэнфорда наша идея была сделать две

вещи первое использовать ии сложными

мощными способами для этих по сути

роботизированных воин и вторая снизить

стоимость роботов Теперь вы сидите там и

думаете зачем такому хорошему либера как

я это делать и ответ в том что вся

теория военного дела Сегодня - это танки

артиллерия и миномёты и мы можем

устранить это всё с помощью дешёвых

роботов в прошлом году вы Генри

Киссинджер и Дэн хаттен написали

статью о природе знаний о том как они

развиваются недавно вечером я тоже

обсуждал это большую часть истории люди

имели мистическое понимание Вселенной а

потом наступила научная революция и

Просвещение и в своей статье вы

утверждаете что сейчас эти ии модели

становятся настолько сложными и трудными

для понимания что мы на самом деле не

знаем что в них происходит я возьму

цитату Ричарда фейнмана он сказал чего

не могу воссоздать того не понимаю но

теперь люди создают вещи которые они не

могут понять люди на самом деле не

понимают что у них внутри Меняется ли

каким-то образом природа знания Неужели

нам просто принять и на веру чтобы он

сам нам ВС

объяснил Я бы провёл аналогию с

подростками если у нас есть подросток Вы

знаете что он человек но вы не можете

понять о чём он думает но каким-то

образом общество умудрилась

адаптироваться к присутствию подростков

и они в конечном итоге перерастают это

без шуток Так что вероятно у нас будут

системы знаний которые мы не сможем

полностью понять но мы понимаем их

границы верно мы понимаем пределы того

что они могут сделать И это вероятно

лучший результат на которые мы можем

рассчитывать Как вы думаете как мы

поймём эти пределы в скором времени мы

сможем это сделать фактически он говорит

что эти ии модели которые они создают

это как чёрный ящик он выдаёт нам ответы

на наши запросы Но даже создатели

чёрного ящика не знают как именно они

появляются и какие узлы загораются в

алгоритме сейчас же ведётся большая

работа в попытке раскрыть то что

происходит в этом чёрном ящике но пока

что мы просто не знаем по общему мнению

моей группы которая собирается каждую

неделю в конечном счёте Чтобы понять

нужно будет создать состязательный ии

появятся компании которые вы будете

нанимать и вы будете платить им за то

что они ломают ваши системы ии ну да

сейчас например Это Red Team Да но

вместо человеческой Red Team у вас будет

целая индустрия ии систем Чья работа

взламывать существующие системы ии и

находить их уязвимости и особенно важно

находить знания которые у них есть и

которые мы не можем понять мне это

кажется разумным также это отличная

возможность и для вас здесь в стэнфорде

потому что например у вас есть аспирант

который должен выяснить как атаковать

одну из самых больших ии моделей и

понять что она делает Это отличный навык

для создания следующего поколения Хорошо

давайте отве неко вопросов есть один

прямо вон там в конце Ранее Вы упомянули

что мы получим и который Действительно

делают то что нам нужно но вы только что

упомянули состязательные ии и мне

интересно могли бы вы рассказать об этом

подробнее похоже он приведёт к росту

вычислительных мощностей и к появлению

более производительных моделей но как

именно заставить его делать то что нам

нужно мне кажется это проблема Вы должны

предположить что нынешние проблемы

уменьшаются по мере совершенствования

технологи и так далее но я не

предполагаю что они исчезнут полностью и

вы ещё должны понять что существуют

тесты на эффективность то есть должен

быть способ узнать удалось нам это

сделать или нет Я приводил пример с

тиктоком Кстати я не утверждал что вы

должны незаконно красть музыку у всех но

что бы вы сделали если бы стали

предпринимателем из кремневой Долины

которыми Надеюсь вы все будете если бы

ваша ии пародия на tiktok взлетела то вы

бы наняли целую кучу юристов чтобы они

навели порядок Но если никто не

пользуется вашим продуктом совершенно

неважно что вы украли этот контент Так

мы же вас снимаем Да верно Но вы

понимаете к чему я клоню другими словами

кремниевая Долина проведёт эти тесты и

наведёт порядок и именно так обычно и

делаются такие вещи Так что по моему

мнению вы увидите всё больше и больше и

систем с ещё лучшими тестами и в

конечном итоге состязательные тестами И

это всё будет держать это под контролем

под нашим контролем технический термин

Для этого называется Chain of thought

reasoning цепочка мысленных аргументов и

люди верят что в ближайшие несколько лет

мы сможем сгенерировать тысячу таких

цепочек это как создание рецептов Вы

можете взять рецепт и фактически

проверить чтобы он дал правильный

результат цепочка мысленных аргументов в

машинном обучении нейросетях и ии

агентах - это как я понимаю разбитие

проблемы на множество шагов затем мы

решаем каждый шаг И решение каждого шага

позволяет перейти к следующему дойдя до

конца цепочки мы оцениваем получившийся

результат и именно так понимаем делает

ли и и то чего мы от него хотим по

крайней мере об этом говорит

экс-директор Google уверяя что таким

образом мы возьмём всё под свой контроль

суммы денег которые инвестируют

ошеломляющее я думаю что отчасти Это

потому что ране деньги уже заработали и

люди с этими большими деньгами знают что

в их инвестициях должна быть компонента

ии сейчас всё кажется связанным с ии

поэтому они не видят разницы я определяю

ии как обучающиеся системы системы

которые действительно учатся второе

заключается в том что есть очень сложные

новые алгоритмы которые являются своего

рода посттрансфузионные

есть группа которую я

финансируют утверждает что уже сделала

то же самое Это очень большое

изобретение И последнее что есть на

рынке - это убеждение что изобретение

интеллекта имеет бесконечную отдачу

допустим вы вложили 50 млрд долларов в

компанию вам нужно получить огромную

доходность и выручку чтобы вернуть эти

деньги Так что вероятно мы пройдём через

какой-то огромный инвестиционный пузырь

а затем он лопнет сам собой так было

всегда в прошлом И вероятно так будет и

на этот раз в искусственный интеллект

уже было инвестировано около триллиона

долларов а выручка составила всего 30

млрд долларов и на самом деле пока

просто нет соответствующей отдачи от

этих инвестиций но опять же как он

только что упомянул это было и с

предыдущими технологиями тоже огромные

первоначальные инвестиции а затем они

окупаются в конце прямо перед тем как

пузырь лоб самый яркий пример доткомы во

Франции есть компания под названием

мистрал они проделали действительно

хорошую работу я их инвестор они

выпустили свою вторую открытую версию их

третья модель Скорее всего будет

закрытой потому что она очень-очень

дорогая им нужен доход и они не могут

раздавать свою модель поэтому Этот спор

об открытом исходном коде против

закрытого в нашей отрасли огромен и вся

моя карьера была основана на том что

люди были готовы делиться программным

обеспечением с открытым исходным кодом

все модели что связаны со мной с

открытым исходным кодом большая часть

основ Google была с открытым исходным

кодом честно говоря здесь он немного

лукавит Google был полностью за то чтобы

оставаться с закрытым исходным кодом и

всё в Google всегда держалось в секрете

Так что я не знаю о чём он там говорит

Может быть так что капитальные затраты

которые так огромны фундаментально

изменят способ создания программного

обеспечения мы с вами говорили об этом

моё собственное мнение о программистах

заключается в том что производительность

программистов как минимум удвоится есть

три или четыре компании разработчика

программного обеспечения которые

пытаются это сделать Я инвестировал во

все из них и все они пытаются сделать

программистов более продуктивными самый

интересный разработчик с которым я

только что встречался называется Амен

когда я говорю про по Я думаю про

отдельного программиста А они же сказали

что это не их цель их цель - это команды

из 100 человек которые занимаются

программированием миллионов строк кода

где никто не знает что происходит так

здесь ещё есть

вопрос в самом начале вы упомянули что

нас ожидает комбинация увеличения

контекстных окон агентов и и

генеративных алгоритмов текст в действие

и что это будет иметь невообразимые

последствия во-первых Почему Это

сочетание так важно и во-вторых я знаю

что вы не смотрите в хрустальные шар и

не можете предсказывать будущее Но

почему вы думаете что это выходит за

рамки всего что мы могли бы себе

представить Я думаю в основном потому

что контекстное окно позволяет решить

проблему новизны текущие модели

обучаются год примерно 18 месяцев 6

месяцев подготовки полгода обучения ещё

полгода тонкая настройка поэтому они

всегда устаревают в окно контекста Вы

можете вести то что произошло например

Вы можете задать ему вопросы о войне

Хамас Израиль это очень мощно он

становится актуальным как Google

Да по сути так и будет работать sech gpt

например новый поисковый продукт от Open

ai может рыскать по сети шерсти эту сеть

а затем взять всю эту информацию и

поместить её в контекстное окно это та

новизна о которой он говорит в случае с

агентами ии Я приведу вам пример я

создал фонд который финансирует

некоммерческую организацию Есть ли в

комнате химики я не очень её понимаю но

есть инструмент под названием Cam Crow

это система на на основе ии Агента

который изучает химию что они делают они

запускают его чтобы генерировать

химические гипотезы о Белках и у них

есть лаборатория которая проводит тесты

ночью а затем ии Агент учится по

результатам этих тестов это огромное

ускорение для науки для химии для

материала ведения и так далее вот что

такое агенты ии и я думаю что алгоритм

текст к действию удешевить программистов

и я не думаю что мы понимаем что именно

произойдёт когда у каждого будет ии

программист в кармане и я не говорю о

включении и выключении света нет другой

пример по какой-то причине вам не

нравится Google и вы говорите своему и

программисту создай мне конкурента

Google Лично мне создай конкурента

поисковую машину в интернете создай

пользовательский интерфейс сделай

хорошую копию добавь генеративный и и

сделай это за 30 секунд после этого

Посмотрите сработает ли это так что

многие люди считают что действующие

компании включая Google уязвимы перед

такой комбинацией большого контекстного

окна ии агентов и текста к действию Как

мы можем помешать и и влиять на

общественное мнение дезинформацию

особенно во время предстоящих выборов

Каковы краткосрочные и долгосрочные

решения большая часть дезинформации на

предстоящих выборах и во всём мире будет

генерироваться социальными сетями и

компании социальных сетей недостаточно

хорошо организованы чтобы контролировать

это если вы смотрите на tiktok например

есть множество обвинений в том что

tiktok отдаёт предпочтение одному виду

дезинформации перед другим и есть много

людей которые бездоказательно утверждают

что это китайцы заставляют tiktok это

делать Я думаю у нас здесь полный бардак

и стране придётся научиться критическому

мышлению это может быть невыполнимой

задачей для США Но тот факт что кто-то

вам что-то сказал не означает что это

правда я думаю что самая большая угроза

демократии - это дезинформация поэтому

мы собираемся добиться хороших

результатов в борьбе с ней когда я

управлял Ютубом самые большие проблемы

которые у нас были заключались в том что

люди загружали ложные видео и в

результате люди умирали У нас не было

никакой политики На этот счёт это

шокирует Да я добавлю что дело даже не в

потенциальной возможности создания

дипфейков или дезинформации простого

замут нения воды достаточно чтобы

сделать всю эту тему со свободой слова

токсичной неприкасаемого

Мне очень интересно узнать про алгоритм

текст в действие и его влияние например

на образование в области компьютерных

наук мне интересно что вы думаете о том

как должно измениться образование в этой

области чтобы соответствовать эпохе ну я

предполагаю что компьютерщики как группа

студентов всегда будут иметь с собой и

программиста Так что в процессе обучения

у них будет инструмент который станет их

партнёром и именно так будет происходить

обучение профессор будет рассказывать о

концепциях а вы будете работать с ними

через ии Агента это моё

предположение здесь он намекает на то

что после переходной эпохи когда Агент

искусственного интеллекта будет нашим

партнёром на долгосрочной перспективе

программисты скорее всего не понадобятся

в конце концов и илм агенты станут

настолько сложными что будут писать свой

собственный код может быть это дойдёт до

такой точки когда мы даже не сможем

больше читать и понимать этот год

Впрочем я не уверен когда именно это

произойдёт самая интересная страна -

Индия потому что лучшие специалисты по

ии приезжают из Индии в США и мы должны

позволить Индии сохранить некоторых из

её лучших талантов не всех но некоторых

у них нет таких учебных заведений и

программ которые также обеспечены как у

нас Индия - это большое колеблющееся

государство в этом отношении Китай тоже

потерян он не вернётся Они не собираются

менять режим так сильно как этого хотят

и люди Япония и Корея явно в нашем

лагере Тайвань - Фантастическая страна

чьё программное обеспечение ужасно но

при этом у них удивительное аппаратное

обеспечение Так что они тоже не

конкурент в остальном мире не так уж

много хороших вариантов Европа в полном

дерьме из-за Брюсселя это известный факт

я потратил 10 лет на борьбу с ними и я

очень старался чтобы они исправили

законы в Евросоюзе но у них по-прежнему

есть куча ограничений которые очень

затрудняют проведение на наши

исследований в Европе мои французские

друзья потратили ВС своё время на борьбу

с брюсселем и макрон который является

моим личным другом упорно борется за это

в Евросоюзе Так что у Франции я думаю

есть шансы учитывая возможности которыми

по вашему мнению обладают эти ии модели

стоит ли нам тратить время на изучение

Кода да это старый вопрос Зачем изучать

английский если я на нём говорю чтобы

стать в нём лучше верно вам

действительно нужно понимать как

работают эти темы друзья это были самые

важные части интервью перевести и

озвучить его было ещё той задачей Как ты

Слышишь У меня уже заплетается язык От

количества текста который я только что

зачитал поэтому буду надеяться на вашу

поддержку лайками подписками на этот

канал и на этом сегодняшнее видео

закончено увидимся в новых видео до

скорого

с

[музыка]