Гостем Decoder, программы главного редактора The Verge Нилая Пателя, стал экспрезидент США Барак Обама, ответивший на многочисленные вопросы об искусственном интеллекте, свободе слова и будущем интернета.
Предлагаем перевод оригинального материала:
На прошлой неделе я встретился с президентом Обамой в его офисе в Вашингтоне, округ Колумбия, всего через несколько часов после того, как президент Джо Байден подписал масштабный указ об ИИ. Этот указ охватывает широкий круг вопросов — от маркировки контента, созданного искусственным интеллектом, до разработки протоколов безопасности для компаний, работающих над самыми современными моделями ИИ.
Обама говорил, что обсуждал с администрацией Байдена и лидерами технологической индустрии вопросы искусственного интеллекта и того, как лучше его регулировать. И у бывшего президента здесь особенно уникальный опыт — он долгое время был одним из самых фальсифицированных людей в мире.
Моя идея заключалась в том, чтобы поговорить с Обамой-профессором конституционного права больше, чем с Обамой-политиком, поэтому этот разговор быстро расшатался. Вы услышите, как он упоминает нацистов в Скоки — это ссылка на известное дело Верховного Суда 70-х годов, где Американский союз гражданских свобод утверждал, что запрет нацистской группе проводить марши является нарушением Первой поправки к Конституции.
Вы можете услышать, как я восхищенно рассказываю о деле Red Lion Broadcasting против FCC, решении Верховного суда 1969 года, в котором говорилось, что правительство может навязать радио- и телевизионным вещателям так называемую Доктрину справедливости, поскольку общественность является владельцем эфира, следовательно, может устанавливать требования по его использованию. Для кабельного телевидения и интернета, не пользующихся общественным эфиром, подобных рамок не существует, и это значительно усложняет, если не делает возможным, регулирование их деятельности.
Курс Англійської. Вивчай англійську прямо зі свого смартфона за допомоги смарт-платформи. Більше про курс
Обама говорит, что он не согласен с идеей, что социальные сети являются чем-то вроде «общих перевозчиков», которые должны распространять всю информацию одинаково. Эта идея, в частности, была высказана судьей Кларенсом Томасом в 2021 году, и она легла в основу законов, регулирующих социальные сети в Техасе и Флориде — законов, находящихся на рассмотрении в Верховном суде.
Наконец Обама говорит, что разговаривал с техническим руководителем, который сказал ему, что лучшим сравнением влияния ИИ на мир будет электричество, и вы услышите от меня, что я должен догадаться, о ком идет речь. И вот моя догадка: это Сундар Пичаи из Google, который с 2018 года утверждает, что ИИ более значим, чем электричество или огонь. Но это только мое предположение. А вы послушайте и дайте мне знать, кто это, по вашему мнению.
И еще одно: я обязательно спросил Обаму, какие приложения были на главном экране его iPhone.
Президент Барак Обама, вы 44-й президент Соединенных Штатов. Мы находимся в Фонде Обамы.
Очень приятно быть здесь. Спасибо за приглашение.
Я с нетерпением жду разговора с вами — нам есть о чем поговорить.
Мы собрались здесь по случаю подписания президентом Байденом указа об искусственном интеллекте. Я бы охарактеризовал этот указ как «масштабный». Думаю, он насчитывает более 100 страниц. В нем много идей: от регулирования биосинтеза с помощью ИИ до правил сохранности. Он требует создания красных команд и прозрачности. Водные знаки. Это новые вызовы для отношений правительства с технологиями.
Я хочу начать с вопроса от Decoder: как вы думаете об этих вызовах и как вы их оцениваете?
Это то, чем я интересуюсь уже давно. В 2015, 2016 годах, когда мы наблюдали, как социальные сети и информационная революция трансформируют ландшафт и влияют на все аспекты нашей жизни, я начал участвовать в разговорах об искусственном интеллекте и следующей фазе, следующей волне, которая может наступить. Я думаю, что один из уроков, который мы извлекли из трансформации нашего медиаландшафта в том, что из этого могут получиться невероятные инновации, невероятные перспективы, невероятное добро.
Но есть и куча непредсказуемых последствий, и мы должны быть, возможно, несколько более целенаправленными по поводу того, как наши демократии взаимодействуют с тем, что в первую очередь создается в частном секторе. Какие правила дорожного движения мы устанавливаем и как мы можем убедиться, что мы максимизируем хорошее и, возможно, минимизируем некоторое плохое?
Поэтому я поручил своему ученому Джону Холдрену вместе с Джоном Подестой, который был бывшим руководителем аппарата и работал над вопросами изменения климата, и сказал: «Соберем нескольких экспертов, чтобы выяснить это».
Мы выпустили большой отчет в последний год моего пребывания в должности. Интересно, что уже тогда люди чувствовали, что [ШИ] — чрезвычайно перспективная технология, но мы, возможно, преувеличиваем, как скоро она придет. Как мы увидели за последние год-два, даже те, кто разрабатывает эти большие языковые модели, начинают понимать, что эта вещь движется быстрее и потенциально даже мощнее, чем мы изначально представляли.
В разговорах с членами правительства, представителями частного сектора и учеными я пришел к выводу, что это будет трансформационная технология, которая широко [изменит] форму нашей экономики.
Наверное, даже наши поисковые системы — базовые вещи, которые мы воспринимаем как должное — уже работают на основе некоторых принципов ИИ, но этот процесс будет ускорен. Это повлияет на то, как мы делаем вещи, как мы предоставляем услуги, как мы получаем информацию. Потенциал для огромных прорывов в медицине, потенциал для предоставления индивидуального обучения детям в отдаленных районах, потенциал для решения энергетических проблем и борьбы с парниковыми газами — все это может открыть удивительные инновации, но также может нанести определенный ущерб.
Мы можем оказаться с мощными моделями ИИ в руках кого-то в подвале, кто разрабатывает новый вариант оспы, или негосударственных субъектов, которые вдруг благодаря мощному инструменту ИИ смогут сломать критически важную инфраструктуру. Или, что менее драматично, ИИ проникает в жизнь наших детей способом, который мы не планировали — в некоторых случаях так, как это произошло с социальными сетями.
Курс Front-end Basic . Оволодій навичками розробки веб-інтерфейсів та стань справжнім Front-end розробником! Заробляй від 800$ на початку карʼєри. Дізнатись про курс
Итак, я считаю, что правительство, как выразитель нашей демократии, должно быть в курсе того, что происходит. Те, кто разрабатывает эти «пограничные» системы, должны быть прозрачными. Я не считаю, что мы должны пытаться вернуть джина обратно в бутылку и быть антитехнологичными из-за всего этого огромного потенциала. Но я думаю, что мы должны поставить определенные ограждения вокруг некоторых рисков, которые мы можем предусмотреть, и иметь достаточную гибкость, чтобы [они] не уничтожали инновации, но также направляли и управляли этой технологией таким образом, чтобы максимизировать не только доходы отдельных компаний, но и общественное благо.
Позвольте мне сравнить: Я бы сказал, что проблемой в регулировании технологий в течение последних 15 лет были социальные сети. Как нам регулировать социальные медиа? Как сделать так, чтобы у них было больше хорошего и меньше плохого? Убедиться, что действительно плохие вещи незаконны. Вы пришли на пост президента на волне социальных сетей.
Я был первым цифровым президентом.
Я помню, у вас был BlackBerry. Люди были очень взволнованы вашим BlackBerry. Я написал статью о вашем iPad. Это была трансформация – молодые люди придут в политическую среду, они будут использовать эти инструменты, и мы сменим Америку вместе с ними.
Вы можете возразить, что меня бы не выбрали, если бы не социальные сети.
Сейчас мы по другую сторону этого. Был еще один парень, избранный благодаря социальным сетям. Было другое движение в Америке, которое было очень негативно настроено на эти выборы.
Я бы сказал, что мы практически не смогли регулировать социальные сети. У нас даже нет всеобъемлющего законопроекта о конфиденциальности.
Понятно.
В этой стране уже была база для регулирования медиа. Мы могли бы применить многое из того, что мы знали о том, «должны ли мы иметь хорошие медиа?», к социальным сетям. Там есть некоторые вопросы Первой поправки – важные вопросы.
Курс Англійської. Обери викладача за своїми вимогами серед 1100+ фахівців в Englishdom. Ознайомитись з курсом
С искусственным интеллектом это больше похоже на «мы скажем компьютерам сделать что-нибудь, и они это сделают».
Да. Мы надеемся. [Смеется]
У нас нет никаких рамок для этого.
Мы надеемся, что они делают то, что думаем, что мы им говорим.
Мы задаем компьютерам вопросы. Они могут просто уверенно врать нам или помогать нам врать в больших масштабах. Для этого нет никаких рамок. Что, по-вашему, вы можете вынести из неудачи регулирование социальных сетей в этой новой среде, чтобы на этот раз сделать все правильно?
Это одна из причин, почему я считаю, что то, что администрация Байдена сделала сегодня, обнародовав ЧП, очень важно. Не потому, что это конечный пункт, а потому что это действительно начало построения структуры.
Когда вы упомянули о том, что в этом указе содержится много разных вещей, это свидетельствует о том, что мы не знаем всех проблем, которые могут возникнуть из-за этого. Мы не знаем всего многообещающего потенциала искусственного интеллекта, но начинаем закладывать основы того, что, как мы надеемся, будет разумной основой для работы с ним.
В некоторых случаях ИИ может ускорить прогресс, скажем, в медицине. Мы уже видели такие вещи, как свертывание белка, и прорывы, которые бы не произошли, если бы не некоторые из этих инструментов ИИ. Мы хотим убедиться в том, что это делается безопасно. Мы хотим убедиться, что это делается ответственно, и, возможно, уже есть определенные законы, которые могут этим руководить.
Но могут быть и новейшие разработки в области искусственного интеллекта, где существующие агентства, действующие законы просто не срабатывают. Если мы имеем дело с проблемой согласования и хотим убедиться, что некоторые из этих крупных языковых моделей – где даже разработчики не совсем уверены в том, что делают эти модели, что думает или делает компьютер – в таком случае нам придется выяснить: что такое «красная команда»? Что такое режимы тестирования?
Если пообщаться с самими компаниями, они признают, что их протоколы безопасности и режимы тестирования возможно еще не на том уровне, на котором они должны быть. Я думаю, что для нас вполне уместно поднять флаг и сказать: «Хорошо, пограничные компании, вы должны раскрыть ваши протоколы безопасности, чтобы убедиться, что у нас нет вредоносных программ, которые взламывают нашу финансовую систему», например. Расскажите нам какие тесты вы используете. Убедитесь, что у нас независимая проверка, которая подтвердит, что сейчас все это работает.
Но этот фреймворк не может быть фиксированным. Эти модели развиваются настолько быстро, что надзор и любая регуляторная база должны быть гибкими и подвижными. Кстати, это также потребует очень умных людей, которые понимают, как работают эти программы и модели — не только в самих компаниях, но и в некоммерческом секторе и правительстве. Вот почему я рад увидеть, что в указе администрации Байдена содержится конкретный призыв к группе молодых людей, интересующихся искусственным интеллектом, поработать за пределами компаний и некоторое время поработать в правительстве. Поработать с некоторыми исследовательскими институтами, которые появляются в таких местах как Гарвардская лаборатория [прикладных социальных сетей] или Стэнфордский центр искусственного интеллекта, а также с некоторыми другими некоммерческими организациями.
Нам нужно убедиться, что каждый может быть уверен в том, что каким бы путем мы ни шли с ИИ, он не руководствуется несколькими людьми без какого-либо взаимодействия или голоса обычных людей — обычных людей, которые будут использовать эти продукты и на которых они будут влиять .
Есть обычные люди, а есть люди, которые создают это и которым нужно помогать писать правила, и здесь есть раскол.
В течение многих лет в Долине считалось, что правительство слишком медленное. Он не разбирается в технологиях. К тому времени, когда он напишет функциональное правило, технология, которую он хотел регулировать, уже устареет. Это заметно отличается, не правда ли? Обреченные на гибель искусственного интеллекта – это те, кто больше всего просит о регулировании.
Да.
Большие компании просят о регулировании. [Сэм Альтман (генеральный директор OpenAI) объездил столицы мира с вежливой просьбой о регулировании. Как вы думаете, почему существует такая страсть к этой регулировке? Или это просто желание действующих лиц закрепить свои позиции?
Вы затронули важный вопрос. Я думаю, что среди некоторых людей есть определенное подозрение, что эти компании хотят регулировать, потому что они хотят заблокировать конкуренцию. Как вы знаете, исторически центральным принципом технологической культуры был открыт исходный код. Мы хотим, чтобы все было открыто. Каждый может играть с моделями и приложениями и создавать новые продукты и именно так происходят инновации.
Здесь регулировка начинает выглядеть так, что, возможно, мы начнем иметь закрытые системы, и крупные передовые компании – Microsoft, Google, OpenAI, Anthropics – каким-то образом заблокируют нам доступ к ним. Но в моих разговорах с технологическими лидерами на эту тему, я думаю, впервые появилось подлинное смирение, потому что они видят силу, которую могут иметь эти модели.
Я разговаривал с одним руководителем — и посмотрите, в мире технологий хватает гипербол, не так ли? Но это достаточно трезвый парень, видел много таких циклов и прошел через бум и крах. Я спросил его: «Ну, когда вы говорите, что эта технология, по вашему мнению, станет трансформационной, приведите мне какую-нибудь аналогию». Он ответил: «Я сидел со своей командой и мы говорили об этом. После долгих раздумий мы решили, что, возможно, лучшей аналогией будет электричество». И я подумал: «Ну, да, электричество. Это было очень важно. [Смеется].
Если это так, то я думаю, что они понимают, что это в их собственных коммерческих интересах, чтобы здесь не было большой ошибки. Если это действительно столь трансформационно, как они ожидают, то наличие определенных правил и защиты создает конкурентное поле, которое позволяет всем участвовать, создавать новые продукты, конкурировать по цене, конкурировать по функциональности, но [мешает нам] брать на себя столь большие риски. , что все это разразится у нас перед носом.
Я считаю, что существует искреннее беспокойство, что если мы просто устроим неограниченную гонку на дно, то это может привести к тому, что мы задушим курицу, которая может нести кучу золотых яиц.
Однако в Долине существует мнение, что любое ограничение технологий это плохо.
Да, и я с этим не согласен.
Любая осторожность, любой принцип, где вы можете замедлиться, является врагом прогресса, и для общего блага будет лучше, если мы будем просто мчаться вперед как можно скорее.
Справедливости ради это не только в Долине, это в каждом бизнесе, который я знаю.
Нельзя сказать, что Уолл-стрит любит регулировку. Не похоже, что производители очень хотят, чтобы правительство вмешивалось в то, как они производят товары. Одна из вещей, которую мы усвоили в индустриальную и информационную эпоху в течение последнего столетия, состоит в том, что вы можете чрезмерно регулировать. Вы можете иметь чрезмерно забюрократизированные вещи.
Но если у вас есть разумные правила, которые устанавливают определенные базовые цели и стандарты — убедиться, что вы не создаете продукты, опасные для потребителей; убедиться, что если вы продаете пищевые продукты, люди, входящие в продуктовый магазин, могут быть уверены, что они не умрут от сальмонеллы или кишечной палочки; убедитесь, что если вы продаете продукты, то они не умрут от сальмонеллы или кишечной палочки. кишечной палочки; быть уверенным, что если кто покупает автомобиль, то тормоза работают; быть уверенным, что если я возьму свою электрическую вещь и включу ее в розетку где угодно, в любой точке страны, она не ударит меня током и не взорвется мне в лицо – оказывается, что все эти разнообразные правила и стандарты действительно создают рынки и полезны для бизнеса, а инновации затем развиваются вокруг этих правил.
Я думаю, что часть того, что происходит в технологическом сообществе, — это ощущение того, что «мы умнее всех остальных, а эти люди, которые нас тормозят, препятствуют быстрому прогрессу». Если взглянуть на историю инноваций, то оказывается, что наличие определенных разумных ориентиров, вокруг которых развиваются инновации, не только не замедляет, но в некоторых случаях даже повышает стандарты и ускоряет прогресс.
Было много людей, которые говорили: «Послушайте, вы убьете автомобиль, если положите туда подушки безопасности». Оказалось, что на самом деле люди поняли: «Знаете что? Мы можем положить туда подушки безопасности и сделать их более безопасными. И со временем расходы снизятся, и всем будет лучше».
В EO есть очень сложная часть происхождения — маркировка контента водяными знаками, чтобы люди видели, что он сгенерирован искусственным интеллектом. Вы один из самых фальсифицированных людей в мире.
Безусловно. Когда я ушел с должности, я понял, что меня, видимо, снимали и записывали больше, чем любого человека в истории, просто потому, что я был первым президентом, когда появился смартфон.
Я предполагаю, что у вас есть какие-то очень глубокие личные чувства по поводу того, что вас так глубоко подделывают. Здесь есть большая проблема с Первой поправкой, не правда ли?
Да.
Я могу использовать фотошоп одним способом, и правительство не говорит, что я должен наклеивать на него этикетку. Если я использую его по-другому, правительство придет и скажет Adobe: «Вы должны наклеить на это этикетку». Как вы выровнять этот круг? Мне это кажется очень сложной задачей.
Я думаю, что это будет циклический процесс. Я не думаю, что вы можете создать универсальное правило. Но правда в том, что именно так развивалось наше управление информацией, медиа и вещанием на протяжении нескольких сотен лет. С каждой новой технологией нам приходится адаптироваться и придумывать новые правила дорожного движения.
Возьмем мой пример: глубокий фейк обо мне, который используется для политической сатиры или просто кто-то, кому я не нравлюсь, и они хотят меня подделать. Я был президентом Соединенных Штатов. Существуют достаточно жесткие правила, защищающие людей, высмеивающих публичных лиц. Я публичная личность, и то, что вы делаете со мной как с публичным лицом, отличается от того, что вы делаете с 13-летней девочкой, первокурсницей средней школы. Поэтому мы будем относиться к этому по-разному и это нормально. У нас должны быть другие правила для публичных лиц, чем для частных лиц. Мы должны иметь разные правила для того, что является политическим комментарием и сатирой, а что кибербуллингом.
Как вы думаете, где эти правила действуют? Касаются ли они отдельных лиц? Влияют ли они на людей, создающих такие инструменты, как Adobe или Google? Влияют ли они на сети распространения, такие как Facebook?
Я подозреваю, что мы должны разобраться с тем, как распределяется ответственность. Слушайте, я излагал конституционное право. Я близок к абсолютистам Первой поправки в том смысле, что вообще не считаю, что даже оскорбительные высказывания, злые высказывания и так далее не должны регулироваться правительством. Я даже готов утверждать, что на платформах социальных сетей по умолчанию должна быть свобода слова, а не цензура. Я со всем этим согласен.
Но имейте в виду, что у нас никогда не было полностью свободного слова, не правда ли? У нас есть законы против детской порнографии. У нас есть законы против торговли людьми. У нас есть законы против некоторых видов высказываний, которые мы считаем действительно вредными для общественного здоровья и благосостояния. Суды, когда оценивают это, говорят: «Гм». Они придумывают целый ворох ограничений относительно времени, места и способа, которые могут быть приемлемыми в одних случаях, но не приемлемыми в других. Вы получаете кучу развивающегося прецедентного права.
Об этом ведутся споры на публичной площади. Мы можем не соглашаться, должны ли нацисты иметь возможность протестовать в Скоки? Что ж, это сложный вопрос, но мы можем с ним разобраться. Я думаю, что именно так это будет развиваться.
Я считаю, что сами платформы чем-то больше, чем просто обычные операторы, как телефонная компания. Они не пассивны. Всегда происходит определенная модерация контента. Так как только этот предел будет перейден, для общества в целом будет вполне разумно сказать: «Мы не хотим отдавать это полностью на откуп частной компании».
Я думаю, что мы должны хотя бы знать, как вы принимаете эти решения, какие вещи вы можете усилить с помощью своего алгоритма, а какие нет. Возможно, то, что вы делаете, не незаконно, но мы должны по крайней мере знать, как принимаются некоторые из этих решений. Я думаю, что это будет именно такой процесс. С чем я не согласен, так это с тем, что большая технологическая платформа каким-то образом предполагает, что они хотят, чтобы к ним относились полностью как к обычному перевозчику, а они здесь просто пассивны.
Это мнение Кларенса Томаса, не правда ли?
Кларенс Томас? Да. Но с другой стороны, мы знаем, что [они] продают рекламу на основе идеи, что вы принимаете кучу решений по [их] продуктам.
Это очень сложно, не правда ли? Если вы говорите, что [социальные платформы] являются обычными операторами связи, вы фактически регулируете их. Вы говорите, что вы не можете принимать никаких решений. Если вы говорите, что осуществляете редакционный контроль, они защищены Первой поправкой.
Да.
Тогда регулировка становится очень, очень сложной. Такое ощущение, что даже в случае с искусственным интеллектом — когда мы говорим о создании контента с помощью искусственного интеллекта — или с социальными сетями, мы снова и снова сталкиваемся с Первой поправкой. Большинство наших подходов – это то, что меня беспокоит – пытаются обойти его, чтобы мы могли ввести определенные правила языка, не говоря, что мы собираемся ввести определенные правила языка.
Закон об авторском праве является самым эффективным регулятором вещания в интернете, потому что все согласятся: «Ладно, это принадлежит Диснею. Прекратите это».
Потому что речь идет о собственности. Здесь задействованы деньги.
Деньги. Может быть, меньше имущества, чем денег, но деньги точно.
IP, а значит, деньги. Да.
Вас не беспокоит, что мы создаем фейковые правила речи, на самом деле не говоря о балансе капиталов, который вы здесь описываете?
Я считаю, что нам нужно — и я думаю, что искусственный интеллект будет способствовать этому — провести гораздо более активную публичную дискуссию вокруг этих правил и договориться о некоторых широких принципах, которыми мы будем руководствоваться. Проблема в том, что сейчас, посмотрим правде в глаза, мы настолько погрязли в партийности — частично из-за последних выборов, отчасти из-за сторонников наковыдания, вакцин и антивакцин, — что мы потеряли способность просто выработать принципы, не предпочитающие ту или иную партию, той или иной позиции, а отражают нашу общую приверженность демократии.
Но я хочу подчеркнуть, что нам не в первый раз приходится это делать. Нам приходилось это делать, когда появилось радио. Нам пришлось это делать, когда появилось телевидение. Тогда это было легче сделать, отчасти потому, что у вас было три или пять компаний, и общество через правительство технически владело эфиром, и вы могли приводить эти аргументы.
Это квадратик на моей карточке бинго — если я смогу дойти с вами до дела «Красного льва», я выиграл. Существовали рамки [по этому делу], которые говорили, что правительство владеет эфиром, и оно собирается распределять его между людьми определенным образом, поэтому мы можем принимать определенные решения, и это эффективная и соответствующая ситуация.
Это был крючок.
Можете выложить это в интернете?
Думаю, вам нужно найти другой вид крючка.
Конечно.
Но, наконец, даже идея о том, что общественность и правительство владеют эфиром – это был просто еще один способ сказать: «Это влияет на всех, поэтому мы все должны иметь право голоса в том, как это работает, и мы верим в капитализм, и мы не возражаем против того, что вы зарабатываете кучу денег благодаря инновациям, продуктам, которые вы создаете, и контенту, который вы выпускаете в эфир. Но мы хотим иметь право голоса в том, что смотрят наши дети и в том, как рекламируются те или иные вещи».
Будь вы президентом сейчас — я был с семьей вчера вечером, и возникла идея, что китайский TikTok учит детей быть учеными и врачами, но в нашем TikTok алгоритм другой, она появилась. И идея о том, что мы должны иметь правила, как в Китае, которые учат наших детей быть врачами, все родители за столом сказали: «Да, нам это очень нравится. Мы должны это сделать».
Как бы вы написали такое правило? Возможно ли это вообще с нашей первой поправкой?
Долгое время, скажем, в сфере телевидения, были требования к детскому телевидению. Они продолжали размываться до такой степени, что детским телевидением можно было считать все, что угодно, не правда ли? У нас была доктрина справедливости, которая гарантировала, что существует определенный баланс с точки зрения представленных взглядов.
Я не спорю о том, что хорошо, а что плохо в этих вопросах. Я просто хочу сказать, что мы делали это раньше, и не было ощущения, что это как-то антидемократически или подавляет инновации. Мы просто понимали, что живем в демократическом обществе, поэтому устанавливали правила так, чтобы считать, что демократия работает лучше, а не хуже и каждый имеет право голоса.
Идея Первой поправки состоит в том, что у нас будет рынок идей, что эти идеи будут соревноваться между собой, и в конце концов мы все сможем оценить лучшие идеи по сравнению с худшими. Я глубоко верю в этот основополагающий принцип. Нам придется адаптироваться к тому факту, что сейчас так много контента, а регуляторов так мало, что каждый может выбросить любую идею, даже если она сексистская, расистская, насильственная и т.д., и это делает ситуацию немного сложнее, чем когда у нас было только три телеканала или горстка радиостанций, или что еще там.
Но принцип все еще действует, а именно: как нам создать процесс обсуждения, где рядовой гражданин может услышать кучу разных точек зрения, а потом сказать: «Знаете что? Вот с чем я согласен, а вот с чем я не согласен». Надеюсь, благодаря этому процессу мы получим лучшие результаты.
Позвольте мне объединить две темы наших разговоров: ИИ и социальные платформы. Марк Цукерберг был на отчете о доходах и сказал: «Что касается наших новостных лент, я думаю, что со временем большая часть контента, который потребляют люди, будет либо генерироваться, либо редактироваться искусственным интеллектом». Поэтому он видит мир, в котором социальные сети будут показывать людям, возможно именно то, что они хотят видеть, в соответствии с их предпочтениями, подобно рекламе, которая удерживает их заинтересованность.
Должны ли мы это регулировать? Должны ли мы сказать им остановиться? Следует ли воспринимать это как способ показать людям больше контента, который они хотят видеть и который может расширить их мировоззрение?
Это то, с чем я боролся некоторое время.
В прошлом году я выступал в Стэнфорде с речью о дезинформации и наших информационных бункера. Меня беспокоят бизнес-модели, просто кормящие людей тем, во что они уже верят и с чем согласны, и которые созданы для того, чтобы продавать им вещи.
Я считаю, что это хорошо для демократии? Нет.
Я считаю, что это то, что правительство может регулировать? Я скептически отношусь к тому, что вы можете придумать идеальные правила.
Однако я считаю, что нам нужно думать о разных платформах и разных бизнес-моделях. Возможно, я был бы счастлив, если бы искусственный интеллект помогал мне покупать джинсы в интернете. Это может быть очень эффективно. Меня это вполне устраивает. Так что если это будет приложение для шопинга или нить — отлично.
Когда мы говорим о политическом дискурсе, когда мы говорим о культуре, можем ли мы создать другие места для людей, которые расширяют их перспективу и делают их интересными к тому, как другие люди видят мир, чтобы они действительно чему-то научились, а не просто усилили свои имеющиеся предупреждения?
Я не думаю, что это то, что правительство сможет законодательно закрепить. Я думаю, что это то, что потребители, взаимодействующие с компаниями, должны открыть для себя и найти альтернативы.
Слушайте, мне явно не 12 лет. Я не рос, держа большие пальцы на этих экранах. Я 62-летний дедуля, который иногда не может работать со всеми приложениями на своем телефоне, но у меня есть две дочери, которым по 20 лет. Интересно, до какой степени они поняли, что в определенный момент почти все приложения для социальных сетей начинают им надоедать. Они стареют именно потому, что все, что они делают, это рассказывают вам то, что вы уже знаете, или то, что, по мнению программы, вы хотите знать, или то, что вы хотите видеть. Так что вы больше не удивляетесь. Вы больше ничего не открываете. Вы больше не учитесь.
Поэтому я думаю, что есть перспектива того, как мы можем… скажем так, есть рынок. Я думаю, есть рынок для продуктов, которые не просто делают это. По той же причине, почему люди спрашивали меня об искусственном интеллекте: «Будут ли еще художники, певцы и актеры, все ли это будет создано компьютером?»
Мой ответ: «Для музыки в лифтах искусственный интеллект будет работать отлично».
Куча лифтовых музыкантов просто сошла с ума.
Для среднестатистического юридического брифа или, скажем, исследовательской записки в юридической фирме, ИИ, вероятно, справляется с работой так же хорошо, как и юрист-второкурсник.
Безусловно, так же хорошо, как и я когда-либо. [Смеется]
Точно. Но Боб Дилан или Стиви Вандер это совсем другое. Причина в том, что часть человеческого опыта, часть человеческого гения – это почти мутация. Это не предсказуемо. Это беспорядок, это новое, это другое, это грубое, странное. Это то, что в конечном счете касается чего-то более глубокого у нас, и я думаю, что для этого будет рынок.
Кроме того, что вы бывший президент, вы еще и автор бестселлеров. У вас с супругой есть продюсерская компания. Вы занимаетесь интеллектуальной собственностью, потому считаете ее собственностью. Это хорошо. Я ценю это.
Единственное, что сейчас может остановить ИИ, это иски о защите авторских прав, да? Если вы попросите генеративную модель ИИ выплюнуть речь Барака Обамы, она сделает это с определенным уровнем проходимости. Наверное, на три с плюсом. По моей оценке, на три с плюсом.
Это была бы одна из моих худших речей, но она могла бы звучать как…
Если вы стреляете пушкой с контентом в любую бизнес модель в интернете, вы ее переворачиваете. Но есть многие авторы, музыканты, а теперь и художники, которые судятся с компаниями, говоря: «Это недобросовестное использование — тренироваться на наших данных, просто поглощать все это». Какова ваша позиция по этому поводу? Как автор, считаете ли вы, что они имеют право поглощать такое количество контента?
Позвольте мне отвлечься на секунду. Мы с Мишель уже продали много книг, и у нас все хорошо. Поэтому лично я не слишком переживаю из-за этого.
Я считаю, что в указе президента Байдена говорится — и над этим нужно еще много работать — о том, что авторское право только один из элементов.
Если ИИ окажется столь распространенным и мощным, как ожидают его поклонники — а я должен сказать, что чем больше я изучаю его, тем больше я думаю, что он будет столь разрушительным — нам придется думать не только об интеллектуальной собственности. Нам придется думать о рабочих местах и экономике по-другому. И не все эти проблемы можно решить внутри индустрии.
Что я имею в виду? Я думаю, что в случае авторского права вы увидите, как люди с законными претензиями финансируют иски и судебные разбирательства. Через суды и другие регуляторные механизмы люди, создающие контент, будут искать способы получить деньги и защитить то, что они создают. Это может на время помешать развитию больших языковых моделей, но в долгосрочной перспективе это будет лишь тормозом.
Более широкий вопрос будет таким: что произойдет, когда 10 процентов существующих сейчас задач точно можно будет выполнить лучше с помощью какой-то большой языковой модели или другого варианта ИИ? Придется ли нам посмотреть то, как мы учим наших детей, и какие профессии станут доступными?
Правда, что во время моего президентства была определенная наивность, когда люди говорили: «Ответ на вопрос, как вытащить людей из бедности и обеспечить им достаточно высокую заработную плату, заключается в том, что мы переквалифицируем их. Мы дадим им образование и все они должны стать программистами, потому что за ними будущее». Что же, если искусственный интеллект кодирует лучше всех, кроме лучших кодеров, если ChatGPT может создать исследовательскую записку лучше, чем юрист третьего или четвертого года обучения, возможно, не партнер, имеющий особый опыт или суждение, что вы скажете молодым людям?
Я думаю, что нам придется начать разговор о том, как мы оплачиваем ту работу, которую не может выполнять искусственный интеллект? Как нам лучше оплачивать те, что важнее — здравоохранение, уход за больными, преподавание, уход за детьми, искусство, вещи, действительно важные для нашей жизни, но, возможно, исторически коммерчески не оплачивались должным образом?
Нужно ли нам думать о продолжительности рабочей недели и о том, как мы распределяем рабочие места? Нужно ли думать о том, что все больше людей могут решить работать как независимые подрядчики – откуда они получают медицинскую помощь, откуда они получают пенсию? Это те разговоры, которые, по-моему, нам придется начать вести, и именно поэтому я рад, что глава Офиса президента Байдена начинает этот разговор.
Я не могу подчеркнуть [это] достаточно. Я думаю, что вы увидите, как некоторые говорят: «Ну, у нас все еще нет жестких правил. Где в этом смысле? Мы не заставляем эти крупные компании делать X, Y, Z так быстро, как мы должны».
Я думаю, что эта администрация понимает, и я безусловно подчеркивал это в разговорах с ними: это только начало. Это будет разворачиваться в течение следующих двух, трех, четырех, пяти лет. И, кстати, это будет разворачиваться на международном уровне. На этой неделе в Англии состоится конференция, посвященная международным стандартам безопасности в области ИИ. Вицепрезидент [Камала] Гаррис будет присутствовать на ней. Я считаю, что это хорошо, потому что часть вызова состоит в том, что нам нужно иметь определенные трансграничные рамки, правила, стандарты и нормы. Это часть того, что делает этот процесс отличным и сложнее для управления, чем появление радио и телевидения, потому что интернет, по определению, является всемирным явлением.
Использовали ли вы эти инструменты? Был ли у вас момент «ага!», когда компьютер разговаривает с вами? Создавали ли вы собственную фотографию?
Я использовал некоторые из этих инструментов во время этих разговоров и этого исследования, и это было интересно.
Bing уже флиртовал с вами? Я слышал, что он флиртует со всеми.
Со мной Bing не флиртовал [Смеется]. То, как они разработаны – и я обсуждал это с некоторыми дизайнерами – в некоторых случаях они разработаны так, чтобы антропоморфизироваться, чтобы создавалось ощущение, будто вы разговариваете с человеком. Это как, можем ли мы пройти тест Тюринга? Это конкретная цель, потому что это делает его более волшебным. И в некоторых случаях это улучшает функцию. Но в некоторых случаях, это просто делает его круче. Здесь есть немного пиццы, и люди заинтересованы в этом.
Должен сказать, что я отношусь к искусственному интеллекту как к инструменту, а не как к другу. Я думаю, что часть того, что нам нужно будет делать, когда эти модели станут более мощными – и здесь, по моему мнению, правительство может помочь – это просто информировать общественность о том, что эти модели могут делать, а что не могут. Это действительно мощные расширения вас самих и инструменты, но [они] также отражают вас самих. Поэтому не стоит путаться и думать, что то, что вы видите в зеркале, является каким-то другим сознанием.
Вы просто хотите, чтобы Bing пофлиртовал с вами. Это то, что я почувствовал лично очень глубоко.
Ладно, последний вопрос. Мне нужно это знать. Для меня это очень важно: какие четыре приложения в вашей док-станции для iPhone?
Четыре приложения внизу, у меня Safari.
Ключ .
У меня сообщение, зеленое поле.
Вы — синий пузырь. Ты не обижаешься на людей за то, что ты зеленый пузырь?
Нет нет. Я в порядке.
Ладно .
У меня есть моя электронная почта, и у меня есть моя музыка. Это все.
Базовый набор. Неплохо.
Если бы вы спросили, на какие из них я, пожалуй, хожу чаще, чем следует. Может быть, мне пришлось бы добавить туда Words With Friends, на которые, как мне кажется, я трачу много времени, и, возможно, мой NBA League Pass.
Достаточно неплохо.
Но я стараюсь не переусердствовать с этим.
League Pass – это только один клик над доком. Вот что я получаю от этого.
Именно так.
