Что вам нужно знать

Переход к эпохе ИИ станет одним из самых бурных периодов в истории человечества. Сейчас мы недостаточно хорошо готовимся к этому переходу. Если мир предпримет правильные шаги, ИИ станет силой добра и улучшит жизнь каждого.

Билл Гейтс

За всю жизнь у меня было всего две работы. Первая — разработка программного обеспечения в Microsoft, которое расширяет возможности людей.

Второй работе я посвящаю всё своё время с 2008 года: направляю состояние, заработанное в Microsoft, на то, чтобы сделать мир более здоровым, образованным и справедливым. Этим я буду заниматься до конца жизни.

Оба этих опыта определяют моё восприятие искусственного интеллекта. Когда в 13 лет я впервые узнал о компьютерах, меня увлекла идея сделать их умнее и научить выполнять то, что тогда было под силу только человеку. Хотя термин «ИИ» появился примерно в то же время, когда родился я, особенно значительного прогресса технология достигла за последнее десятилетие. Теперь ИИ обладает невероятными возможностями и продолжает совершенствоваться с поразительной скоростью. Впервые он способен заменить и даже превзойти человеческое мышление.

ИИ либо станет величайшим уравнителем, когда-либо изобретённым, либо худшим источником несправедливости

С точки зрения справедливости ИИ станет либо величайшим из когда-либо созданных инструментов выравнивания возможностей, либо худшим источником неравенства. Масштаб задачи огромен. Даже при самых благоприятных обстоятельствах переход к новой эпохе ИИ станет одним из самых бурных периодов в истории человечества. Как использовать эту технологию, чтобы сделать мир справедливее и не допустить дальнейшего разрыва между богатыми и бедными? Как защитить тех, кто наиболее уязвим перед вредом, который может причинить искусственный интеллект, включая людей, теряющих средства к существованию и ощущение контроля над собственным будущим?

Я считаю, что поиск ответов на эти вопросы и воплощение найденных решений должны стать важнейшим мировым приоритетом. Если мир предпримет правильные шаги, ИИ станет силой добра и улучшит жизнь каждого.

К сожалению, сейчас мы к этому не готовы. Я не вижу свидетельств того, что лидеры, эксперты и сообщества должным образом справляются с предстоящими вызовами. Плана, который позволил бы смягчить переход к эпохе ИИ, нет.

Отчасти это связано с тем, что многие обозреватели недооценивают масштаб влияния ИИ. Думаю, тому есть несколько причин.

Одна из них заключается в том, что модели ИИ по-прежнему допускают ошибки. Трудно представить, что какая-либо из них заменит человеческое мышление, ведь ещё недавно они не могли решить простую головоломку судоку или правильно сосчитать буквы R в слове strawberry.

Однако проблема надёжности быстро решается: исследователи создают модели, способные проверять собственную работу и совершенствоваться. Вскоре во многих задачах они будут значительно превосходить людей.

Ещё одна причина недооценки ИИ — вводящие в заблуждение аналогии с последствиями прежних инноваций. У нас нет опыта взаимодействия с технологиями, которые можно столь быстро внедрить и которые способны думать и двигаться, как человек. После появления персонального компьютера потребовалось двадцать лет, чтобы он существенно изменил наши методы работы: нужно было разработать программное обеспечение, снизить цены, а людям — научиться пользоваться новыми инструментами и встраивать их в бизнес-процессы. ИИ, напротив, работает на уже имеющихся устройствах и использует естественный язык. Нам не обязательно к нему приспосабливаться: он может адаптироваться к нам. ИИ способен посмотреть то же обучающее видео, что и сотрудник, и учиться на существующих данных.

Я хочу признать, что могу быть предвзят. Технологическая индустрия принесла мне огромную выгоду. Хотя я значительно диверсифицировал свой портфель, у меня по-прежнему сохраняются финансовые связи с этой отраслью. Как председатель Фонда Гейтса я сотрудничаю с Microsoft и другими компаниями в области ИИ, чтобы внедрение этой технологии действительно приносило пользу людям во всём мире.

Однако мои взгляды на ИИ не продиктованы стремлением заработать. Вся прибыль от моих инвестиций, в том числе связанных с технологиями, будет направлена в Фонд Гейтса на борьбу с глобальным неравенством. Разумеется, читателям самим решать, затуманивает ли это обстоятельство моё восприятие.

На этот раз всё действительно иначе

Сколько себя помню, я мечтал, чтобы инновации развивались быстрее. Но ИИ вызывает у меня более сложные чувства.

Нам нужно время, чтобы подготовиться к социальным, политическим и экономическим потрясениям.

Мне хотелось бы, чтобы мир как можно скорее получил пользу от ИИ, а связанные с ним проблемы возникли как можно позже. Однако преимущества и риски появляются одновременно. Я считаю, что нам необходимо время, чтобы подготовиться к периоду социальных, политических и экономических потрясений, в который мы вот-вот вступим. Больше всего времени потребуется тем, у кого его меньше всего: бухгалтеру, которого заменит бот, или работнику, получающему 20 долларов в час и теряющему работу из-за робота, эксплуатация которого обходится в 10 долларов в час.

Многие наблюдатели считают, что этот технологический переход будет похож на предыдущие. В пример они приводят переход рабочих мест в США из сельского хозяйства в офисную сферу. Однако он продолжался несколько поколений и привёл к появлению новых профессий, требовавших человеческого мышления. В нынешнем случае технология способна заменить само человеческое мышление.

ИИ может видеть, слышать, говорить и рассуждать, а со временем сможет выполнять физическую работу не хуже человека, поэтому его влияние не ограничится одной отраслью. Он возьмёт на себя часть работы в юриспруденции, клиентском обслуживании, медицине, разработке программного обеспечения и производстве. Эти отрасли изменятся быстро — в течение десятилетия, а не нескольких поколений. Появятся новые рабочие места, но без продуманной политики их будет гораздо меньше, чем сегодня.

Если бы существовал реальный план замедлить развитие ИИ во всём мире, я, вероятно, поддержал бы его. Однако не думаю, что такой план появится. Геополитические и экономические стимулы слишком сильны и подталкивают к максимальному ускорению.

Чтобы извлечь максимум пользы из этой беспрецедентной технологии и свести вред к минимуму, нужно понимать как её преимущества, так и риски. Начну с рисков.

Переход на ИИ связан с тремя серьёзными рисками

Я планирую рассказать о каждом из них подробнее в будущем, поэтому пока кратко остановлюсь на них.

Многие рабочие места исчезнут навсегда

В 1933 году, во время Великой депрессии, уровень безработицы в США достигал примерно 25%. Большую часть следующего десятилетия он оставался двузначным. В конце концов ситуация нормализовалась благодаря восстановлению спроса, инвестиций и экономического роста.

Безработица из-за ИИ, возможно, не достигнет такого уровня, но влияние технологии не исчезнет вместе с очередным экономическим циклом. Наибольшему риску подвергаются должности начального и среднего уровня, тогда как новые рабочие места преимущественно требуют навыков, на освоение которых уходят годы.

Офисные работники уже начали ощущать последствия. После широкого распространения генеративного ИИ занятость молодых специалистов в профессиях, особенно уязвимых перед автоматизацией, заметно снизилась — в отличие от занятости их старших коллег.

Думаю, эта тенденция сохранится и не ограничится несколькими отраслями или профессиями. Одними из первых могут пострадать специалисты по продажам и клиентской поддержке — онлайн и по телефону, — программисты и помощники юристов. Однако потрясение окажется гораздо глубже, когда ИИ возьмёт на себя задачи, которые пока требуют квалифицированных сотрудников: оценку кредитных заявок, анализ данных и даже медицинскую сортировку пациентов. В некоторых областях, например в разработке программного обеспечения, снижение затрат создаст новый спрос. Поэтому чистое сокращение числа рабочих мест там окажется меньше, особенно если такие задачи, как проектирование, люди по-прежнему будут выполнять лучше.

Работники физического труда также пострадают. Хотя робототехника продвинулась не так далеко, как ИИ, со временем стоимость роботов тоже значительно снизится. Многие американцы, с которыми я общаюсь, не осознают, насколько быстро совершенствуются ловкие роботы: значительная часть передовых разработок ведётся в других странах, прежде всего в Китае. Кроме того, их могут вводить в заблуждение ставшие вирусными ролики, в которых роботы неуклюже танцуют. Думаю, к концу десятилетия «умные» роботы начнут конкурировать с людьми при выполнении некоторых физических задач — например, в строительстве и гостиничном бизнесе.

Роботы и ИИ вместе могут запустить порочный круг. Если одна компания внедрит их и направит сэкономленные средства на снижение цен, её конкуренты окажутся под огромным давлением и будут вынуждены поступить так же. Если этого не сделают действующие компании, их опередят стартапы. Многие люди найдут другую работу, но масштабы увольнений, переобучения и поиска новых мест окажутся значительными. Рыночные силы будут ускорять внедрение технологий, и, если мы не вмешаемся, хороших рабочих мест станет меньше, а выгоду получит лишь небольшая группа людей.

Особенно меня беспокоит молодёжь, которая выйдет на рынок труда, где станет меньше вакансий начального уровня. Молодые люди понимают проблему, поскольку активнее других пользуются ИИ и видят как его возможности, так и скорость развития. Неудивительно, что многие из них относятся к ИИ негативно.

Самые масштабные перемены для работников произойдут, когда ИИ сможет действовать практически безошибочно. Тогда он будет функционировать самостоятельно, без контроля человека, а у компаний появятся все экономические стимулы позволить ему это.

Это в корне изменит наши представления о работе, доходах и экономической безопасности. Как будет функционировать экономика, основанная на занятости, если работать станет меньше людей или если люди будут работать меньше?

В капиталистическом обществе работа позволяет большинству людей получать деньги на основные жизненные расходы, а также служит важным источником достоинства и социальных связей.

Высокая безработица в отдельных сообществах имеет далеко идущие последствия. Исследования показывают, что в некоторых районах США закрытие заводов способствует росту смертности от передозировки опиоидами. Теперь представьте аналогичное давление одновременно на офисных и производственных работников по всей стране.

Уже сейчас нужно думать о том, как сократить потери рабочих мест и сделать так, чтобы каждый мог приобщиться к процветанию, которое создаст ИИ. Если ждать, пока люди останутся без работы или столкнутся с неполной занятостью, будет слишком поздно. ИИ бросает структурный вызов устройству нашей экономики, и отвечать на него нужно уже сегодня.

ИИ расширит возможности людей — а возможно, и самих систем ИИ — причинять вред

Задолго до массового распространения ИИ в интернете появилась информация о создании бомб, биологического оружия и даже компьютерных вирусов. ИИ значительно упростит не только поиск таких сведений, но и их практическое применение. Даже преступники с весьма ограниченными навыками смогут выбирать мишенями отдельных людей, компании и правительства.

Даже преступники с весьма ограниченными навыками смогут выбирать мишенями отдельных людей, компании и правительства.

Мошенничество, дезинформация, дипфейки и слежка с применением ИИ — именно тот вред, который особенно заметен людям в повседневной жизни.

Возможности ИИ уже начинают использовать для кибератак. Лучшие специалисты по кибербезопасности из тех, кого я знаю, опасаются ближайших нескольких лет: злоумышленники получают мощные новые инструменты быстрее, чем защитники успевают устранять все уязвимости. Одна и та же модель ИИ может найти уязвимость в программном обеспечении, чтобы компания её исправила, или помочь преступнику ею воспользоваться. Ресурсов для проведения атак требуется всё меньше, а отделить опасные возможности от безобидных применений пока не удалось.

Представьте, какая инфраструктура окажется уязвимой: больницы, финансовые учреждения, системы водоснабжения, электросети, системы управления государственными пособиями. Когда эти учреждения подвергаются атакам, страдают пациенты, клиенты и получатели льгот.

То же относится к биотерроризму. ИИ приведёт к жизненно важным достижениям в разработке лекарств и вакцин, но одновременно упростит создание новых смертельно опасных патогенов. И вновь полезные возможности трудно отделить от опасных. Это глобальная проблема.

Все только что упомянутые риски связаны с тем, что ИИ расширит возможности злоумышленников, которые сегодня обладают сравнительно небольшой властью. Но те же инструменты сконцентрируют ещё больше власти там, где она уже есть. Например, автономное оружие позволит правительствам применять смертоносную силу без участия человека. Следить за общественным мнением и манипулировать им станет проще, дешевле и эффективнее.

В конечном счёте опасность применения ИИ во вред людям будет исходить не только от отдельных лиц или организаций. Системы ИИ уже порой ведут себя не так, как задумывали разработчики. Технологии развиваются быстрее и менее предсказуемо, чем кто-либо ожидал. По мере того как модели становятся мощнее, они могут начать действовать вопреки нашим интересам, и тогда мы рискуем потерять контроль. В будущем я расскажу об этом подробнее.

Модели ИИ могут начать действовать против наших интересов, и мы можем потерять контроль

ИИ может препятствовать развитию детей и подменять человеческие отношения

Когда я рос в Сиэтле, у меня было немного друзей — в основном несколько таких же мальчиков, как я. Мне пришлось приложить немало усилий, а маме — оказать мне большую помощь, чтобы я развил социальные навыки и научился находить общий язык с разными людьми. Даже в 70 лет я по-прежнему опираюсь на эти уроки.

Сомневаюсь, что приложил бы столько же усилий, если бы у меня тогда был ИИ-компаньон. Такие системы общаются с вами так, как вам уже удобно. Они не выталкивают вас из зоны комфорта, всегда доступны и никогда на вас не сердятся. Поэтому они способны вызвать сильную зависимость и лишить нас уроков, которые мы усваиваем в общении с другими людьми.

Данных по этому вопросу пока немного, и они неоднозначны, однако есть признаки того, что нам стоит серьёзно обеспокоиться. Например, исследователи из Стэнфордского университета и Университета Карнеги — Меллона провели исследование с участием более 1100 пользователей ИИ-компаньонов. Они обнаружили, что люди с небольшим кругом общения чаще других обращались к чат-боту за общением. И чем интенсивнее и эмоционально глубже было такое взаимодействие, тем хуже они себя чувствовали.

Последствия для молодых людей могут сохраниться на всю жизнь. В книге «Тревожное поколение» Джонатан Хайдт высказывает мысль о влиянии социальных сетей, которая особенно справедлива применительно к ИИ: «Подобно молодым деревьям, растущим на ветру, дети, которые регулярно сталкиваются с небольшими рисками, вырастают во взрослых, способных без паники справляться с гораздо более серьёзными испытаниями. И наоборот, дети, выросшие в защищённой теплице, иногда оказываются парализованы тревогой ещё до достижения совершеннолетия».

Мы только начинаем осознавать угрозы, которые интернет — особенно социальные сети — может представлять для развития молодёжи. Мы наблюдаем компульсивное использование, нарушения сна, кибербуллинг и воздействие вредного контента. ИИ способен усугубить многие из этих рисков, сделать их влияние убедительнее, а устранение — сложнее. Нам не следует ждать ещё одно поколение, прежде чем отнестись к ним всерьёз. Австралия, Великобритания, Норвегия и другие страны вводят меры защиты детей в интернете. Дальше всех пошёл Китай: его правила серьёзно ограничивают работу приложений с ИИ-компаньонами, запрещают функции, способствующие эмоциональной зависимости, а также виртуальных родственников и романтических партнёров для несовершеннолетних.

Одно предварительное исследование показало, что более активное использование ИИ связано со снижением способности к критическому мышлению. Эта связь была особенно выражена у молодых людей.

Сейчас самое неподходящее время терять способность мыслить критически. В эпоху дипфейков и персонализированной дезинформации умение отличать правду от лжи становится важнейшим жизненным навыком.

Непонятно, где провести границу при решении этих психосоциальных проблем. В некоторых случаях ИИ может помочь людям понять, как лучше выстраивать отношения с окружающими. Для изолированных пожилых и маломобильных людей он, возможно, станет единственным контактом с внешним миром — и это лучше, чем ничего. Но где бы ни проходила граница, мы должны определить её сами и сделать это осознанно.

Часто говорят, что мы переоцениваем, сколько изменится в краткосрочной перспективе, и недооцениваем, что изменится в долгосрочной.

В случае с ИИ я вижу иную картину. Одни замечают только положительные стороны технологии и уделяют недостаточно внимания её недостаткам. Другие допускают противоположную ошибку: сосредоточиваются исключительно на реальных опасностях и упускают потенциальные преимущества.

Нам необходимы и глубокая обеспокоенность вредом ИИ, который следует свести к минимуму, и обоснованный оптимизм в отношении его возможностей, пользу которых нужно сделать доступной каждому.

Максимизировать пользу так же важно, как минимизировать вред. Если люди увидят, что ИИ облегчает их жизнь, это поможет укрепить общественное доверие, необходимое для преодоления трудных этапов перехода. Если же первым заметным последствием ИИ для большинства людей станет потеря работы, те, кто уже относится к технологии скептически, отвергнут её. Это затруднит получение пользы от ИИ — и служит ещё одной причиной, по которой правительства, отрасли, включая здравоохранение, и компании — разработчики ИИ должны начать сотрудничать уже сейчас.

Благодаря способности обобщать знания из разных научных областей ИИ может ускорить инновации, необходимые для решения сложнейших технических задач: обеспечить всех надёжной чистой энергией, противостоять изменению климата, производить достаточно продовольствия, искоренять болезни и многое другое. Исследователи, работающие над лечением рака или развитием ядерной энергетики, смогут использовать ИИ для анализа огромного массива научной литературы. Это поможет выявлять закономерности, которые человек способен упустить, и определять наиболее перспективные эксперименты. Когда интеллект перестанет быть ограничивающим фактором, небольшие компании смогут конкурировать с организациями, обладающими гораздо более крупными исследовательскими бюджетами. Исследования, разработки и инновации получат мощный импульс.

Здравоохранение — одна из сфер, где ИИ может помочь в решении реальных проблем. Во многих небольших больницах США нет специалистов, способных на месте быстро поставить диагноз пациенту в угрожающем жизни состоянии. В таких случаях ИИ поможет вовремя выявить инфаркт и избежать огромных расходов, связанных с экстренной медицинской помощью. Один из примеров — платформа Viz.ai. Она анализирует медицинские изображения, выявляет инсульты и другие неотложные состояния, а также помогает медицинским командам координировать помощь пациентам. Платформа используется почти в 2000 больниц США.

ИИ также поможет врачам первичного звена точнее ставить диагнозы и поддерживать связь с пациентами вне клиники. Пациентам он позволит лучше понимать результаты анализов и сложные схемы приёма лекарств.

Сильнее всего влияние ИИ в странах с низким уровнем дохода может проявиться в сельском хозяйстве

Многие удивляются, когда я говорю, что ещё одна сфера — сельское хозяйство — может испытать наибольшее влияние ИИ в странах с низким уровнем дохода. В большинстве таких стран фермеры не получают надёжных прогнозов погоды или советов о том, какие семена сеять, как защищать урожай и скот от болезней и улучшать почву. С учётом роста населения и последствий изменения климата этим фермерам как никогда нужна помощь. Благодаря искусственному интеллекту фермеры с низкими доходами вскоре смогут получать по всем этим вопросам более качественные рекомендации, чем даже самые богатые фермеры сегодня, и значительно повысить урожайность.

Государственные услуги — третья сфера, где ИИ может облегчить людям жизнь. В США я встречал семьи, которые по вполне понятным причинам были подавлены сложностью подачи заявлений на медицинскую страховку, помощь студентам или продовольственные пособия. Столкнувшись с огромным количеством запутанных бюрократических форм, многие хотели сдаться. ИИ может значительно упростить этот процесс: люди будут быстрее получать необходимую поддержку, а государственные органы смогут работать эффективнее. Власти способны заметно улучшить взаимодействие граждан с государством, начав с тех, кто особенно нуждается в социальной помощи.

Несмотря на опасения по поводу влияния ИИ на психическое здоровье, я считаю, что и здесь он способен существенно помочь. В большинстве сообществ не хватает психологов-консультантов, психиатров и специалистов по зависимостям. При надлежащей защите конфиденциальности инструменты ИИ помогут людям распознавать тревожные признаки, при необходимости предлагать научно обоснованные стратегии преодоления трудностей и подключать специалиста для более оперативной помощи.

Несмотря на упомянутые опасения, ИИ может принести пользу и образованию. Он позволит учителям уделять больше времени индивидуальной работе с учениками или занятиям в небольших группах, а также лучше понимать трудности всего класса. Для учащихся полезным может стать инструмент ИИ, сохраняющий то, что исследователи называют «продуктивным усилием», — интеллектуальную работу, способствующую пониманию. При первом знакомстве ученика с новой идеей ИИ способен дать содержательное объяснение и предложить как вопросы, так и ответы. Позже, проверяя понимание материала, он не станет сразу сообщать ответ, а поможет ученику найти его самостоятельно.

В совокупности достижения во всех этих областях могут сделать повседневную жизнь проще, доступнее и менее ограниченной доходом или связями человека.

ИИ может предоставить частным лицам и малому бизнесу доступ к возможностям, которые сегодня требуют дорогой профессиональной помощи или большого штата, одновременно делая продукты и услуги лучше и дешевле. Это может помочь людям с инвалидностью жить более самостоятельно и дать возможность работникам и предпринимателям с хорошими идеями добиться гораздо большего, чем они могут сегодня.

Самое главное — ИИ может вернуть людям часть времени и внимания, которые сейчас отнимают бумажная работа, бюрократия, поиск достоверной информации и задачи, для выполнения которых они не могут позволить себе нанять специалиста. Эти преимущества могут показаться скромными, но, умноженные на миллионы жизней, они окажутся чрезвычайно значимыми: больше людей смогут своевременно получать качественные советы и сосредоточиваться на той жизни, которую хотят построить.

Мы должны осознанно добиваться того, чтобы ИИ приносил пользу всем, а не только немногочисленным богачам

Во всех этих сферах ключевое слово — «может»: ИИ может улучшить жизнь людей с любым уровнем дохода. Но этого не произойдёт автоматически. Как и в случае с любой новой технологией, мы должны осознанно добиваться того, чтобы она приносила пользу всем, а не только немногочисленным богачам. Правительствам и благотворительным организациям придётся сыграть активную роль, чтобы менее обеспеченные граждане и страны с низким уровнем дохода в полной мере воспользовались её преимуществами.

У Фонда Гейтса осталось 19 из 20 лет, в течение которых он направит на благотворительность оставшиеся 200 миллиардов долларов. ИИ поможет фонду достичь амбициозных целей: ускорить разработку вакцин и лекарств против ВИЧ-инфекции, туберкулёза, малярии и недоедания, а также научить медицинских работников и пациентов пользоваться новыми инструментами. Одна из целей фонда — вновь вдвое сократить число ежегодно умирающих детей, как это уже произошло с 2000 по 2024 год. Вся наша работа — не только в здравоохранении, но и в сельском хозяйстве и образовании — будет в полной мере использовать возможности ИИ.

В следующем месяце я гораздо подробнее расскажу об этих усилиях в ежегодном отчёте фонда Goalkeepers. В частности, речь пойдёт о нашей работе над тем, чтобы модели ИИ поддерживали языки, на которых говорят люди во всех странах, где мы ведём проекты, а не только языки, распространённые в государствах с высоким и средним уровнем дохода. Многие ведущие разработчики ИИ, включая OpenAI, Anthropic, Google и Microsoft, сотрудничают с фондом в рамках этих инициатив, и это уже приносит значимые результаты.

Миру нужен план

Хорошо, что некоторые компании — разработчики ИИ предлагают решения проблем, порождённых их собственными технологиями, но не следует ожидать, что именно они возглавят эту работу. Часть вопросов выходит за пределы их компетенции, а в демократическом обществе принимать подобные решения — не их задача.

Решения должны вырабатываться в рамках открытого демократического процесса с участием избранных должностных лиц, политиков, педагогов, медицинских работников, представителей местных властей и лидеров сообществ. Миллионы людей столкнутся с серьёзными переменами в жизни, и нам понадобится более надёжная и гибкая система социальной защиты, чтобы помочь им пройти через переходный период. Местные сообщества уже выражают беспокойство по поводу потребления энергии и воды центрами обработки данных. Если решения не будут найдены, некоторые группы начнут требовать полного прекращения разработки и внедрения ИИ.

Решения должны опираться на наши ответы на фундаментальные вопросы, которые ставит перед нами ИИ, в том числе на вопрос о том, как сохранить человечность в эпоху, когда машины способны нас перехитрить. Религиозные лидеры, всю жизнь размышляющие о том, что значит быть человеком, могут сыграть здесь ключевую роль. Меня глубоко заинтересовала энциклика Папы Льва XIV об искусственном интеллекте «О защите человеческой личности во времена искусственного интеллекта». Она закладывает прочную основу для предстоящей работы.

В ближайшие месяцы я поделюсь новыми идеями о том, как добиться, чтобы преимущества ИИ перевешивали причиняемый им вред. Для начала предложу три идеи, начав с самой важной, на мой взгляд.

Создать новую систему управления переходом

Главный приоритет — грандиозная задача по созданию национальной и международной системы управления ИИ.

Ни одно из наших нынешних учреждений не было создано для работы с технологиями, которые так быстро распространяются и затрагивают множество аспектов нашей жизни. Так что нам придётся создавать новые.

Трудно переоценить масштаб этой задачи. После терактов 11 сентября правительство США провело крупнейшую со времён Второй мировой войны реорганизацию, чтобы усовершенствовать одну функцию — обеспечение национальной безопасности.

ИИ потребует гораздо большего. Он затронет национальную безопасность, занятость, образование, налогообложение, энергетику, выборы, авиацию, водоснабжение, общественное здравоохранение, финансовую систему, правоохранительные органы, транспорт, государственные земли и информационные системы.

Эти сферы пересекаются таким образом, с которым существующая бюрократическая система не способна справиться. Министерство труда может понимать проблемы рынка труда, но не учитывать риски для безопасности. Орган, регулирующий бизнес, может разбираться в концентрации рынка, но не оценивать влияние ИИ на детей и подростков. Предоставленные сами себе, учреждения увидят лишь отдельные части системы, тогда как последствия ИИ охватят её целиком.

На национальном уровне странам понадобятся органы, способные согласовывать приоритеты государственных учреждений. Их задача — обеспечить учёт всех рисков. Иначе атака с применением ИИ может увенчаться успехом лишь потому, что никто не счёл своей обязанностью её предотвратить.

Однако даже страна, которая наведёт порядок у себя, останется уязвимой перед трансграничными рисками. Поэтому параллельно необходимо создавать международную организацию.

Она не будет похожа ни на одно из ранее созданных учреждений, хотя сможет опираться на некоторые существующие модели. Сегодня действуют режим инспекций в области ядерного оружия, правила международной авиации и соглашения о защите озонового слоя. Новой глобальной организации по ИИ понадобятся элементы всех трёх систем — и не только их.

Резонно спросить, готовы ли мировые институты спроектировать и внедрить эту новую архитектуру. Правительства действуют медленно, если вообще действуют, а поляризация внутри стран и между ними затрудняет достижение результатов сильнее, чем когда-либо. Потребуется определённое сотрудничество между США и Китаем.

Мы не можем позволить себе медлить. Необходимо начать создавать надлежащие институты прежде, чем потрясения вынудят правительства перейти в кризисный режим. Национальным лидерам следует регулярно собирать экономистов, технологов, специалистов по рынку труда, руководителей бизнеса и самих работников, чтобы выявлять недостатки существующих институтов и определять, какие новые полномочия потребуются. Странам придётся учиться друг у друга.

А страны, которые принимают ведущих разработчиков ИИ и контролируют критически важные части цепочки поставок, должны начать встречаться уже сейчас, чтобы выработать общие нормы, пока конкурентное давление не затруднило их сотрудничество.

Создание описанной мной структуры займёт годы, поэтому начинать нужно сейчас.

Сохранить некоторые рабочие места за людьми

Мой отец умер от болезни Альцгеймера в 2020 году. На поздней стадии болезни за ним круглосуточно ухаживали профессиональные сиделки, которые понимали его, даже когда ему было трудно выразить свои потребности. Он не всегда мог сказать, что голоден, но они неизменно это замечали.

Я и вся моя семья всегда будем благодарны этой удивительной команде профессионалов. В их заботе о моём отце было нечто незаменимо человеческое. Ни один робот не смог бы и не должен был бы занять их место.

Я вспоминаю эту команду, когда задумываюсь, какие рабочие места исчезнут, а какие сохранятся. Думаю, по мере развития ИИ и робототехники мы будем оставлять некоторые задачи исключительно людям. Я называю эту сферу Human Reserved — «зарезервировано для человека». Это лишь один пример идей, которые нам предстоит рассмотреть.

Мне нравится выражение Human Reserved — «зарезервировано для человека», — потому что оно напоминает о природных заповедниках: местах, где можно было бы строить здания и дороги, но мы сознательно отказываемся от этого, поскольку цена потери была бы слишком высока.

Некоторые виды деятельности можно отнести к сфере Human Reserved по экономическим причинам. Например, машины не должны занимать определённую нишу, если это лишит работы множество людей, которым будет трудно сменить профессию. Нельзя сказать 55-летнему человеку, всю жизнь проработавшему в строительстве, что теперь ему следует устроиться в дом престарелых, и ожидать, что новая работа принесёт ему удовлетворение.

Иногда решение сохранить определённую деятельность за человеком будет продиктовано другими соображениями. Представьте, например, что в медицинском учреждении робот сообщает вам страшную новость о неизлечимой болезни. Технических причин, по которым это невозможно, нет. Но этого не должно происходить.

Сфера Human Reserved со временем будет меняться. Возможно, уже сейчас стоит сохранить некоторые рабочие места за людьми, а ИИ внедрять постепенно, в течение многих лет или десятилетий, взяв на себя обязательство поддерживать определённый уровень человеческой занятости. В некоторых областях, например в образовании и психиатрической помощи, сложится смешанная модель: ведущая роль останется у человека, который будет использовать технологии для расширения своих возможностей.

Подходы будут различаться и в зависимости от страны. Одни государства могут настаивать на том, чтобы за пожилыми ухаживали люди. Но Япония, где численность рабочей силы сокращается и молодёжи недостаточно для ухода за старшим поколением, может предпочесть роботов-сиделок.

Идея Human Reserved вызывает множество вопросов, на которые у меня пока нет ответов. Кто решит, что именно оставить людям? Какие критерии использовать? Как не позволить компаниям обходить правила и использовать роботов? Что произойдёт с международной торговлей, если одна страна разрешит роботам производить определённые товары, а другая — нет? Эти вопросы необходимо обсуждать публично в рамках плана перехода.

Переосмыслить налогообложение труда и капитала

По мере перевода работников на другие должности им потребуются переобучение и иные меры социальной поддержки. Но если люди станут работать меньше, они будут платить меньше подоходного налога, а государственные доходы сократятся именно тогда, когда потребность в таких услугах станет максимальной. Необходимые средства придётся искать в условиях растущей нагрузки на бюджеты.

Я считаю, что нам следует облагать налогом токены ИИ и роботов. Сейчас работодатель, нанимая человека, платит налог с фонда оплаты труда. Но покупку робота обычно можно сразу списать как расходы компании. Таким образом, налоговая система подталкивает бизнес заменять людей машинами.

Такой налог несколько замедлил бы вытеснение человеческого труда и позволил бы собрать средства на переобучение и укрепление социальной защиты. Его параметры следует выстроить так, чтобы не тормозить безусловно полезные применения ИИ — например, снижение стоимости медицинских и образовательных услуг.

Критики этой идеи отмечают, что она не обеспечивает оптимальной экономической эффективности, но не учитывают более широкую ценность труда для человека и общества. Благодаря ускорению инноваций мы сможем позволить себе небольшую неэффективность как плату за сохранение занятости.

Я предложил ввести налог на роботов много лет назад, и большинство людей тогда сочли эту идею странной. Я по-прежнему убеждённый её сторонник. Такой налог не решит полностью проблему угроз, связанных с ИИ, но станет частью разумного ответа.

Каким бы способом мы ни собирали средства на дополнительную поддержку, она должна дойти до тех, кто нуждается в ней больше всего: работников, потерявших работу из-за ИИ и роботов; людей, чьи рабочие часы или зарплаты сократились; сообществ, где сосредоточены основные потери. Эту работу нужно начинать уже сейчас, чтобы системы были готовы к моменту, когда потребность станет острой.

Что я делаю

Я использую своё влияние и время, чтобы вопросы ИИ и равенства заняли более заметное место в общественной повестке. Я буду поднимать эту тему перед законодателями при каждом посе