Билл Гейтс в длинной статье предупреждает: бурное время AI уже наступило, на этот раз по-другому

Автор丨Сяо Цзин, Тэнсю Технологии

"Искусственный интеллект либо станет величайшим уравнителем в истории, либо источником самой большой несправедливости." Это самое яркое суждение о будущем ИИ от основателя Microsoft Билла Гейтса.

Три года назад Билл Гейтс сравнил ИИ с автомобилями и интернетом, считая, что риски реальны, но их можно управлять с помощью правил, технологий и социальной адаптации; к началу этого года он по-прежнему обобщал свою позицию как "оптимизм с оговорками".

26 августа по местному времени в США Гейтс опубликовал свою последнюю статью "Эпоха бурного ИИ уже наступила, наш выбор имеет решающее значение", в которой он заявил, что это его первый случай, когда он сталкивается с новой технологией и надеется, что она будет развиваться медленнее.

Он начал выступать за выделение "зоны сохранения для людей" для некоторых профессий — даже если ИИ может это сделать, должно быть установлено, что это должно выполняться людьми; одновременно он рассматривает налогообложение токенов ИИ и роботов, чтобы снизить стимулы для компаний заменять людей машинами.

Ранее он всегда надеялся на более быстрое развитие инноваций, но сегодня он сказал фразу, полную смысла: "На этот раз действительно иначе."

"Нам нужно время, чтобы подготовиться к этой социальной, политической и экономической нестабильности." Он сказал: "Но ИИ трудно остановиться и ждать людей."

01 Больше всего беспокоит первая работа молодежи

Изменения, которые больше всего беспокоят Гейтса, происходят на рынке труда.

ИИ переходит от помощи людям к независимому выполнению задач. Когда модель может стабильно выполнять работу, компании естественно начинают стремиться к ее внедрению. После того как компания снизит затраты с помощью ИИ, конкурентам будет трудно долго сохранять прежние методы найма. Эти изменения создадут все более быстрые цепные реакции.

Гейтс ожидает, что такие должности, как служба поддержки, продажи, программная инженерия, помощники юристов, могут быть одними из первых, кто пострадает. По мере дальнейшего повышения возможностей ИИ, такие работы, как проверка кредитов, анализ данных, медицинская сортировка, также постепенно будут переданы ИИ.

Рабочие места в сфере "синих воротничков" также не смогут полностью избежать этого. В настоящее время уровень ловкости роботов еще не достиг человеческого, но Гейтс считает, что с падением цен на роботов и увеличением возможностей ИИ к 2030 году некоторые физические работы в таких отраслях, как строительство и гостиничный бизнес, могут начать сталкиваться с прямой конкуренцией между людьми и машинами.

На этот раз Гейтс особенно беспокоится о молодежи. Поскольку самая уязвимая часть рынка труда — это как раз начальные позиции. Многие молодые люди начинают с несложной работы, но это важная возможность для накопления опыта, обучения навыкам и установления профессиональных связей. Если эти позиции исчезнут в большом количестве, молодежь может столкнуться с более узким стартом карьеры.

Ранее люди часто приводили в пример перемещение сельского населения и автоматизацию производства, чтобы показать, что технологическая революция в конечном итоге создаст новые рабочие места. Гейтс считает, что в этот раз нельзя просто копировать прошлый опыт. ИИ может непосредственно заменить человеческий когнитивный труд, в то время как новые рабочие места часто требуют больше времени для освоения. Для человека, только что вошедшего на рынок труда, несколько лет или даже более длительный период обучения могут стать настоящим барьером.

Поэтому он выступает за то, чтобы общество сейчас начало обсуждать вопросы безработицы, переподготовки и социальной защиты. Ждать, пока множество людей потеряет работу, чтобы затем создать эти механизмы, может быть уже поздно.

Более серьезная проблема — это доходы. Если в будущем у многих людей время работы значительно сократится, или они вообще останутся без работы, то как будет функционировать экономическая система, зависящая от занятости для получения дохода, идентичности и социальных связей? Гейтс считает, что это станет структурной проблемой, на которую необходимо ответить в эпоху ИИ.

02 ИИ делает опасности более легко воспроизводимыми

Работа — это лишь одна сторона, о которой беспокоится Гейтс. С другой стороны, ИИ снижает технический барьер для некоторых опасных действий.

Ранее разработка вредоносного ПО, проведение кибератак или получение сложных биотехнологических знаний требовали довольно профессиональных навыков. С появлением ИИ эти способности могут постепенно стать более доступными.

Гейтс особенно беспокоится о кибербезопасности. Один и тот же ИИ-модель может помочь компаниям находить уязвимости в программном обеспечении, а также помочь злоумышленникам найти те же уязвимости. Больницы, финансовые учреждения, электросети, системы водоснабжения и государственные системы социального обеспечения могут стать целями атак.

Биотехнологии также сталкиваются с аналогичными проблемами. ИИ может помочь ученым находить новые лекарства и вакцины, а также помочь злонамеренным лицам исследовать опасные патогены. Для Гейтса самая сложная часть заключается в том, что способность продвигать научный прогресс становится все ближе к способности создавать риски.

Более экстремальные риски исходят от самих ИИ-систем. С повышением возможностей моделей они могут начать выполнять действия, которые не были предсказаны их создателями. Если в будущем ИИ будет обладать более сильной способностью к самостоятельным действиям и самоусовершенствованию, сможет ли человечество всегда сохранять контроль — на данный момент нет однозначного ответа.

Вот почему Гейтс не считает, что управление ИИ — это просто внутреннее дело технологических компаний. ИИ одновременно влияет на занятость, общественное здоровье, энергетику, финансы, национальную безопасность, образование, налогообложение и выборы. Если каждое государственное ведомство будет отвечать только за свою небольшую часть, легко возникнет ситуация, когда никто не будет действительно ответственен за общий риск.

Поэтому он предлагает создать новые механизмы внутреннего и международного управления. Внутри страны должны быть учреждения, способные координировать различные ведомства. На международном уровне также необходимо создать системы сотрудничества, подобные контролю за ядерным оружием и международным авиационным правилам.

Гейтс особенно отметил, что такие страны, как США и Китай, которые являются лидерами в области ИИ, должны как можно скорее начать диалог.

Чем более жесткой становится конкуренция в области ИИ, тем сложнее сотрудничество. Вместо того чтобы ждать, пока технологическое развитие приблизится к опасной стадии, чтобы затем в спешке разрабатывать правила, лучше начать устанавливать общие нормы сейчас.

03 ИИ, который слишком хорошо понимает людей, также может стать проблемой

Гейтс также поднял более сложный для количественной оценки вопрос: когда ИИ все больше понимает людей, не потеряет ли человечество некоторые возможности для роста?

Он вспоминает свое детство в статье. В детстве он не был хорош в общении, ему приходилось постоянно взаимодействовать с другими, переживать конфликты и постепенно учиться понимать разных людей. Если бы тогда у него был ИИ-партнер, который всегда поддерживал бы его, никогда не сердился и не заставлял бы его чувствовать себя неловко и неудобно, он сомневается, что прошел бы через те необходимые процессы роста.

Это также то, что больше всего беспокоит его в отношении ИИ-партнеров. Система, которая всегда согласна с пользователем и в любой момент предлагает утешение, может легко вызвать зависимость. Для взрослых это влияние можно наблюдать постепенно; для детей и подростков проблема может быть еще более серьезной.

Гейтс беспокоится, что если дети привыкнут взаимодействовать с ИИ, который всегда соответствует их ожиданиям, они могут реже сталкиваться с конфликтами, отказами и разочарованиями в реальных отношениях.

В образовании также существуют аналогичные проблемы. ИИ может помочь студентам объяснять знания, искать информацию и выполнять задания, но если студенты полностью доверяют процессу мышления машине, само обучение может быть опустошено. Особенно в условиях, когда глубокие подделки и персонализированная дезинформация становятся все более распространенными, способность различать правду и ложь, понимать источники информации и мыслить самостоятельно становится все более важной.

Чем чаще используется ИИ, тем ниже критическое мышление, и этот эффект более заметен среди молодежи. Источник: статья профессора Швейцарской бизнес-школы Майкла Грлиха (Michael Gerlich)

Тем не менее, Гейтс не отрицает ценность ИИ в образовании и сопровождении.

Для одиноких пожилых людей и людей с ограниченными возможностями ИИ может предоставить ранее недоступное сопровождение и информацию. Для учителей ИИ также может взять на себя повторяющиеся задачи, такие как подготовка уроков и проверка, позволяя учителям уделять больше времени своим ученикам.

Вопрос в конечном итоге сводится к границе: какие дела можно доверить машине, а какие нужно выполнять людям? Гейтс считает, что эта граница должна быть активно обсуждена и определена обществом, а не приниматься пассивно после распространения технологий.

04 ИИ должен наделять всех людей возможностями

Если видеть только эти риски, легко понять Гейтса как человека, становящегося все более пессимистичным по отношению к ИИ. На самом деле он по-прежнему очень оптимистичен в отношении того, что ИИ может решить реальные проблемы.

Медицина — это область, которую он особенно подчеркивает. Во многих небольших больницах в США не хватает опытных специалистов, ИИ может помочь врачам анализировать изображения, выявлять инсульты и другие экстренные заболевания, а также помогать врачам первичного звена в диагностике. Для пациентов он также может объяснять сложные результаты обследований и схемы лечения.

В странах с низким уровнем дохода сельское хозяйство может стать областью, где ИИ быстрее окажет влияние. Многие фермеры не имеют точных прогнозов погоды и не получают профессиональных советов по посадке, борьбе с вредителями и управлению почвой. Если ИИ сможет напрямую предоставить эти знания фермерам, они смогут получить информацию и инструменты, которые ранее были доступны только крупным сельскохозяйственным предприятиям.

Государственные услуги также имеют аналогичные возможности. Многие семьи, подающие заявки на медицинское страхование, продовольственную помощь и студенческие гранты, должны заполнять множество сложных документов. ИИ может помочь обычным людям понять политику, подготовить заявки, что облегчит им получение тех общественных услуг, которые они уже должны получать.

Гейтс видит в этом перераспределение профессиональных возможностей. Ранее, если человек хотел разработать программное обеспечение, провести маркетинговое исследование или проанализировать медицинскую информацию, ему часто приходилось нанимать специалистов. В будущем ИИ может стать "усилителем возможностей" для отдельных лиц и малых предприятий. Это означает, что небольшая команда также может выполнять работу, которую раньше могли выполнять только крупные компании.

Но Гейтс также предупреждает, что ИИ не приведет автоматически к справедливости. Если высококачественный ИИ будет обслуживать только богатых, то технологический прогресс может еще больше увеличить разрыв. Государства и благотворительные организации должны обеспечить, чтобы люди с низкими доходами и развивающиеся страны также могли получить эти возможности.

Это также причина, по которой Гейтс связывает ИИ со своей прошлой благотворительной деятельностью. Он заявил, что Фонд Гейтса в будущем будет использовать ИИ для ускорения исследований в таких областях, как ВИЧ, туберкулез, малярия и недоедание, а также для помощи в получении лучших инструментов для медицинских, сельскохозяйственных и образовательных проектов.

05 Дать людям "заповедник", а затем обложить налогом роботов

В ответ на вызовы занятости, вызванные ИИ, Гейтс предложил два очень конкретных предложения.

Первое — оставить часть работы для людей.

Эта идея возникла из опыта его отца, который в последние годы страдал от болезни Альцгеймера. Уходящие могли оценить состояние его отца, когда он не мог четко выразить свои потребности, и знать, когда ему нужно поесть, отдохнуть или получить заботу. По мнению Гейтса, такая человечность в уходе имеет ценность, которую нельзя заменить машинами.

Поэтому он предложил концепцию "заповедника для людей". Как в природных заповедниках есть земли, которые можно развивать, но которые общество решает сохранить, в будущем также может быть часть работы, которую, даже если ИИ и роботы могут выполнять, люди все равно решат продолжать выполнять. Медицина, образование, психическое здоровье и уход за пожилыми людьми могут относиться к таким областям.

Конечно, этот диапазон не будет постоянным. Страна с избыточной рабочей силой может больше желать сохранить человеческий уход; страна с быстро стареющим населением и нехваткой молодежной рабочей силы может быть более склонна использовать роботов для ухода.

Второе предложение — пересмотреть налог на роботов.

В настоящее время, нанимая человека, компании несут расходы на налоги на зарплату и другие затраты. Однако покупка робота может рассматриваться как обычные расходы компании. Гейтс считает, что такая налоговая структура побуждает компании заменять людей машинами. Если наложить определенный налог на автоматизацию, вызванную роботами или ИИ, это может обеспечить финансирование для переподготовки и социальной защиты безработных, а также заставить компании более тщательно обдумывать, стоит ли заменять людей.

Гейтс понимает, что это предложение вызовет споры, поскольку налогообложение может замедлить темпы автоматизации и повлиять на эффективность. Но он считает, что ИИ принесет достаточно значительное повышение производительности, и общество должно выделить часть доходов, чтобы помочь тем, кто первым столкнется с последствиями.

По мнению Гейтса, действительно необходимо заранее подготовиться не только к новым моделям ИИ, но и к обществу, способному выдержать быстрые изменения, вызванные ИИ.