Алгоритмы искусственного интеллекта предназначены для принятия решений, часто с использованием данных в реальном времени. Они не похожи на пассивные машины, которые способны только на механические или заранее определенные реакции. Используя датчики, цифровые данные или удаленные входы, они объединяют информацию из множества различных источников, мгновенно анализируют материал и действуют на основе выводов, полученных из этих данных. Благодаря значительным улучшениям в системах хранения, скорости обработки и аналитических методах, они способны значительно усложнить анализ и принятие решений.

Искусственный интеллект уже меняет мир и поднимает важные вопросы для общества, экономики и управления.

AI обычно используется в сочетании с машинным обучением и анализом данных. ⁵ Машинное обучение использует данные и выявляет основные тенденции. Если он обнаруживает что-то, что имеет отношение к практической проблеме, разработчики программного обеспечения могут взять эти знания и использовать их для анализа конкретных проблем.Все, что требуется, — это данные, которые достаточно надежны, чтобы алгоритмы могли распознавать полезные шаблоны. Данные могут поступать в виде цифровой информации, спутниковых изображений, визуальной информации, текста или неструктурированных данных.

AI могут учиться и адаптироваться при принятии решений. Например, в области транспорта у полуавтономных транспортных средств есть инструменты, которые позволяют водителям и транспортным средствам знать о предстоящих заторах, выбоинах, строительстве шоссе или других возможных препятствиях на дороге.Транспортные средства могут использовать опыт других транспортных средств на дороге без участия человека, и весь полученный ими «опыт» немедленно и полностью может быть передан другим аналогичным образом сконфигурированным транспортным средствам. Их передовые алгоритмы, датчики и камеры включают в себя опыт текущих операций и используют информационные панели и визуальные дисплеи для представления информации в режиме реального времени, чтобы водители-люди могли понять текущее движение и условия движения. А в случае полностью автономных транспортных средств передовые системы могут полностью управлять автомобилем или грузовиком и принимать все навигационные решения.

AI — это не футуристическое видение, а то, что присутствует здесь сегодня, интегрируется и развертывается в различных секторах. Сюда входят такие области, как финансы, национальная безопасность, здравоохранение, уголовное правосудие, транспорт и умные города. Есть множество примеров, когда ИИ уже оказывает влияние на мир и значительно расширяет возможности человека. ⁶

Одна из причин растущей роли ИИ — это огромные возможности для экономического развития, которые он предоставляет.По оценке проекта PriceWaterhouseCoopers, «технологии искусственного интеллекта могут увеличить мировой ВВП на 15,7 триллиона долларов, или целых 14%, к 2030 году». ⁷ Сюда входят авансы в размере 7 триллионов долларов США в Китае, 3,7 триллиона долларов США в Северной Америке, 1,8 триллиона долларов США в Северной Европе, 1,2 триллиона долларов США в Африке и Океании, 0,9 триллиона долларов США в остальной части Азии за пределами Китая, 0,7 триллиона долларов США в Южной Европе и 0,5 триллиона долларов США. триллион в Латинской Америке. Китай быстро прогрессирует, поскольку поставил перед собой национальную цель инвестировать 150 миллиардов долларов в ИИ и стать мировым лидером в этой области к 2030 году.

Между тем, исследование Китая, проведенное McKinsey Global Institute, показало, что «автоматизация на основе искусственного интеллекта может повысить производительность китайской экономики, которая добавит от 0,8 до 1,4 процентных пункта к росту ВВП в год, в зависимости от скорости внедрения». ⁸ Хотя его авторы обнаружили, что Китай в настоящее время отстает от США и Великобритании в развертывании ИИ, сам огромный размер его рынка ИИ дает этой стране огромные возможности для пилотного тестирования и будущего развития.

Инвестиции в финансовый ИИ в США утроились с 2013 по 2014 год и составили 12,2 миллиарда долларов. ⁹ По словам наблюдателей в этом секторе, «решения о ссудах сейчас принимаются программным обеспечением, которое может учитывать множество тщательно проанализированных данных о заемщике, а не только кредитный рейтинг и проверку биографических данных». ¹⁰ Кроме того, существуют так называемые робо-консультанты, которые «создают персонализированные инвестиционные портфели, устраняя необходимость в биржевых маклерах и финансовых консультантах.” ¹¹ Эти усовершенствования призваны избавить от эмоций при инвестировании и принять решения, основанные на аналитических соображениях, и сделать этот выбор за считанные минуты.

Яркий пример этого имеет место на фондовых биржах, где высокочастотная торговля с помощью машин заменила большую часть принятия решений человеком. Люди подают заказы на покупку и продажу, и компьютеры в мгновение ока сопоставляют их без вмешательства человека. Машины могут определять неэффективность торговли или рыночные различия в очень небольшом масштабе и выполнять сделки, приносящие прибыль, в соответствии с инструкциями инвестора. ¹² Оснащенные в некоторых местах передовыми вычислениями, эти инструменты обладают гораздо большей емкостью для хранения информации, поскольку они делают упор не на ноль или единицу, а на «квантовые биты», которые могут хранить несколько значений в каждом месте. ¹³ Это резко увеличивает емкость хранилища и сокращает время обработки.

Обнаружение мошенничества — еще один способ использования ИИ в финансовых системах. Иногда трудно распознать мошеннические действия в крупных организациях, но ИИ может выявить отклонения, выбросы или отклонения от нормы, требующие дополнительного расследования.Это помогает менеджерам находить проблемы на ранних этапах цикла, прежде чем они достигнут опасного уровня. ¹⁴

AI играет важную роль в национальной обороне. В рамках своего проекта Maven американские военные развертывают ИИ, «чтобы просеивать огромные массивы данных и видео, захваченных слежением, и затем предупреждать аналитиков о закономерностях или об аномальных или подозрительных действиях». ¹⁵ По словам заместителя министра обороны Патрика Шанахана, цель новых технологий в этой области — «удовлетворить потребности наших боевиков и повысить скорость и гибкость разработки и приобретения технологий.” ¹⁶

Искусственный интеллект ускорит традиционный процесс ведения войны так быстро, что был придуман новый термин: гипервойна.

Аналитика больших данных, связанная с ИИ, сильно повлияет на анализ разведки, поскольку огромные объемы данных просеиваются почти в реальном времени — если не в конечном итоге в реальном времени — тем самым предоставляя командирам и их штабам невиданный ранее уровень анализа разведки и производительности. Командование и контроль также будут затронуты, поскольку человеческие командиры делегируют определенную рутину, а в особых обстоятельствах ключевые решения платформам ИИ, резко сокращая время, связанное с принятием решения и последующими действиями.В конце концов, война — это соревновательный процесс по времени, в котором обычно преобладает сторона, способная выбрать самый быстрый и наиболее быстро перейти к исполнению. Действительно, системы искусственного интеллекта, связанные с системами командования и управления с помощью ИИ, могут обеспечить поддержку решений и принятие решений со скоростью, значительно превосходящей скорости традиционных средств ведения войны. Этот процесс будет настолько быстрым, особенно в сочетании с автоматическими решениями о запуске автономных систем вооружений с искусственным интеллектом, способных привести к летальному исходу, что был придуман новый термин специально для обозначения скорости, с которой будет вестись война: гипервойна.

В то время как этические и юридические дебаты бушуют по поводу того, будет ли Америка когда-либо вести войну с искусственно интеллектуальными автономными летальными системами, китайцы и русские далеко не погрязли в этих дебатах, и мы должны предвидеть нашу необходимость защищаться от этих систем, действующих в условиях гипервойны скорости. Проблема на Западе в том, где поставить «людей в петлю» в сценарии гипервойны, в конечном итоге диктует способность Запада быть конкурентоспособными в этой новой форме конфликта. ¹⁷

Подобно тому, как ИИ сильно повлияет на скорость войны, распространение киберугроз нулевого дня или нулевой секунды, а также полиморфных вредоносных программ бросит вызов даже самой сложной киберзащите на основе сигнатур.Это требует значительного улучшения существующей киберзащиты. Все чаще происходит миграция уязвимых систем, и им необходимо будет перейти на многоуровневый подход к кибербезопасности с помощью облачных платформ когнитивного ИИ. Такой подход приближает сообщество к «мыслящим» защитным возможностям, которые могут защищать сети посредством постоянного обучения работе с известными угрозами. Эта возможность включает анализ на уровне ДНК ранее неизвестного кода с возможностью распознавания и остановки входящего вредоносного кода путем распознавания строкового компонента файла.Вот как некоторые ключевые системы в США остановили изнуряющие вирусы WannaCry и Petya.

Подготовка к гипервойне и защита критически важных киберсетей должны стать первоочередной задачей, поскольку Китай, Россия, Северная Корея и другие страны вкладывают значительные ресурсы в ИИ. В 2017 году Государственный совет Китая опубликовал план для страны «построить отечественную промышленность на сумму почти 150 миллиардов долларов к 2030 году». ¹⁸ В качестве примера возможностей китайская поисковая компания Baidu впервые разработала приложение для распознавания лиц, которое обнаруживает пропавшие без вести. люди.Кроме того, такие города, как Шэньчжэнь, выделяют до 1 миллиона долларов на поддержку лабораторий искусственного интеллекта. Эта страна надеется, что ИИ обеспечит безопасность, борется с терроризмом и улучшит программы распознавания речи. ¹⁹ Двойной характер многих алгоритмов ИИ будет означать, что исследования ИИ, сосредоточенные на одном секторе общества, могут быть быстро изменены для использования в секторе безопасности. ²⁰

AI помогают дизайнерам улучшить вычислительную сложность в здравоохранении.Например, Merantix — немецкая компания, которая применяет глубокое обучение к медицинским вопросам. У него есть приложение для медицинской визуализации, которое «обнаруживает лимфатические узлы в человеческом теле на изображениях компьютерной томографии (КТ)». ²¹ По словам разработчиков, ключевым моментом является маркировка узлов и определение небольших повреждений или новообразований, которые могут быть проблематичными. Люди могут это сделать, но радиологи берут 100 долларов в час и могут внимательно прочитать только четыре изображения в час. Если бы было 10 000 изображений, стоимость этого процесса составила бы 250 000 долларов, что недопустимо дорого, если бы выполнялся человеком.

В этой ситуации глубокое обучение может обучить компьютеры на наборах данных, чтобы узнать, что такое нормальный лимфатический узел, а какой — нерегулярный. Выполнив это с помощью упражнений на визуализацию и оттачивая точность маркировки, специалисты по радиологической визуализации могут применить эти знания к реальным пациентам и определить степень риска раковых лимфатических узлов. Поскольку лишь некоторые из них могут дать положительный результат, необходимо отличить нездоровый узел от здорового.

применялся также при застойной сердечной недостаточности, заболевании, которым страдают 10 процентов пожилых людей и которое ежегодно обходится в США в 35 миллиардов долларов. Инструменты искусственного интеллекта полезны, потому что они «заранее предсказывают потенциальные проблемы в будущем и выделяют ресурсы на обучение пациентов, распознавание и упреждающие вмешательства, которые не позволяют пациентам попасть в больницу». ²²

AI развертывается в сфере уголовного правосудия.Город Чикаго разработал управляемый искусственным интеллектом «Список стратегических тем», в котором анализируются люди, арестованные за риск стать преступниками в будущем. Он оценивает 400 000 человек по шкале от 0 до 500, используя такие параметры, как возраст, преступная деятельность, виктимизация, записи об арестах за наркотики и принадлежность к банде. Изучив данные, аналитики обнаружили, что молодежь является сильным предиктором насилия, быть жертвой перестрелки ассоциируется с будущим преступником, принадлежность к банде имеет небольшую прогностическую ценность, а аресты за наркотики не имеют существенной связи с будущей преступной деятельностью. ²³

Судебные эксперты утверждают, что программы искусственного интеллекта снижают предвзятость сотрудников правоохранительных органов и приводят к более справедливой системе вынесения приговоров. Сотрудник Института R Street Калеб Уотни пишет:

Эмпирически обоснованные вопросы прогнозного анализа рисков играют на руку машинному обучению, автоматизированному мышлению и другим формам ИИ. Одно моделирование политики машинного обучения пришло к выводу, что такие программы можно использовать для сокращения преступности до 24,8 процента без изменения количества заключенных или сократить количество заключенных до 42 процентов без увеличения уровня преступности. ²⁴

Однако критики обеспокоены тем, что алгоритмы ИИ представляют собой «секретную систему для наказания граждан за преступления, которых они еще не совершали. Оценки риска неоднократно использовались для проведения крупномасштабных облав ». ²⁵ Есть опасения, что такие инструменты несправедливо нацелены на цветных людей и не помогли Чикаго снизить волну убийств, охватившую его в последние годы.

Несмотря на эти опасения, другие страны продолжают быстрое развертывание в этой области.В Китае, например, компании уже имеют «значительные ресурсы и доступ к голосам, лицам и другим биометрическим данным в огромных количествах, что поможет им развивать свои технологии». ²⁶ Новые технологии позволяют сопоставлять изображения и голоса с другими типами информации и использовать ИИ в этих комбинированных наборах данных для улучшения правоохранительной деятельности и национальной безопасности. Через свою программу «Sharp Eyes» китайские правоохранительные органы объединяют видеоизображения, активность в социальных сетях, онлайн-покупки, записи о поездках и личные данные в «полицейское облако».«Эта интегрированная база данных позволяет властям отслеживать преступников, потенциальных нарушителей закона и террористов. ²⁷ Иными словами, Китай стал ведущим в мире государством слежки с использованием искусственного интеллекта.

Транспорт представляет собой область, в которой искусственный интеллект и машинное обучение создают важные инновации. Исследования Кэмерона Керри и Джека Карстена из Брукингского института показали, что в период с августа 2014 года по июнь 2017 года в технологии автономных транспортных средств было инвестировано более 80 миллиардов долларов.Эти инвестиции включают приложения как для автономного вождения, так и в основные технологии, жизненно важные для этого сектора. ²⁸

Автономные транспортные средства — автомобили, грузовики, автобусы и системы доставки беспилотных летательных аппаратов — используют передовые технологические возможности. Эти функции включают в себя автоматическое наведение и торможение транспортного средства, системы смены полосы движения, использование камер и датчиков для предотвращения столкновений, использование ИИ для анализа информации в реальном времени, а также использование высокопроизводительных вычислений и систем глубокого обучения для адаптации к новые обстоятельства через подробные карты. ²⁹

Системы обнаружения света и дальности (LIDAR) и искусственный интеллект играют ключевую роль в навигации и предотвращении столкновений. Системы LIDAR объединяют световые и радиолокационные приборы. Они устанавливаются на крыше транспортных средств, которые используют изображение в 360-градусной среде с помощью радара и световых лучей для измерения скорости и расстояния до окружающих объектов. Наряду с датчиками, размещенными на передней, боковой и задней части транспортного средства, эти инструменты предоставляют информацию, которая удерживает быстро движущиеся автомобили и грузовики на их полосе движения, помогает им избегать других транспортных средств, при необходимости применяет тормоза и рулевое управление, и делает это мгновенно. чтобы избежать несчастных случаев.

Расширенное программное обеспечение позволяет автомобилям учиться на опыте других транспортных средств на дороге и настраивать свои системы навигации при изменении погоды, вождения или дорожных условий. Это означает, что ключом является программное обеспечение, а не сам физический автомобиль или грузовик.

Поскольку эти камеры и датчики собирают огромный объем информации и должны мгновенно обрабатывать его, чтобы избежать столкновения с автомобилем на следующей полосе, автономным транспортным средствам требуются высокопроизводительные вычисления, продвинутые алгоритмы и системы глубокого обучения для адаптации к новым сценариям.Это означает, что ключом является программное обеспечение, а не сам физический автомобиль или грузовик. ³⁰ Расширенное программное обеспечение позволяет автомобилям учиться на опыте других транспортных средств на дороге и настраивать свои системы навигации при изменении погоды, вождения или дорожных условий. ³¹

Компании, занимающиеся райдшерингом, очень заинтересованы в автономных транспортных средствах. Они видят преимущества в обслуживании клиентов и производительности труда. Все крупные компании по аренде райдеров изучают автомобили без водителя.Всплеск услуг каршеринга и такси, таких как Uber и Lyft в США, Mytaxi и Hailo компании Daimler в Великобритании и Didi Chuxing в Китае, демонстрирует возможности этого вида транспорта. Uber недавно подписал соглашение о покупке 24 000 автономных автомобилей у Volvo для службы совместного использования пассажиров. ³²

Однако в марте 2018 года компания по аренде автомобилей потерпела неудачу, когда один из ее автономных транспортных средств в Аризоне сбил пешехода и убил его.Uber и несколько автопроизводителей немедленно приостановили испытания и начали расследование того, что пошло не так и как мог произойти смертельный исход. ³³ И промышленность, и потребители хотят быть уверенными в том, что технология безопасна и способна выполнить заявленные обещания. Если не будет убедительных ответов, эта авария может замедлить развитие ИИ в транспортном секторе.

Столичные правительства используют ИИ для улучшения предоставления городских услуг.Например, по словам Кевина Десузы, Рашми Кришнамурти и Грегори Доусона:

Пожарная служба Цинциннати использует аналитику данных для оптимизации реагирования на неотложную медицинскую помощь. Новая система аналитики рекомендует диспетчеру соответствующий ответ на вызов службы экстренной медицинской помощи — можно ли лечить пациента на месте или его нужно доставить в больницу — с учетом нескольких факторов, таких как тип вызова, местоположение , погода и подобные звонки. ³⁴

Так как он ежегодно отправляет 80 000 запросов, официальные лица Цинциннати применяют эту технологию для определения приоритетов реагирования и определения лучших способов реагирования на чрезвычайные ситуации.Они рассматривают ИИ как способ работы с большими объемами данных и находят эффективные способы ответа на публичные запросы. Вместо того, чтобы решать проблемы с обслуживанием разовым образом, власти стараются проявлять инициативу в том, как они предоставляют городские услуги.

Цинциннати не одинок. В ряде мегаполисов внедряются приложения для умных городов, которые используют ИИ, среди прочего, для улучшения предоставления услуг, экологического планирования, управления ресурсами, использования энергии и предотвращения преступности.В своем индексе умных городов журнал Fast Company оценил американские регионы и выбрал Сиэтл, Бостон, Сан-Франциско, Вашингтон, округ Колумбия, и Нью-Йорк, как самые популярные среди них. Сиэтл, например, придерживается принципов устойчивого развития и использует искусственный интеллект для управления энергопотреблением и управлением ресурсами. Бостон запустил программу «City Hall To Go», которая гарантирует, что малообеспеченные общины получают необходимые общественные услуги. Он также развернул «камеры и индуктивные петли для управления движением и акустические датчики для определения выстрелов из оружия».«Сан-Франциско сертифицировал 203 здания как отвечающие стандартам устойчивости LEED. ³⁵

Благодаря этим и другим средствам мегаполисы лидируют по внедрению решений искусственного интеллекта в стране. Действительно, согласно отчету Национальной лиги городов, 66 процентов американских городов инвестируют в технологии умных городов. Среди основных приложений, отмеченных в отчете, — «интеллектуальные счетчики для коммунальных служб, интеллектуальные сигналы трафика, приложения электронного управления, киоски Wi-Fi и датчики радиочастотной идентификации на тротуарах».” ³⁶

Эти примеры из различных секторов демонстрируют, как ИИ меняет многие сферы человеческого существования. Растущее проникновение ИИ и автономных устройств во многие аспекты жизни меняет основные операции и процесс принятия решений в организациях, а также повышает эффективность и время отклика.

Однако в то же время эти события поднимают важные политические, нормативные и этические вопросы. Например, как мы должны продвигать доступ к данным? Как мы защитимся от предвзятых или несправедливых данных, используемых в алгоритмах? Какие типы этических принципов вводятся в процессе программирования и насколько прозрачными должны быть дизайнеры в своем выборе? А как насчет вопросов юридической ответственности в случаях, когда алгоритмы причиняют вред? ³⁷

Растущее проникновение ИИ во многие аспекты жизни меняет процесс принятия решений в организациях и повышает эффективность.В то же время, эти события поднимают важные политические, нормативные и этические вопросы.

Ключом к получению максимальной отдачи от ИИ является «дружественная к данным экосистема с унифицированными стандартами и межплатформенным обменом». ИИ зависит от данных, которые можно анализировать в режиме реального времени и использовать для решения конкретных проблем. Наличие данных, «доступных для исследования» в исследовательском сообществе, является предпосылкой для успешной разработки ИИ. ³⁸

Согласно исследованию McKinsey Global Institute, страны, которые продвигают открытые источники данных и обмен данными, являются наиболее вероятными странами, которые увидят прогресс в области искусственного интеллекта. В этом плане у США есть существенное преимущество перед Китаем. Глобальные рейтинги открытости данных показывают, что США занимают восьмое место в мире по сравнению с 93 местом в Китае. ³⁹

Но прямо сейчас в Соединенных Штатах нет согласованной национальной стратегии в области данных. Существует несколько протоколов для содействия доступу к исследованиям или платформ, которые позволяют получать новые идеи из частных данных.Не всегда ясно, кому принадлежат данные или какая часть принадлежит публичной сфере. Эта неопределенность ограничивает инновационную экономику и тормозит академические исследования. В следующем разделе мы опишем способы улучшения доступа к данным для исследователей.

В некоторых случаях считается, что определенные системы ИИ допускают дискриминационные или предвзятые действия. ⁴⁰ Например, Airbnb обвиняется в наличии на своей платформе домовладельцев, дискриминирующих расовые меньшинства.Исследовательский проект, проведенный Гарвардской школой бизнеса, показал, что «пользователи Airbnb с явно афроамериканскими именами примерно на 16 процентов реже будут приняты в качестве гостей, чем те, у кого явно белые имена». ⁴¹

Расовые проблемы также возникают с программным обеспечением для распознавания лиц. Большинство таких систем работают, сравнивая лицо человека с рядом лиц в большой базе данных. Как отмечает Джой Буоламвини из Лиги алгоритмической справедливости: «Если ваши данные о распознавании лиц содержат в основном лица европеоидной расы, это то, что ваша программа научится распознавать.” ⁴² Если базы данных не имеют доступа к различным данным, эти программы плохо работают при попытке распознать афро-американские или азиатско-американские особенности.

Многие наборы исторических данных отражают традиционные значения, которые могут или не могут отражать предпочтения, желаемые в текущей системе. Как отмечает Буоламвини, такой подход рискует повторить несправедливость прошлого:

Рост автоматизации и растущая зависимость от алгоритмов для принятия важных решений, таких как получение страховки, вероятность невыполнения обязательств по ссуде или чей-то риск рецидива, означает, что это то, что необходимо решить.Даже решения о зачислении становятся все более автоматизированными — в какую школу ходят наши дети и какие возможности у них есть. Нам не нужно переносить структурное неравенство прошлого в будущее, которое мы создаем. ⁴³

Алгоритмы включают этические соображения и ценностный выбор в программные решения. Таким образом, эти системы вызывают вопросы относительно критериев, используемых при автоматизированном принятии решений. Некоторые люди хотят лучше понимать, как работают алгоритмы и какой выбор делается. ⁴⁴

В Соединенных Штатах многие городские школы используют алгоритмы для принятия решений о зачислении, основанные на различных соображениях, таких как предпочтения родителей, качество района, уровень дохода и демографический фон. По словам исследователя Брукингса Джона Валанта, базирующаяся в Новом Орлеане Bricolage Academy «отдает приоритет экономически неблагополучным кандидатам до 33 процентов имеющихся мест. На практике, однако, большинство городов выбрали категории, в которых приоритет отдается братьям и сестрам нынешних учащихся, детям школьных служащих и семьям, проживающим в широком географическом районе школы.” ⁴⁵ Можно ожидать, что выбор зачисления будет очень различным, когда в игру вступят такие соображения.

В зависимости от того, как настроены системы искусственного интеллекта, они могут упростить выделение ипотечных заявок, помочь людям дискриминировать людей, которые им не нравятся, или помочь отобрать или составить списки людей на основе несправедливых критериев. Типы соображений, которые входят в программные решения, имеют большое значение с точки зрения того, как работают системы и как они влияют на клиентов. ⁴⁶

По этим причинам ЕС вводит в действие Общий регламент защиты данных (GDPR) в мае 2018 года. В правилах указано, что люди имеют «право отказаться от персонализированной рекламы» и «могут оспаривать принятые« юридические или аналогичные важные »решения. алгоритмами и призывом к вмешательству человека »в форме объяснения того, как алгоритм привел к определенному результату. Каждое руководство предназначено для обеспечения защиты личных данных и предоставления людям информации о том, как работает «черный ящик». ⁴⁷

Есть вопросы относительно юридической ответственности систем искусственного интеллекта. В случае причинения вреда или нарушения (или смертельного исхода в случае беспилотных автомобилей) операторы алгоритма, вероятно, подпадут под действие правил ответственности за качество продукции. Судебная практика показала, что факты и обстоятельства ситуации определяют ответственность и влияют на вид налагаемых наказаний. Они могут варьироваться от гражданских штрафов до тюремного заключения за серьезный вред. ⁴⁸ Смерть, связанная с Uber, в Аризоне станет важным испытанием для юридической ответственности. Штат активно привлекал Uber для тестирования своих автономных транспортных средств и предоставил компании значительные возможности для проведения дорожных испытаний. Еще неизвестно, будут ли по этому делу судебные иски и кто привлечен к суду: водитель-человек, штат Аризона, пригород Феникса, где произошла авария, Uber, разработчики программного обеспечения или производитель автомобилей. Учитывая, что в дорожных испытаниях участвует множество людей и организаций, необходимо решить множество юридических вопросов.

В областях, не связанных с транспортом, цифровые платформы часто несут ограниченную ответственность за то, что происходит на их сайтах. Например, в случае с Airbnb фирма «требует, чтобы люди согласились отказаться от своего права на подачу иска или присоединиться к любому коллективному иску или коллективному арбитражу, чтобы воспользоваться услугой». Требуя от пользователей пожертвовать основными правами, компания ограничивает защиту потребителей и, следовательно, ограничивает возможности людей бороться с дискриминацией, возникающей из-за несправедливых алгоритмов. ⁴⁹ Но верен ли принцип нейтральных сетей во многих секторах, еще предстоит определить на широкой основе.

Чтобы уравновесить инновации и основные человеческие ценности, мы предлагаем ряд рекомендаций по развитию ИИ. Это включает в себя улучшение доступа к данным, увеличение государственных инвестиций в ИИ, содействие развитию ИИ-персонала, создание федерального консультативного комитета, взаимодействие с государственными и местными властями для обеспечения принятия эффективных политик, регулирование общих целей в отличие от конкретных алгоритмов, серьезное отношение к предвзятости как к предвзятости. Проблема ИИ, поддержание механизмов человеческого контроля и надзора, наказание за злонамеренное поведение и обеспечение кибербезопасности.

Соединенным Штатам следует разработать стратегию обработки данных, способствующую инновациям и защите потребителей. В настоящее время не существует единых стандартов в отношении доступа к данным, обмена данными или защиты данных. Практически все данные являются конфиденциальными по своей природе и не передаются в широкое пользование исследовательскому сообществу, что ограничивает инновации и проектирование систем. ИИ требует данных для тестирования и улучшения его способности к обучению. ⁵⁰ Без структурированных и неструктурированных наборов данных будет практически невозможно получить все преимущества искусственного интеллекта.

В целом, исследовательскому сообществу нужен лучший доступ к правительственным и коммерческим данным, хотя и с соответствующими гарантиями, чтобы убедиться, что исследователи не злоупотребляют данными, как Cambridge Analytica сделала с информацией Facebook. Исследователи могут получить доступ к данным разными способами. Один из них заключается в добровольных соглашениях с компаниями, владеющими конфиденциальными данными. Facebook, например, недавно объявил о партнерстве со Стэнфордским экономистом Раджем Четти, чтобы использовать данные социальных сетей для исследования неравенства. ⁵¹ В рамках соглашения исследователи должны были пройти проверку биографических данных и иметь доступ к данным только с защищенных сайтов в целях защиты конфиденциальности и безопасности пользователей.

В США нет единых стандартов в отношении доступа к данным, обмена данными или защиты данных. Практически все данные являются конфиденциальными по своей природе и не передаются в широкое пользование исследовательскому сообществу, что ограничивает инновации и проектирование систем.

Google уже давно предоставляет результаты поиска в агрегированной форме для исследователей и широкой публики.На сайте «Тенденции» ученые могут анализировать такие темы, как интерес к Трампу, взгляды на демократию и перспективы экономики в целом. ⁵² Это помогает людям отслеживать движения в интересах общества и определять темы, которые вдохновляют широкую публику.

Twitter делает большую часть своих твитов доступными для исследователей через интерфейсы прикладного программирования, обычно называемые API. Эти инструменты помогают людям за пределами компании создавать прикладное программное обеспечение и использовать данные из ее платформы социальных сетей.Они могут изучать модели общения в социальных сетях и видеть, как люди комментируют текущие события или реагируют на них.

В некоторых секторах, где есть заметная общественная выгода, правительства могут способствовать сотрудничеству, создавая инфраструктуру, которая обменивается данными. Например, Национальный институт рака впервые разработал протокол обмена данными, при котором сертифицированные исследователи могут запрашивать имеющиеся у него данные о состоянии здоровья, используя обезличенную информацию, полученную из клинических данных, информации о заявках и лекарственной терапии.Это позволяет исследователям оценивать эффективность и результативность и давать рекомендации относительно лучших медицинских подходов без ущерба для конфиденциальности отдельных пациентов.

Могут существовать партнерские отношения между государственным и частным секторами, которые объединяют наборы государственных и коммерческих данных для повышения производительности системы. Например, города могут объединять информацию из служб совместного использования поездок со своими собственными материалами о местах предоставления социальных услуг, автобусных маршрутах, общественном транспорте и заторах на автомагистралях, чтобы улучшить транспорт.Это поможет мегаполисам справиться с заторами движения и поможет в планировании автомагистралей и общественного транспорта.

Некоторое сочетание этих подходов улучшило бы доступ к данным для исследователей, правительства и бизнес-сообщества, не затрагивая при этом личную конфиденциальность. Как заметил Ян Бак, вице-президент NVIDIA, «Данные — это топливо, которое движет движком ИИ. Федеральное правительство имеет доступ к обширным источникам информации. Открытие доступа к этим данным поможет нам понять, что изменит U.С. экономика ». ⁵³ Через портал Data.gov федеральное правительство уже предоставило более 230 000 наборов данных в общественное достояние, и это стимулировало инновации и способствовало совершенствованию технологий искусственного интеллекта и анализа данных. ⁵⁴ Частный сектор также должен облегчить доступ к исследовательским данным, чтобы общество могло в полной мере использовать преимущества искусственного интеллекта.

По словам Грега Брокмана, соучредителя OpenAI, U.Федеральное правительство США инвестирует всего 1,1 миллиарда долларов в неклассифицированные технологии искусственного интеллекта. ⁵⁵ Это намного меньше суммы, расходуемой Китаем или другими ведущими странами в этой области исследований. Этот недостаток заслуживает внимания, потому что экономические выгоды от ИИ значительны. Для ускорения экономического развития и социальных инноваций федеральным чиновникам необходимо увеличить инвестиции в искусственный интеллект и аналитику данных. Увеличение инвестиций, вероятно, во много раз окупится экономическими и социальными выгодами. ⁵⁶

Поскольку приложения ИИ ускоряются во многих секторах, жизненно важно, чтобы мы переосмыслили наши образовательные учреждения для мира, в котором ИИ будет повсеместным, а учащиеся будут нуждаться в другом виде обучения, чем они получают в настоящее время. Прямо сейчас многие студенты не получают инструкций по навыкам, которые потребуются в среде, где доминирует ИИ. Например, в настоящее время не хватает специалистов по обработке данных, специалистов по информатике, инженеров, программистов и разработчиков платформ.Это навыки, которых не хватает; Если наша образовательная система не создаст больше людей с такими способностями, это ограничит развитие ИИ.

По этим причинам правительства штатов и федеральное правительство инвестируют в человеческий капитал ИИ. Например, в 2017 году Национальный научный фонд профинансировал более 6500 аспирантов в компьютерных областях и запустил несколько новых инициатив, направленных на поощрение данных и информатики на всех уровнях от дошкольного до высшего и непрерывного образования. ⁵⁷ Цель состоит в том, чтобы создать больший поток специалистов по ИИ и анализу данных, чтобы Соединенные Штаты могли в полной мере воспользоваться преимуществами революции в области знаний.

Но должны быть существенные изменения и в самом процессе обучения. В мире искусственного интеллекта необходимы не только технические навыки, но и навыки критического мышления, сотрудничества, проектирования, визуального отображения информации и независимого мышления, среди прочего. ИИ изменит конфигурацию функционирования общества и экономики, и необходимо иметь «общую картину», размышляя о том, что это будет значить для этики, управления и воздействия на общество.Людям потребуется способность широко осмыслить многие вопросы и интегрировать знания из различных областей.

Одним из примеров новых способов подготовки учащихся к цифровому будущему является программа IBM Teacher Advisor, в которой используются бесплатные онлайн-инструменты Watson, помогающие учителям привносить в класс новейшие знания. Они позволяют преподавателям разрабатывать новые планы уроков в областях STEM и не связанных с STEM, находить соответствующие обучающие видеоролики и помогают учащимся максимально эффективно использовать класс. ⁵⁸ По сути, они являются предшественниками новой образовательной среды, которую необходимо создать.

Федеральным чиновникам нужно подумать о том, как они имеют дело с искусственным интеллектом. Как отмечалось ранее, существует множество проблем, начиная от необходимости улучшения доступа к данным и заканчивая решением проблем предвзятости и дискриминации. Крайне важно учитывать эти и другие проблемы, чтобы мы могли в полной мере использовать преимущества этой новой технологии.

Чтобы продвинуться вперед в этой области, несколько членов Конгресса представили «Закон о будущем искусственного интеллекта», законопроект, призванный установить общие политические и правовые принципы для ИИ. Он предлагает министру торговли создать федеральный консультативный комитет по разработке и внедрению искусственного интеллекта. Законодательство предоставляет федеральному правительству механизм для получения рекомендаций о способах содействия «инвестиционному и инновационному климату для обеспечения глобальной конкурентоспособности Соединенных Штатов», «оптимизации развития искусственного интеллекта для решения проблемы потенциального роста, реструктуризации или другие изменения в рабочей силе Соединенных Штатов »,« поддерживают беспристрастную разработку и применение искусственного интеллекта »и« защищают права на неприкосновенность частной жизни ».” ⁵⁹

Комитету предлагается ответить на следующие конкретные вопросы: конкурентоспособность, влияние на персонал, образование, обучение этике, обмен данными, международное сотрудничество, подотчетность, предвзятость машинного обучения, влияние на сельскую местность, эффективность правительства, инвестиционный климат, влияние на рабочие места, предвзятость и влияние на потребителя. Комитету поручено представить отчет Конгрессу и администрации через 540 дней после принятия закона о любых законодательных или административных мерах, необходимых в отношении ИИ.

Этот закон является шагом в правильном направлении, хотя эта область развивается настолько быстро, что мы рекомендуем сократить сроки отчетности с 540 дней до 180 дней. Ожидание отчета комитета почти два года, безусловно, приведет к упущенным возможностям и бездействию по важным вопросам. Учитывая быстрый прогресс в этой области, гораздо более быстрое выполнение анализа комитета было бы весьма полезным.

штатов и населенных пунктов также принимают меры в отношении ИИ.Например, городской совет Нью-Йорка единогласно принял закон, предписывающий мэру сформировать рабочую группу, которая будет «контролировать справедливость и достоверность алгоритмов, используемых муниципальными агентствами». ⁶⁰ Городские власти используют алгоритмы, чтобы «определить, будет ли меньшая сумма залога назначена малоимущему обвиняемому, если будут созданы пожарные части, размещение учеников в государственных школах, оценка работы учителей, выявление мошенничества по программе Medicaid и определение того, где произойдет следующее преступление». ⁶¹

По словам разработчиков закона, городские власти хотят знать, как работают эти алгоритмы, и убедиться, что ИИ обеспечивает достаточную прозрачность и подотчетность.Кроме того, существует озабоченность по поводу справедливости и предвзятости алгоритмов ИИ, поэтому целевой группе было поручено проанализировать эти проблемы и дать рекомендации относительно будущего использования. Планируется, что к концу 2019 года он доложит мэру по целому ряду вопросов, касающихся политики ИИ, правовых и нормативных требований.

Некоторые наблюдатели уже обеспокоены тем, что рабочая группа не пойдет достаточно далеко в привлечении алгоритмов к ответственности. Например, Джулия Паулз из Корнельского технологического университета и Нью-Йоркского университета утверждает, что закон изначально требовал от компаний сделать исходный код ИИ доступным для всеобщего ознакомления и что имело место моделирование принятия решений с использованием реальных данных.Однако после критики этих положений бывший член совета Джеймс Вакка отказался от требований в пользу целевой группы, изучающей эти вопросы. Он и другие городские власти были обеспокоены тем, что публикация конфиденциальной информации об алгоритмах замедлит инновации и затруднит поиск поставщиков ИИ, которые будут работать с городом. ⁶² Еще неизвестно, как эта местная целевая группа уравновесит вопросы инноваций, конфиденциальности и прозрачности.

Европейский Союз занял ограничительную позицию по этим вопросам сбора и анализа данных. ⁶³ В нем есть правила, ограничивающие возможность компаний собирать данные о дорожных условиях и отображать виды улиц. Поскольку многие из этих стран обеспокоены тем, что личная информация людей в незашифрованных сетях Wi-Fi попадает в общий сбор данных, ЕС оштрафовал технологические компании, потребовал копии данных и наложил ограничения на собираемый материал. ⁶⁴ Это усложнило работающим там технологическим компаниям разработку карт высокого разрешения, необходимых для автономных транспортных средств.

GDPR, внедряемый в Европе, налагает серьезные ограничения на использование искусственного интеллекта и машинного обучения. Согласно опубликованным руководящим принципам, «Правила запрещают любое автоматизированное решение, которое« существенно влияет »на граждан ЕС. Сюда входят методы, которые оценивают «производительность человека на работе, экономическое положение, здоровье, личные предпочтения, интересы, надежность, поведение, местоположение или передвижения» ». ⁶⁵ Кроме того, эти новые правила дают гражданам право проверять, как цифровые службы сделали определенные алгоритмические выборы, влияющие на людей.

Занимая ограничительную позицию по вопросам сбора и анализа данных, Европейский Союз ставит своих производителей и разработчиков программного обеспечения в невыгодное положение по сравнению с остальным миром.

При строгом толковании эти правила затруднят европейским разработчикам программного обеспечения (и американским дизайнерам, работающим с европейскими аналогами) внедрение искусственного интеллекта и картографирования высокой четкости в автономные транспортные средства. Центральным элементом навигации в этих автомобилях и грузовиках является отслеживание местоположения и перемещений.Без карт высокой четкости, содержащих геокодированные данные, и глубокого обучения, использующего эту информацию, полностью автономное вождение в Европе будет стагнирующим. Посредством этой и других мер по защите данных Европейский Союз ставит своих производителей и разработчиков программного обеспечения в невыгодное положение по сравнению с остальным миром.

Имеет смысл подумать о широких целях, желаемых в области ИИ, и ввести в действие политику, которая их продвигает, в отличие от правительств, пытающихся взломать «черные ящики» и посмотреть, как именно работают конкретные алгоритмы.Регулирование отдельных алгоритмов ограничит инновации и затруднит использование искусственного интеллекта для компаний.

Предвзятость и дискриминация — серьезные проблемы для ИИ. Уже имел место ряд случаев несправедливого обращения, связанного с историческими данными, и необходимо предпринять шаги, чтобы убедиться, что это не станет распространенным явлением в искусственном интеллекте. Существующие законы, регулирующие дискриминацию в физической экономике, необходимо распространить на цифровые платформы.Это поможет защитить потребителей и укрепить доверие к этим системам в целом.

Чтобы эти достижения получили широкое распространение, необходима большая прозрачность в работе систем искусственного интеллекта. Эндрю Берт из Immuta утверждает: «Ключевая проблема, с которой сталкивается прогнозная аналитика, — это действительно прозрачность. Мы живем в мире, где операции по обработке и анализу данных берут на себя все более важные задачи, и единственное, что их сдерживает, — это то, насколько хорошо специалисты по обработке данных, обучающие модели, могут объяснить, что делают их модели.” ⁶⁶

Некоторые люди утверждали, что у людей должны быть возможности осуществлять надзор и контроль над системами ИИ. Например, генеральный директор Института искусственного интеллекта Аллена Орен Эциони утверждает, что должны быть правила для регулирования этих систем. Во-первых, по его словам, ИИ должен регулироваться всеми законами, которые уже были разработаны для человеческого поведения, включая правила, касающиеся «киберзапугивания, манипулирования ценными бумагами или террористических угроз», а также «заманивания [пинг] людей в совершение преступлений.Во-вторых, он считает, что эти системы должны раскрывать, что они автоматизированные системы, а не люди. В-третьих, он утверждает: «А.И. система не может хранить или раскрывать конфиденциальную информацию без явного согласия источника этой информации ». ⁶⁷ Его объяснение состоит в том, что эти инструменты хранят так много данных, что люди должны осознавать риски для конфиденциальности, создаваемые ИИ.

В том же духе Глобальная инициатива IEEE имеет этические принципы для ИИ и автономных систем.Его эксперты предлагают запрограммировать эти модели с учетом общепринятых человеческих норм и правил поведения. Алгоритмы ИИ должны учитывать важность этих норм, способы разрешения конфликта норм и способы, которыми эти системы могут быть прозрачными в отношении разрешения норм. По мнению экспертов по этике, дизайн программного обеспечения должен быть запрограммирован на «непредвзятость» и «честность». При возникновении сбоев должны существовать механизмы смягчения последствий. В частности, ИИ должен быть чувствителен к таким проблемам, как предвзятость, дискриминация и справедливость. ⁶⁸

Группа экспертов по машинному обучению утверждает, что можно автоматизировать принятие этических решений. Используя проблему троллейбуса как моральную дилемму, они задают следующий вопрос: если автономный автомобиль выходит из-под контроля, следует ли запрограммировать его так, чтобы убивать собственных пассажиров или пешеходов, переходящих улицу? Они разработали «систему, основанную на голосовании», которая попросила 1,3 миллиона человек оценить альтернативные сценарии, суммировала общий выбор и применила общую точку зрения этих людей к ряду транспортных возможностей.Это позволило им автоматизировать принятие этических решений в алгоритмах ИИ с учетом общественных предпочтений. ⁶⁹ Эта процедура, конечно, не уменьшает трагедию, связанную с какими-либо смертельными исходами, например, в случае с Uber, но обеспечивает механизм, который помогает разработчикам ИИ учитывать этические соображения при планировании.

Как и в случае с любой новой технологией, важно препятствовать вредоносному лечению, предназначенному для обмана программного обеспечения или использования его в нежелательных целях. ⁷⁰ Это особенно важно с учетом аспектов двойного использования ИИ, когда один и тот же инструмент может использоваться в полезных или злонамеренных целях. Злонамеренное использование ИИ подвергает людей и организации ненужным рискам и подрывает достоинства появляющейся технологии. Это включает в себя такие действия, как взлом, манипулирование алгоритмами, нарушение конфиденциальности и конфиденциальности или кража личных данных. Усилия по захвату ИИ с целью получения конфиденциальной информации должны серьезно наказываться как способ сдерживания таких действий. ⁷¹

В быстро меняющемся мире, в котором многие организации обладают передовыми вычислительными возможностями, необходимо уделять серьезное внимание кибербезопасности. Страны должны быть осторожны, защищая свои собственные системы и не позволяя другим странам нанести ущерб их безопасности. ⁷² По данным Министерства внутренней безопасности США, в центр обслуживания крупного американского банка в неделю поступает около 11 миллионов звонков. Чтобы защитить свою телефонию от атак типа «отказ в обслуживании», он использует «механизм политик на основе машинного обучения, [который] блокирует более 120 000 вызовов в месяц на основе политик голосового брандмауэра, включая преследование вызывающих абонентов, роботизированные вызовы и потенциальные мошеннические вызовы. ⁷³ Это представляет собой способ, которым машинное обучение может помочь защитить технологические системы от злонамеренных атак.

Подводя итог, можно сказать, что мир находится на пороге революции во многих секторах с помощью искусственного интеллекта и анализа данных. Уже есть значительные развертывания в области финансов, национальной безопасности, здравоохранения, уголовного правосудия, транспорта и умных городов, которые изменили процесс принятия решений, бизнес-модели, снижение рисков и производительность системы. Эти события приносят существенные экономические и социальные выгоды.

Мир находится на пороге революционных преобразований во многих секторах с помощью искусственного интеллекта, но необходимо лучше понимать способ разработки систем искусственного интеллекта из-за серьезных последствий, которые эти технологии будут иметь для общества в целом.

Тем не менее, то, как разворачиваются системы искусственного интеллекта, имеет большое значение для общества в целом. Важно то, как решаются политические вопросы, разрешаются этические конфликты, разрешаются правовые реалии и насколько прозрачна требуется ИИ и решения для анализа данных. ⁷⁴ Выбор человека в отношении разработки программного обеспечения влияет на способ принятия решений и на то, как они интегрируются в рабочие процессы организации. Необходимо лучше понять, как именно выполняются эти процессы, потому что они окажут существенное влияние на широкую публику в ближайшее время и в обозримом будущем. ИИ вполне может произвести революцию в человеческих делах и стать самым влиятельным человеческим нововведением в истории.

Примечание. Мы ценим помощь Грейс Гилберг, Джека Карстена, Хиллари Шауб и Кристьян Томассон в исследовании этого проекта.

The Brookings Institution — некоммерческая организация, занимающаяся независимыми исследованиями и политическими решениями. Его миссия — проводить качественные независимые исследования и на основе этих исследований предоставлять инновационные практические рекомендации для политиков и общественности. Выводы и рекомендации любой публикации Brookings принадлежат исключительно ее авторам и не отражают точку зрения Учреждения, его руководства или других ученых.

Поддержка этой публикации была предоставлена ​​Amazon. Brookings осознает, что ценность, которую он предоставляет, заключается в его абсолютной приверженности качеству, независимости и влиянию. Мероприятия, поддерживаемые его донорами, отражают это обязательство.

Джон Р. Аллен является членом Совета консультантов Amida Technology и Совета директоров Spark Cognition. Обе компании работают в областях, обсуждаемых в этой статье.

Конкуренция в эпоху искусственного интеллекта

Вкратце об идее

Изменение рынка

Мы наблюдаем появление фирм нового типа, в которых искусственный интеллект является основным источником создания и доставки стоимости.

Вызов

Операционная модель, основанная на искусственном интеллекте, стирает границы, которые раньше разделяли отрасли, и меняет правила деловой конкуренции.

The Upshot

Как для цифровых стартапов, так и для традиционных компаний важно понимать революционное влияние ИИ на операции, стратегию и конкуренцию.

В 2019 году, всего через пять лет после запуска Ant Financial Services Group, количество потребителей, пользующихся ее услугами, перевалило за миллиард.Компания Ant Financial, созданная на базе Alibaba, использует искусственный интеллект и данные из Alipay — своей основной платформы мобильных платежей — для управления разнообразным бизнесом, включая потребительское кредитование, фонды денежного рынка, управление капиталом, медицинское страхование, услуги кредитного рейтинга и т. Д. даже онлайн-игра, которая побуждает людей сокращать углеродный след. Компания обслуживает более чем в 10 раз больше клиентов, чем крупнейшие банки США, при этом количество сотрудников составляет менее одной десятой. Во время последнего раунда финансирования в 2018 году ее оценка составляла 150 миллиардов долларов, что почти вдвое меньше стоимости JPMorgan Chase, самой дорогой в мире компании, предоставляющей финансовые услуги.

В отличие от традиционных банков, инвестиционных институтов и страховых компаний, Ant Financial построена на цифровом ядре. На «критическом пути» операционной деятельности нет рабочих. AI управляет шоу. Нет менеджера, утверждающего ссуды, нет сотрудника, предоставляющего финансовые консультации, нет представителя, уполномоченного на медицинские расходы потребителей. Без операционных ограничений, которые ограничивают традиционные компании, Ant Financial может беспрецедентно конкурировать и добиваться безудержного роста и влияния в самых разных отраслях.

Эра искусственного интеллекта начинается с появления фирм нового типа. В когорту Ant Financial входят такие гиганты, как Google, Facebook, Alibaba и Tencent, а также множество небольших, быстрорастущих компаний, от Zebra Medical Vision и Wayfair до Indigo Ag и Ocado. Каждый раз, когда мы пользуемся услугами одной из этих компаний, происходит одно и то же: вместо того, чтобы полагаться на традиционные бизнес-процессы, которыми управляют работники, менеджеры, инженеры-технологи, супервизоры или представители службы поддержки клиентов, ценность, которую мы получаем, обслуживается алгоритмами. .Генеральный директор Microsoft Сатья Наделла называет ИИ новой «средой выполнения» компании. Конечно, менеджеры и инженеры разрабатывают ИИ и программное обеспечение, которое заставляет алгоритмы работать, но после этого система приносит пользу сама по себе, за счет цифровой автоматизации или за счет использования экосистемы поставщиков за пределами фирмы. AI устанавливает цены на Amazon, рекомендует песни на Spotify, подбирает покупателей и продавцов на торговой площадке Indigo и квалифицирует заемщиков для получения ссуды Ant Financial.

Устранение традиционных ограничений меняет правила конкуренции.По мере того как цифровые сети и алгоритмы вплетаются в ткань фирм, отрасли начинают работать по-другому, и границы между ними стираются. Изменения выходят далеко за пределы цифровых фирм, поскольку более традиционные организации, сталкиваясь с новыми конкурентами, также переходят к моделям, основанным на искусственном интеллекте. Walmart, Fidelity, Honeywell и Comcast теперь активно используют данные, алгоритмы и цифровые сети, чтобы убедительно конкурировать в эту новую эру. Независимо от того, возглавляете ли вы цифровой стартап или работаете над модернизацией традиционного предприятия, важно понимать революционное влияние ИИ на операции, стратегию и конкуренцию.

Завод AI

В основе новой фирмы лежит фабрика решений — то, что мы называем «фабрикой искусственного интеллекта». Его программное обеспечение проводит миллионы ежедневных рекламных аукционов в Google и Baidu. Его алгоритмы решают, какие автомобили предлагают поездки на Didi, Grab, Lyft и Uber. Он устанавливает цены на наушники и рубашки поло на Amazon и запускает роботов, которые убирают полы в некоторых магазинах Walmart. Он позволяет использовать роботов для обслуживания клиентов в Fidelity и интерпретировать рентгеновские снимки в Zebra Medical. В каждом случае фабрика искусственного интеллекта рассматривает принятие решений как науку.Аналитика систематически преобразует внутренние и внешние данные в прогнозы, идеи и варианты выбора, которые, в свою очередь, направляют и автоматизируют рабочие процессы.

Эдди Гай

Как ни странно, искусственный интеллект, который может стимулировать стремительный рост цифровой фирмы, зачастую даже не так уж и сложен. Чтобы добиться кардинальных изменений, ИИ не обязательно должен быть предметом научной фантастики — неотличимым от человеческого поведения или имитирующим человеческое мышление, способность, которую иногда называют «сильным ИИ».«Вам нужна только компьютерная система, чтобы иметь возможность выполнять задачи, традиционно выполняемые людьми — то, что часто называют« слабым ИИ ».

При слабом ИИ фабрика ИИ уже может принимать ряд важных решений. В некоторых случаях он может управлять информационным бизнесом (например, Google и Facebook). В других случаях он будет определять, как компания создает, поставляет или эксплуатирует реальные физические продукты (например, складские роботы Amazon или Waymo, сервис беспилотных автомобилей Google). Но во всех случаях фабрики цифровых решений обрабатывают некоторые из наиболее важных процессов и операционных решений.Программное обеспечение составляет ядро ​​компании, а люди — на периферии.

Для каждого завода необходимы четыре компонента. Первый — это конвейер данных, полуавтоматический процесс, который собирает, очищает, интегрирует и защищает данные систематическим, устойчивым и масштабируемым образом. Второй — это алгоритмы, которые генерируют прогнозы о будущих состояниях или действиях бизнеса. Третий — платформа для экспериментов, на которой проверяются гипотезы относительно новых алгоритмов, чтобы убедиться, что их предложения имеют желаемый эффект.Четвертое — это инфраструктура, системы, которые встраивают этот процесс в программное обеспечение и подключают его к внутренним и внешним пользователям.

ИИ, который стимулирует стремительный рост, зачастую даже не так уж и сложен.

Возьмите поисковую систему вроде Google или Bing. Как только кто-то начинает вводить несколько букв в поле поиска, алгоритмы динамически прогнозируют полный поисковый запрос на основе терминов, которые многие пользователи вводили ранее, и прошлых действий этого конкретного пользователя.Эти прогнозы фиксируются в раскрывающемся меню («поле автозаполнения»), которое помогает пользователю быстро найти релевантный поиск. Каждое нажатие клавиши и каждый щелчок фиксируются как точки данных, и каждая точка данных улучшает прогнозы для будущих поисков. AI также генерирует обычные результаты поиска, которые берутся из ранее созданного индекса Интернета и оптимизируются в соответствии с кликами, сгенерированными по результатам предыдущих поисков. Ввод этого термина также запускает автоматический аукцион для объявлений, наиболее релевантных поисковому запросу пользователя, результаты которого формируются путем дополнительных экспериментов и циклов обучения.Любой щелчок по поисковому запросу или странице результатов поиска или вне их дает полезные данные. Чем больше поисков, тем лучше прогнозы и чем лучше прогнозы, тем больше используется поисковая система.

Снятие ограничений по масштабированию, охвату и обучению

Концепция масштаба была центральной в бизнесе, по крайней мере, со времен промышленной революции. Великий Альфред Чандлер описал, как современные промышленные фирмы могут достичь беспрецедентного уровня производства при гораздо более низких затратах на единицу продукции, давая крупным фирмам важное преимущество перед более мелкими конкурентами.Он также подчеркнул преимущества, которые компании могут получить от возможности достичь большего объема производства или разнообразия. Стремление к совершенствованию и инновациям добавило третье требование к фирмам: обучение. Масштаб, масштабы и обучение стали считаться важными факторами операционной деятельности фирмы. И в течение долгого времени они поддерживались четко определенными бизнес-процессами, которые полагаются на персонал и руководство для предоставления продуктов и услуг клиентам, и которые подкрепляются традиционными ИТ-системами.

После сотен лет постепенных улучшений промышленной модели цифровая фирма радикально меняет масштаб, масштабы и парадигму обучения. Процессы, управляемые искусственным интеллектом, можно масштабировать гораздо быстрее, чем традиционные процессы, они обеспечивают гораздо больший масштаб, поскольку их можно легко связать с другими оцифрованными предприятиями и создавать невероятно мощные возможности для обучения и совершенствования — например, способность производить еще более точные и сложные модели поведения клиентов, а затем соответствующим образом адаптировать услуги.

В традиционных операционных моделях масштаб неизбежно достигает точки, при которой он приносит убывающую отдачу. Но мы не обязательно наблюдаем это в моделях, основанных на искусственном интеллекте, в которых отдача от масштаба может продолжать расти до невиданных ранее уровней. А теперь представьте, что происходит, когда компания, основанная на искусственном интеллекте, конкурирует с традиционной фирмой, обслуживая тех же клиентов с аналогичным (или лучшим) ценностным предложением и гораздо более масштабируемой операционной моделью.

Мы называем такое противостояние «столкновением».«Поскольку и обучение, и сетевой эффект усиливают влияние объема на создание стоимости, фирмы, построенные на цифровом ядре, могут превосходить традиционные организации. Рассмотрим результат, когда Amazon сталкивается с традиционными розничными продавцами, Ant Financial — с традиционными банками, а Didi и Uber — с традиционными услугами такси. Как утверждали Клейтон Кристенсен, Майкл Рейнор и Рори Макдональд в своей книге «Что такое подрывные инновации?» (HBR, декабрь 2015 г.), такие нарушения конкуренции не соответствуют модели нарушения. Коллизии не вызваны конкретным нововведением в технологии или бизнес-модели.Они являются результатом появления фирмы совершенно другого типа. И они могут коренным образом изменить отрасли и изменить характер конкурентного преимущества.

Обратите внимание, что операционным моделям, управляемым ИИ, может потребоваться довольно много времени, чтобы создать экономическую ценность, близкую к той, которую традиционные операционные модели генерируют в масштабе. Сетевые эффекты не приносят особой пользы, пока не достигнут критической массы, и большинство вновь применяемых алгоритмов страдают от «холодного старта» до получения адекватных данных.Ant Financial быстро росла, но ее основной платежный сервис Alipay, который был запущен в 2004 году компанией Alibaba, занял годы, чтобы достичь нынешнего объема. Это объясняет, почему руководителям, укоренившимся в традиционной модели, сначала трудно поверить в то, что цифровая модель когда-нибудь догонит их. Но как только цифровая операционная модель действительно заработает, она сможет принести гораздо более высокую ценность и быстро обогнать традиционные компании.

Столкновения между компаниями, основанными на искусственном интеллекте, и традиционными фирмами происходят в разных отраслях: программное обеспечение, финансовые услуги, розничная торговля, телекоммуникации, СМИ, здравоохранение, автомобили и даже агробизнес.Трудно представить себе бизнес, который не сталкивается с острой необходимостью оцифровывать свою операционную модель и реагировать на новые угрозы.

Восстановление традиционных предприятий

Для руководителей традиционных фирм конкуренция с цифровыми конкурентами означает нечто большее, чем просто развертывание корпоративного программного обеспечения или даже построение конвейеров данных, понимание алгоритмов и эксперименты. Это требует перестройки организационной структуры и операционной модели фирмы. В течение очень, очень долгого времени компании оптимизировали свой масштаб, объем и возможности обучения за счет большей фокусировки и специализации, что привело к разрозненным структурам, которые сегодня имеют подавляющее большинство предприятий.Поколения информационных технологий не изменили эту схему. На протяжении десятилетий ИТ использовались для повышения эффективности конкретных функций и организационных единиц. Традиционные корпоративные системы часто даже усиливают разрозненность и разделение функций и продуктов.

Бункеры, однако, являются врагом роста с помощью искусственного интеллекта. Действительно, такие компании, как Google Реклама и MyBank Ant Financial, сознательно отказываются от них и предназначены для использования интегрированного ядра данных и единой согласованной базы кода.Когда у каждого разрозненного хранилища в фирме есть свои собственные данные и код, внутренняя разработка фрагментирована, и почти невозможно наладить связи между разрозненными хранилищами или с внешними бизнес-сетями или экосистемами. Кроме того, почти невозможно развить полное понимание клиента, которое одновременно обслуживает и привлекает каждый отдел и функцию. Поэтому, когда фирмы создают новое цифровое ядро, им следует избегать создания в нем глубоких организационных подразделений.

Хотя переход к модели, основанной на искусственном интеллекте, является сложной задачей, многие традиционные фирмы, с некоторыми из которых мы работали, начали переходить на него.Фактически, в недавнем исследовании мы рассмотрели более 350 традиционных предприятий как в сфере услуг, так и в производственном секторе и обнаружили, что большинство из них начали уделять больше внимания данным и аналитике в своих организациях. Многие из них, включая Nordstrom, Vodafone, Comcast и Visa, уже сделали важные шаги, оцифровав и изменив ключевые компоненты своих операционных моделей, а также разработав сложные платформы данных и возможности искусственного интеллекта. Вам не обязательно быть программным стартапом, чтобы оцифровать критически важные элементы вашего бизнеса, но вам нужно противостоять разрозненным и фрагментированным устаревшим системам, добавлять возможности и переоснащать свою культуру.(Для более подробного ознакомления с ключевыми принципами, которые должны стимулировать такие преобразования, см. Врезку «Использование ИИ в ядре фирмы».)

Fidelity Investments использует ИИ для поддержки процессов в важных областях, включая обслуживание клиентов, понимание клиентов и рекомендации по инвестициям. Его инициативы в области искусственного интеллекта основаны на многолетних усилиях по интеграции активов данных в одно цифровое ядро ​​и реорганизации организации вокруг него. Работа ни в коем случае не завершена, но влияние ИИ уже очевидно во многих важных сценариях использования в компании.Чтобы противостоять Amazon, Walmart перестраивает свою операционную модель на основе ИИ и заменяет традиционные разрозненные корпоративные программные системы интегрированной облачной архитектурой. Это позволит Walmart использовать свои уникальные информационные ресурсы во множестве новых мощных приложений, а также автоматизировать или улучшить растущее число рабочих задач с помощью ИИ и аналитики. В Microsoft Наделла делает ставку на будущее компании на полную трансформацию ее операционной модели.

Переосмысление стратегии и возможностей

По мере того как компании, использующие ИИ, сталкиваются с традиционными предприятиями, конкурентное преимущество все больше определяется способностью формировать цифровые сети и управлять ими.(См. «Почему одни платформы процветают, а другие — нет», HBR, январь – февраль 2019 г.) Организации, которые преуспевают в объединении предприятий, агрегировании данных, которые передаются между ними, и извлечении их ценности с помощью аналитики и искусственного интеллекта, будут иметь преимущество. . Традиционные сетевые эффекты и кривые обучения, основанные на искусственном интеллекте, будут усиливать друг друга, умножая влияние друг друга. Вы можете увидеть эту динамику в таких компаниях, как Google, Facebook, Tencent и Alibaba, которые стали мощными «узловыми» фирмами, накапливая данные через свои многочисленные сетевые соединения и создавая алгоритмы, необходимые для усиления конкурентных преимуществ в разнородных отраслях.

Между тем традиционные подходы к стратегии, ориентированные на традиционный отраслевой анализ, становятся все более неэффективными. Возьмите автомобильные компании. Они сталкиваются с множеством новых цифровых угроз, от Uber до Waymo, каждая из которых исходит за пределами традиционных отраслевых границ. Но если руководители автопроизводителей думают об автомобилях вне их традиционного отраслевого контекста, как об услугах с широкими связями и поддержкой ИИ, они могут не только защитить себя, но и раскрыть новые ценности — с помощью возможностей местной торговли, рекламы, новостей и развлекательных каналов с учетом местоположения. услуги и так далее.

Руководителям однажды посоветовали придерживаться тех предприятий, которые они знали, в тех отраслях, которые они понимали. Но синергия в алгоритмах и потоках данных не признает границ отрасли. И организации, которые не могут использовать клиентов и данные за пределами этих границ, скорее всего, окажутся в очень невыгодном положении. Вместо того чтобы сосредотачиваться на отраслевом анализе и управлении внутренними ресурсами компаний, стратегия должна быть сосредоточена на связях, которые фирмы создают между отраслями, и на потоке данных через сети, которые используют фирмы.

Все это имеет серьезные последствия для организаций и их сотрудников. Машинное обучение изменит характер практически любой работы, независимо от профессии, уровня дохода или специализации. Несомненно, операционные модели, основанные на искусственном интеллекте, могут привести к реальным человеческим жертвам. Некоторые исследования показывают, что, возможно, половину текущей работы можно заменить системами с поддержкой ИИ. Мы не должны этому удивляться. В конце концов, операционные модели уже давно разработаны, чтобы сделать многие задачи предсказуемыми и повторяемыми.Например, процессы сканирования продуктов при оформлении заказа, приготовления латте и удаления грыж выигрывают от стандартизации и не требуют слишком большого творческого потенциала человека. Хотя улучшения ИИ обогатят многие рабочие места и откроют множество интересных возможностей, кажется неизбежным, что они также вызовут повсеместное нарушение работы во многих профессиях.

Перемещение будет включать не только замену работы, но и эрозию традиционных возможностей. Практически в любой ситуации фирмы, использующие ИИ, берут на себя узкоспециализированные организации.В мире, основанном на искусственном интеллекте, требования к конкуренции связаны не столько со специализацией, сколько с универсальным набором возможностей в области поиска, обработки, аналитики и разработки алгоритмов данных. Эти новые универсальные возможности меняют стратегию, бизнес-дизайн и даже лидерство. Стратегии в очень разнообразных цифровых и сетевых компаниях теперь выглядят одинаково, как и факторы операционной эффективности. Отраслевой опыт стал менее критичным. Когда Uber искал нового генерального директора, совет директоров нанял кого-то, кто ранее руководил цифровой фирмой — Expedia, а не компанией по прокату лимузинов.

Мы переходим от эпохи ключевых компетенций, которые различаются от отрасли к отрасли, к эпохе, сформированной данными и аналитикой и основанной на алгоритмах, которые размещены в облаке, чтобы любой мог использовать. Вот почему Alibaba и Amazon могут конкурировать в столь разных отраслях, как розничная торговля и финансовые услуги, здравоохранение и кредитный скоринг. В этих секторах сейчас много схожих технологических основ и используются общие методы и инструменты. Стратегии смещаются от традиционной дифференциации, основанной на стоимости, качестве и капитале бренда, и специализированном, вертикальном опыте, к преимуществам, таким как положение в бизнес-сети, накопление уникальных данных и развертывание сложной аналитики.

Вызов лидерства

Хотя это может дать толчок огромному росту, устранение операционных ограничений не всегда хорошо. Системы без трения нестабильны, и их трудно остановить, когда они находятся в движении. Представьте себе машину без тормозов или лыжника, который не может сбавить скорость. Цифровой сигнал — например, вирусный мем — может быстро распространяться по сетям, и остановить его практически невозможно даже для организации, которая изначально его запустила, или для организации, контролирующей ключевые узлы сети.Без трений видео с подстрекательством к насилию или фальшивым или манипулятивным заголовком может быстро распространиться среди миллиардов людей в различных сетях, даже трансформируясь для оптимизации переходов по ссылкам и загрузок. Если вам нужно отправить сообщение, AI предлагает фантастический способ охватить огромное количество людей и персонализировать это сообщение для них. Но рай для маркетологов может стать кошмаром для горожан.

Цифровые операционные модели могут объединять вред и ценность. Даже если намерение положительное, потенциальный недостаток может быть значительным.Ошибка может подвергнуть крупную цифровую сеть разрушительной кибератаке. Если алгоритмы не проверять, они могут усилить предвзятость и дезинформацию в массовом масштабе. Риски могут быть значительно увеличены. Подумайте, как цифровые банки беспрецедентно собирают сбережения потребителей. Ant Financial, которая сейчас управляет одним из крупнейших фондов денежного рынка в мире, доверяет сбережения сотен миллионов китайских потребителей. Риски значительны, особенно для относительно непроверенной организации.

Цифровой масштаб, масштабы и обучение создают множество новых проблем — не только проблемы конфиденциальности и кибербезопасности, но и социальные потрясения, вызванные концентрацией рынка, дислокациями и усилением неравенства. Учреждения, призванные следить за бизнесом — например, регулирующие органы — изо всех сил пытаются успевать за всеми быстрыми изменениями.

В мире, управляемом искусственным интеллектом, как только предложение соответствует рынку, количество пользователей, вовлеченность и доходы могут резко возрасти.Однако становится все более очевидным, что неограниченный рост опасен. Потенциал для предприятий, использующих цифровые операционные модели, огромен, но необходимо четко учитывать возможность нанесения широкомасштабного вреда.