Мы движемся к ситуации, когда машинные системы будут принимать решения за нас. И мы должны остановиться и спросить себя: что произойдет, когда эти системы перестанут следовать замыслу человека, руководствуясь в своих действиях чем-то обсолютно нам неизвестным? Футуристка и профессор Нью-Йоркского университета Эми Вебб рассказывает об угрозе, которую несет развитие искусственного интеллекта и как ее можно избежать.
Эми Вебб, футуристка, профессор Нью-Йоркского университета и автор многих книг, потратила большую часть последнего десятилетия на исследование вопроса искусственного интеллекта . «Мы имеем большие достижения во всех сферах, касающихся искусственного интеллекта», – говорит она. – “Теперь пришло время остановиться и посмотреть, куда все это движется”.
Остановиться и оценить – стало задачей ее новой книги “Большая девятка. Как технические титаны и их думающие машины могут захватить человечество”, в которой она предупреждает об опасностях, которые несет в себе дальнейшее развитие технологий. Писательница дала интервью MIT Technology Review. Она утверждает, что в США между Google, Microsoft, Amazon, Facebook, IBM и Apple ( “G-мафия”) проходит непрерывное соревнование, которое стимулируется жесткими требованиями капиталистического рынка. Поэтому никто не уделяет внимания долгосрочному вдумчивому анализу будущего искусственного интеллекта. В то же время в Китае Tencent, Alibaba и Baidu сосредоточены на сборе (майнинге) огромного количества личных данных, чтобы подпитать авторитарные амбиции правительства.
Если мы не изменим эти тенденции, утверждает госпожа Уэбб, мы можем оказаться на краю пропасти. Но есть еще время действовать и каждый может сыграть свою роль.
Вы вспоминаете, что мы сейчас видим сближение тревожных технологических, политических и экономических тенденций. Можете ли вы подробнее рассказать о технологических тенденциях?
Когда вы разговариваете с исследователями, которые работают в этой области, они скажут вам, что должено пройти достаточно долгое время, прежде чем мы увидим реальные сдвиги в области искусственного интеллекта и достигнем таких вещей как полная автономность транспортных средств или искусственный интеллект, который мыслит на уровне человека.
С моей точки зрения, концентрировать внимание на том дню, когда у нас появится ходячая и говорящая машина, которая способна принимать самостоятельные решения, несколько неправильно. Мы уже видим миллиарды мелких достижений, которые со временем будут иметь комплексный эффект и приведут к созданию систем, которые могут автономно принимать много решений одновременно.
Команда DeepMind, например, упорно работала над обучением машин как выиграть у людей в интеллектуальные игры. Они прыгнули далеко вперед в таких областях как иерархическое обучение и многозадачное обучения. Последняя версия алгоритма AlphaGo – AlphaZero – способна научиться играть три игры одновременно без вмешательства в процесс человека. Это довольно большой скачок. Существует также достаточно новая сфера – генеративные сети, где, при наличии базы данных человеческих портретов, машины генерируют человеческие лица, которые выглядят невероятно реалистично.
Эти достижения не столь секси и интересны, как то, что мы ожидаем от искусственного интеллекта. Но, если у вас есть широкий кругозор, вы увидите, что мы движемся к ситуации, когда системы будут принимать решения за нас. И мы должны остановиться и спросить себя: что произойдет, когда эти системы перестанут следовать замыслу человека в пользу чего-то совершенно нам неизвестного?
Как насчет политических и экономических тенденций? Вы можете описать те, которые вас больше всего беспокоят?
В Соединенных Штатах распространяется свободный поток идей. Именно так была основана Силиконовая Долина. Она выросла на базе конкуренции и инноваций. Именно поэтому мы оказались на теперышньому уровне развития искусственного интеллекта и других видов технологий.
Однако в США мы также страдаем от трагической отсутствия предсказаний. Вместо того, чтобы создать грандиозную стратегию для искусственного интеллекта или для нашего долгосрочного будущего, федеральное правительство лишил финансирования научно-технические исследования. Поэтому деньги должны поступать от частного сектора. Но инвесторы ожидают возвращения своих вложений и предсказуемость. Это проблема. Вы не можете планировать свои прорывы, когда вы работаете над фундаментальными технологиями и дослидженнями. Сейчас мы имеем множество примеров плохих решений, которые принимал кто-то из G-мафии, причиной которых было то, что они пытались сделать все очень быстро. Мы начинаем видеть негативные последствия того, что исследователи разрываются между интересами человечества и желанием удовлетворить инвесторов.
В то же время в Китае консолидируется огромный потенциал. Китайский фонд независимого благосостояния огромные деньги использует на фундаментальные исследованиям в области искусственного интеллекта. И у них совсем другие взгляды, чем в США, когда речь идет о конфиденциальности данных. С централизованной властью для правительства очень легко создать службы искусственного интеллекта, которые получают данные от 1,3 миллиарда человек. И это только в своей собственной стране.
Они также имеют Инициативу «Пояс и дорога», которая выглядит как традиционная инфраструктурная программа, но частично является цифровой. Речь идет не только о строительстве дорог и мостов, речь идет о строительстве 5G сетей и прокладки волокон, а также о сборе и переработке данных за рубежом. Развертывание этих технологий является риском для людей, которые заботятся о таких вещах как свобода слова и западные демократические идеалы.
Почему мы должны быть приверженцами демократических идеалов Запада?
Это сложный вопрос. Я жила в Китае, в Японии, и, очевидно, в Соединенных Штатах. И вы можете посмотреть на состояние нашей страны прямо сейчас, и что происходит в Китае, и спросить себя – это самое страшное? Существование системы оценки социального рейтинга в Китае звучит странно и ужасно для американцев. В то же время многие люди не понимают, что самоконтроль и мониторинг поведения в деревнях и общинах есть частью китайской культуры. Социальный рейтинг только автоматизирует существующую систему.
Если бы я взвесила идеализированную версию китайского коммунизма и идеализированную версию западной демократии, я бы выбрала западную демократию. Она имеет лучшие возможности для свободного потока идей и для повседневных успехов людей. Предоставление людям стимулов для индивидуальных и личных достижений – это отличный способ поднять общество, помогает нам достичь вершины нашего индивидуального потенциала.
Если принять во внимание вопросы движения мира к искусственному интеллекту – стоит ли сравнивать эти две системы? Должны ли мы сравнивать идеализированные версии китайского коммунизма с западной демократией или наоборот худшие версии этих двух систем?
Это хороший вопрос, потому что вы можете утверждать, что части экосистемы искусственного интеллекта уже оказывает влияние на наши западные демократические идеалы в достаточно негативный способ. Примером служит все, что произошло с Facebook. Но также посмотрите, что происходит с сообществом анти-вакцинации. Они распространяют абсолютно неверную информацию о вакцинах. Наши американские традиции говорят о первичности свободы слова – платформы для общения есть платформами, где мы должны позволить людям выражать свое мнение. Ну а проблема заключается в том, что алгоритмы учитывают эти ложные позиции. Они ведут людей таким образом к принятию очень плохих решений и в результате чего дети болеют.
Проблема заключается в том, что наша технология становится все более сложной, но наше мышление о том, что такое свобода слова и как выглядит рынок свободной рыночной экономики, не успевает за развитием событий. Мы склонны прибегать к очень базовым интерпретациям: свобода означает, что все могут говорить что угодно, если это не противоречит закону о клевете, и это конец рассказа. Это не конец. Мы должны начинать более сложную и вдумчивую дискуссию о наших нынешних законах, наши новых технологиях, и как мы можем заставить их двух встретиться.
Другими словами, вы верите в то, что мы будем развиваться с того места, где мы сейчас находимся, к более идеализированной версии западной демократии. И вы бы предпочли демократию по сравнению с идеализированным Китайской коммунизмом.
Да, я верю, что это возможно. Но факт, что вопрос вакцинации возник в штате Вашингтон является катастрофическим знаком. Так же как и события, которые произошли после выборов. Независимо от того, на какой стороне политического спектра вы находитесь, я не могу себе представить, что сегодня кто-то считает нынешний политический климат США хорошим для нашего будущего.
Я абсолютно уверена, что путь вперед существует. Но мы должны собраться вместе и преодолеть разрыв между Силиконовой долиной и Вашингтоном, чтобы все могли грести на лодке в одном направлении.
Что вы рекомендуете делать правительству, компаниям, университетам и отдельным потребителям?
Исследование развития искусственного интеллекта является в проблематичном состоянии, и каждый из нас стал причиной этому. Ты, я, мой папа, мой сосед, парень в Starbucks, мимо которого я прохожу прямо сейчас. Так что же делать людям каждый день? Будьте осведомлены о том, кто использует ваши данные и как. Посвятите несколько минут, чтобы прочитать труды, написанные умными людьми и понять, о чем мы сейчас говорим. Прежде чем открыть свою жизнь и начать распространять фотографии своих детей, делайте это проинформированым образом. Если вам подходит то, что это значит и какие последствия может нести в будущем – хорошо. Но хотя бы изучите этот вопрос.
Любая инвестиция, что делается в проект по искусственному интеллекту, должна также включать в себя финансирование на и предусматривать время для анализа рисков.
Университеты должны создать место в своих программах для гибридных научных степеней. Они должны поощрять студентов компьютерных наук изучать сравнительную литературу, мировые религии, микроэкономику, культурную антропологию и подобные курсы других специализаций. Они должны выступать за программы двойной степени в области информатики и международных отношений, теологии, политологии, философии, здравоохранения, образования и тд. Этику не следует выкладывать как отдельный класс, но просто нельзя вичеркнуты из списка предметов. Учебные институты должны поощрять даже старших профессоров, для того, чтобы в своих курсах они вели сложные дискуссии относительно рисков, философии, религии, гендера и этики.
Одной из моих самых важных рекомендаций является формирование того, что я называю Глобальным альянсом по вопросам расширения интеллекта. На данный момент люди во всем мире имеют очень разные взгляды и подходы, когда речь идет о сборе и обмен данными, что можно и нужно автоматизировать, и как может выглядеть будущее с более умными системами. Поэтому я считаю, что мы должны создать некую центральную организацию, которая сможет разработать глобальные нормы и стандарты, установить определенные барьеры. Таким образом мы не только наполним американскими или китайскими идеалами системы искусственного интеллекта, но и должны принять во внимание более широкий кругозор, привлекая и другие страны.
Самое главное, мы должны быть готовы думать обо всем этом гораздо быстрее, а не через пять лет. Мы должны прекратить говорить: “Ну, мы не можем предсказать будущее, так что давайте не будем беспокоиться об этом прямо сейчас”. Это правда, мы не можем предсказать будущее. Но мы, безусловно, можем лучше планировать его.
Источник: www.technologyreview.com/
