Чому штучний інтелект є загрозою для демократії ?

Ми рухаємося до ситуації, коли машинні системи будуть приймати рішення за нас. І ми повинні зупинитися і запитати себе: що станеться, коли ці системи перестануть слідувати задуму людини, керуючись в своїх діях чимось обсолютно нам невідомим? Футуристка і професорка Нью-Йоркського університету Емі Вебб розповідає про загрозу, яку несе розвиток штучного інтелекту і як її можна уникнути.

Емі Вебб, футуристка, професорка Нью-Йоркського університету та автор багатьох книг, витратила більшу частину останнього десятиліття на дослідження питання штучного інтелекту. «Ми маємо великі досягнення в усіх сферах, які стосуються штучного інтелекту», – каже вона. – “Тепер прийшов час зупинитися та глянути, куди все це рухається”.

Зупинитися та оцінити – стало завданням її нової книги “Велика девятка: Як технічні титани та їх думаючі машини можуть захопити людство”, в якій вона попереджує про небезпеки, які несе в собі подальший розвиток технологій. Письменниця дала інтервю MIT Technology Review. Вона стверджує, що в США між Google, Microsoft, Amazon, Facebook, IBM і Apple (“G-мафія”) проходить невпинне змагання, яке стимулюється жосткими вимогами капіталістичного ринку. Тому ніхто не приділяє уваги довгостроковому вдумливому аналізу майбутнього штучного інтелекту. Водночас у Китаї Tencent, Alibaba і Baidu зосереджені на зборі (майнінгу) величезної кількість особистих даних, щоб підживити авторитарні амбіції уряду.

Якщо ми не змінимо ці тенденції, стверджує пані Вебб, ми можемо опинитися на краю прірви. Але є ще час діяти і кожен може відіграти свою роль.

Ви згадуєте, що ми зараз бачимо зближення тривожних технологічних, політичних та економічних тенденцій. Чи можете ви детальніше розповісти про технологічні тенденції?

Коли ви розмовляєте з дослідниками, які працюють в цій галузі, вони скажуть вам, що ще мусить пройти досить довгий час, перш ніж ми побачимо реальні зрушення в сфері штучного інтелекту і досягнемо таких речей як повна автономність транспортних засобів чи штучного інтелекту, який мислить на рівні людини .

З моєї точки зору, концентрувати увагу на тому дню, коли у нас з’явиться ходяча та розмовляюча машина, яка здатна приймати самостійні рішення, є дещо неправильно. Ми вже бачимо мільярди дрібних досягнень, які з часом матимуть комплексний ефект і призведуть до створення систем, які можуть автономно приймати багато рішень одночасно.

Команда DeepMind, наприклад, наполегливо працювала над навчанням машин  як виграти у людей в інтелектуальні ігри. Вони стрибнули далеко вперед у таких областях як ієрархічне навчання та багатозадачне навчання. Остання версія алгоритму AlphaGo – AlphaZero – здатна навчитися грати три ігри одночасно без втручання в процес людини. Це досить великий стрибок. Існує також досить нова сфера –  генеративні мережі , де, за наявності бази даних людських портретів, машини генерують людські обличчя, які виглядають неймовірно реалістично.

Ці досягнення не настільки сексі та цікаві, як те на що ми очікуємо від штучного інтелекту. Але, якщо у вас є широкий кругозір, ви побачите, що ми рухаємося до ситуації, коли системи будуть приймати рішення за нас. І ми повинні зупинитися і запитати себе: що станеться, коли ці системи перестануть слідувати задуму людини на користь чогось абсолютно нам невідомого?

Як щодо політичних та економічних тенденцій? Ви можете описати ті, які вас найбільше турбують?

У Сполучених Штатах поширюється вільний потік ідей. Саме так була заснована Силіконова Долина. Вона виросла на базі конкуренції та інновацій. Саме через це ми опинилися на теперышньому рівні розвитку штучного інтелекту та інших видів технологій.

Проте в США ми також страждаємо від трагічної відсутності передбачень. Замість того, щоб створити грандіозну стратегію для штучного інтелекту або для нашого довгострокового майбутнього, федеральний уряд позбавив фінансування науково-технічні дослідження. Тому гроші повинні надходити від приватного сектора. Але інвестори очікують на повернення своїх вкладень та передбаченість. Це проблема. Ви не можете планувати свої прориви, коли ви працюєте над фундаментальними технологіями та дослідженнями.Зараз ми маємо безліч прикладів поганих рішень, які приймав хтось з G-мафії, причиною яких було те, що вони намагались зробити все дуже швидко. Ми починаємо бачити негативні наслідки того, що дослідники розриваються між інтересами людства та бажанням задовільнити інвесторів.

Водночас в Китаї консолідується величезний потенціал. Китай має   фонд незалежного добробуту, величезні гроші якого використовуються на фундаментальні дослідженням в сфері штучного інтелекту. І вони мають зовсім інші погляди, ніж США, коли йдеться про приватність і дані. З централізованою владою для уряду дуже легко створити служби штучного інтелекту, які отримують дані від 1,3 мільярда людей. І це тільки в своїй власній країні.

Вони також мають Ініціативу «Пояс і дорога», яка виглядає як традиційна інфраструктурна програма, але частково є цифровою. Мова йде не тільки про будівництво доріг і мостів; мова йде про будівництво 5G мереж і прокладання волокон, а також про збирання і переробку даних за кордоном. Розгортання цих технологій є ризиком для людей, які піклуються про такі речі як свобода слова та західні демократичні ідеали.

Чому ми повинні прагнути до демократичних ідеалів Заходу?

Це складне питання. Я жила у Китаї, в Японії, і, очевидно, у Сполучених Штатах. І ви можете подивитися на стан нашої країни прямо зараз, і що відбувається в Китаї, і спитати себе – чи це найстрашніше? Існування системи оцінювання соціального рейтингу в Китаї звучить химерно і жахливо для американців. Водночас багато людей не розуміють, що самоконтроль і моніторинг поведінки в селах і громадах є невд’ємною частиною китайської культури. Соціальний рейтинг тільки автоматизує існуючу систему.

Якщо б я зважила ідеалізовану версію китайського комунізму і ідеалізовану версію західної демократії, я б вибрала західну демократію. Вона має кращі можливості для вільного потоку ідей і для повсякденних успіхів людей. Надання людям стимулів для індивідуальних і особистих досягнень – це чудовий спосіб підняти суспільство, допомагає нам досягти вершини нашого індивідуального потенціалу.

Якщо взяти до уваги питання руху світу до штучного інтелекту чи варто порівнювати ці дві системи? Чи повинні ми порівнювати ідеалізовані версії китайського комунізму з західною демократією чи навпаки найгірші версії цих двох систем?

Це хороше питання, тому що ви можете стверджувати, що частини екосистеми штучного інтелекту вже сьогодні впливає на наші західні демократичні ідеали в досить негативний спосіб.  Прикладом служить все, що сталося з Facebook. Але також подивіться, що відбувається з спільнотою анти-вакцинації. Вони поширюють абсолютно невірну інформацію про вакцини та елементарну науку. Наші американські традиції говорять про первинність свободи слова — платформи для спілкування є платформами, ми повинні дозволити людям виражати свою думку. Ну а проблема полягає в тому, що алгоритми беруть до уваги ці хибні позиції і роблять вибір яким має бути редакційний зміст. Вони  ведуть людей таким чином до прийняття дуже поганих рішень і у результаті чого діти хворіють.

Проблема полягає в тому, що наша технологія стає все більш складною, але наше мислення про те, що таке свобода слова і як виглядає ринок вільної ринкової економіки, не встигає за розвитком подій. Ми схильні вдаватися до дуже базових інтерпретацій: свобода означає, що всі можуть говорити що завгодно, якщо це не протирічить закону про наклеп, і це кінець розповіді. Це не кінець. Ми повинні розпочинати більш складну і вдумливу дискусію про наші нинішні закони, наші нові технології, і як ми можемо змусити їх двох зустрітися.

Іншими словами, ви вірите в те, що ми будемо розвиватися з того місця, де ми зараз знаходимося, до більш ідеалізованої версії західної демократії. І ви б віддали перевагу демократії в порівнянні з ідеалізованом китайськом комунізмом.

Так, я вірю, що це можливо. Але факт, що питання вакцинації виникло в штаті Вашингтон  є  катастрофічним знаком. Так само як і події, які відбулися після виборів. Незалежно від того на якій стороні політичного спектру ви перебуваєте, я не можу собі уявити, що сьогодні хтось вважає нинішній політичний клімат США хорошим для нашого майбутнього.

Я абсолютно впевнена, що є шлях вперед. Але ми повинні зібратися разом і подолати розрив між Силіконовою долиною і Вашингтоном, щоб усі могли гребти човном в одному напрямку.

Що ви рекомендуєте робити урядові, компаніям, університетам та окремим споживачам?

Дослідження розвитку штучного інтелекту є в проблематичному стані, і кожен з нас став причиною цьому. Ти, я, мій тато, мій сусід, хлопець у Starbucks, повз який я проходжу прямо зараз. Так що ж робити людям кожного дня? Будьте більш обізнані щодо того, хто використовує ваші дані і як. Присвятіть декілька хвилин, щоб прочитати праці, написані розумними людьми та зрозуміти, про що мизараз говоримо. Перш ніж відкрити своє життя і розпочати поширювати фотографії своїх дітей, робіть це поінформованим чином. Якщо вам підходить те, що це означає та які наслідки може нести в майбутньому — добе. Але хоча б вивчіть це питання.

Будь яка інвестиція, що робиться в проект по штучному інтелекту, повинна також включати в себе фінансування на і передбачати час для аналізу ризиків.

Університети повинні створити місце у своїх програмах для гібридних наукових ступенів.   Вони повинні заохочувати студентів компютерних наук вивчати порівняльну літературу, світові релігії, мікроекономіку, культурну антропологію та подібні курси інших спеціалізацій. Вони повинні виступати за програми подвійного ступеня в галузі інформатики та міжнародних відносин, теології, політології, філософії, охорони здоров’я, освіти тощо. Етику не слід викладати як окремий клас, щось що просто можна вичеркнути зі списку предметів. Навчальні інституції повинні заохочувати, навіть, старших професорів, для того, щоб у своїх курсах вони вели складні дискусії щодо ризиків, філософії, релігії, гендеру та етики.

Однією з моїх найбільших рекомендацій є формування того, що я називаю Глобальним альянсом з питань розширення інтелекту. На даний момент люди в усьому світі мають дуже різні погляди та підходи, коли йдеться про збір та обмін даними, що можна і потрібно автоматизувати, і як може виглядати майбутнє з більш розумними системами. Тому я вважаю, що ми повинні створити якусь центральну організацію, яка зможе розробити глобальні норми і стандарти, встановити певні бар’єри. Таким чином ми не тільки наповнимо американськими чи китайськими ідеалами системи штучного інтелекту, а й повинні взяти до уваги більш ширший світогляд, залучивши й інші країни.

Найголовніше, ми повинні бути готові думати про все це набагато швидше, а не через п’ять років. Ми повинні припинити говорити: “Ну, ми не можемо передбачити майбутнє, так що давайте не будемо турбуватися про це прямо зараз”. Це правда, ми не можемо передбачити майбутнє. Але ми, безумовно, можемо краще планувати його.

Джерело: www.technologyreview.com/

Подібні новини