ООН закликає ввести мораторій на використання штучного інтелекту, що загрожує правам людини

Голова ООН з прав людини закликає ввести мораторій на використання технологій штучного інтелекту, що становить серйозний ризик для прав людини, включаючи системи сканування облич, які відстежують людей у ​​публічних просторах.

Мішель Башелет, Верховний комісар ООН з прав людини, також заявила в середу, що країнам слід чітко заборонити застосування штучного інтелекту, які не відповідають міжнародному законодавству з прав людини.

Потрібно призупинити використання потенційно небезпечних технологій штучного інтелекту до того як їх наслідки будуть ретельно вивчені

Програми, які слід заборонити, включають урядові системи «соціального оцінювання», які оцінюють людей на основі їхньої поведінки, та певні інструменти на основі штучного інтелекту, які класифікують людей у ​​такі групи, як за національністю чи статтю.

Проблема штучного інтелекту: ЄС пише нові правила 

Технології на основі штучного інтелекту можуть бути сильною стороною назавжди, але вони також можуть “мати негативні, навіть катастрофічні наслідки, якщо їх використовувати без достатнього врахування того, як вони впливають на права людини”,-йдеться в заяві Бачелет.

Її коментарі прийшли разом із новим звітом ООН, у якому досліджується, як країни та бізнес поспішили застосовувати системи ШІ, які впливають на життя та засоби існування людей, не встановлюючи належних гарантій для запобігання дискримінації та іншої шкоди. 

Як видалити акаунт в Телеграм: інструкція по видаленню сторінки

“Тут не йдеться про заборону штучного інтелекту”, – сказала журналістам під час презентації звіту в Женеві Пеггі Хікс, директор відділу з прав людини. «Йдеться про те, щоб визнати, що якщо ШІ використовуватимуть у цих дуже важливих сферах прав людини, це потрібно робити правильно. І ми просто ще не створили рамки, які б гарантували це».

Бачелет не закликала до прямої заборони технології розпізнавання осіб, але сказала, що уряди повинні припинити сканування людей у ​​режимі реального часу, поки вони не зможуть показати, що технологія точна, не дискримінує та не відповідає певним стандартам конфіденційності та захисту даних.

DuckDuckGo хоче заборонити додаткам відстежувати вас на Android 

Хоча країни не згадуються поіменно у звіті, Китай був однією із країн, які впровадили технологію розпізнавання облич. Ключові автори звіту зазначили, що називання конкретних країн не входить у їхній мандат, і це може бути навіть контрпродуктивним.

“У китайському контексті, як і в інших контекстах, ми стурбовані прозорістю та дискримінаційними програмами, що стосуються конкретних громад”, – сказала Хікс. 

Занепокоєння щодо технологій, які розпізнають емоції

У доповіді також звучить настороженість щодо інструментів, які намагаються вивести емоційні та психічні стани людей, аналізуючи їх міміку чи рухи тіла, кажучи, що така технологія сприйнятлива до упередженості, неправильного тлумачення та не має наукового обґрунтування. 

«Використання державними органами систем розпізнавання емоцій, наприклад, для виділення осіб для поліцейських провірок чи арештів або для оцінки достовірності висловлювань під час допитів. Їх ризики підривають права людини, такі як право на конфіденційність, свободу та справедливість суд ”, – йдеться у звіті.

Рекомендації доповіді повторюють думку багатьох політичних лідерів у західних демократіях, які сподіваються використати економічний та суспільний потенціал ШІ, одночасно вирішуючи зростаючу стурбованість щодо надійності інструментів, які дозволяють відстежувати та описувати окремих осіб та давати рекомендації щодо того, хто отримає доступ до робочих місць, позик та освітні можливості.

Вже дещо робиться для безпеки від негатиних налідків штучного інтелекту окремими країнами

Європейські регулятори вже вжили заходів для стримування найнебезпечніших програм штучного інтелекту. Запропоновані положення, викладені чиновниками Європейського Союзу цього року, заборонять деякі види використання штучного інтелекту, такі як сканування рис обличчя в режимі реального часу, і жорстко контролюють інші, які можуть загрожувати безпеці чи правам людей. 

Автономний безпілотник, можливо, вперше у світі вбив людину

Адміністрація президента США Джо Байдена висловила подібну стурбованість, хоча поки не окреслила детального підходу до їх скорочення. Нещодавно утворена група під назвою Рада з питань торгівлі та технологій, яку спільно очолюють американські та європейські чиновники, прагне співпрацювати над розробкою спільних правил щодо штучного інтелекту та іншої технічної політики. 

Зусилля щодо обмеження найбільш ризикованого використання штучного інтелекту були підтримані Microsoft та іншими американськими технологічними гігантами, які сподіваються керуватись правилами, що впливають на технологію. Microsoft співпрацювала та надавала фінансування Управлінню ООН з прав людини, щоб допомогти покращити використання технологій, але фінансування звіту надходило за рахунок регулярного бюджету Управління з прав людини, сказав Хікс. 

Джерело: Associated Press