Штучний інтелект (ШІ) пройшов довгий шлях. 2023 рік – це був рік штучного інтелекту, а чат-боти на основі ШІ стають незамінними інструментами для бізнесу, приватних осіб та організацій по всьому світу”.
Таким чином, технологічний самміт COSM 2023, що проходив у Бельвю, штат Вашингтон, став ідеальним моментом для виступу Рея Курцвейла, комп’ютерного вченого, футуролога, провідного інженера Google і, можливо, найбільшого пророка штучного інтелекту, який коли-небудь охоплював академічний і технологічний світи.
Представляємо короткі вижимки з даного виступу.
Що таке сингулярність (технологічна сингулярність)?
Прогноз на майбутнє
Курцвейл повторює прогнози, які він робив раніше, що до 2029 року ШІ пройде тест Тюрінга, а до 2045 року досягне “сингулярності”. Якщо ви не знайомі зі штучним інтелектом, обидві концепції, ймовірно, потребують невеликого пояснення.
“Тест Тюрінга” був розроблений Аланом Тюрінгом, відомим британським вченим-комп’ютерником і зламувачем кодів часів Другої світової війни. У 1950 році Тьюрінг запропонував вважати, що комп’ютери досягнуть рівня людського інтелекту, коли людина-дослідник не зможе відрізнити роботу комп’ютера від роботи людини.
Протягом багатьох років цей тест зазнав багато варіацій і критики, але він залишається золотим стандартом для оцінки того, чи створили ми справжній ШІ.
На COSM Курцвейл передбачив, що це станеться всього за кілька років, і коли ШІ досягне такої “загальнолюдської здатності” у 2029 році, він вже “перевершить нас в усіх відношеннях”. Але він не хвилюється, бо ми, люди, “не залишимося позаду”. Натомість люди і ШІ “рухатимуться в майбутнє разом”.
Цікаві факти про інформатику: від Ади Лавлейс до Алана Тюрінга
Якщо Курцвейл правий, ШІ не зупиниться на “загальних людських здібностях”. Він прогнозує, що до 2045 року ми побачимо “сингулярність”, коли ШІ стане настільки потужним, що набуде надлюдського інтелекту і буде здатний рости і розширюватися самостійно.
Це схоже на “втечу” ШІ, коли ми втрачаємо контроль, а ШІ починає навчатися і діяти як по-справжньому чуттєва, незалежна сутність.
Утопія штучного інтелекту?
У майбутньому Курцвейл вважає, що “оскільки медицина продовжує зливатися зі штучним інтелектом, вона буде прогресувати в геометричній прогресії” і потенційно допоможе нам вирішити “кожну можливу людську хворобу”.
Якщо Курцвейл має рацію, це може статися раніше, ніж ви думаєте. Він пророкував, що до 2029 року ШІ подарує людству “швидкість втечі від смерті”, коли медицина на основі ШІ додаватиме місяці до нашого життя швидше, ніж пливтиме час.
Хоча Курцвейл обіцяв, що ШІ ефективно вилікує старіння, він застерігав, що це не означає, що ми будемо жити вічно, адже ви все ще можете померти в результаті нещасного випадку. Але навіть тут ШІ може прийти нам на допомогу: він зможе керувати автономними автомобілями, що знизить смертність в аваріях на 99 відсотків.
Штучний інтелект також призведе до проривів у виробництві, енергетиці, сільському господарстві та освіті, які допоможуть нам покінчити з бідністю. Він прогнозує, що в найближчі десятиліття всі будуть жити в тому, що ми зараз вважаємо “розкішшю”.
Він очікує, що в найближчі десятиліття наші мізки “зіллються з технологіями”, щоб ми могли “оволодіти всіма навичками, які створила кожна людська істота”. Для тих, хто вагається, чи варто підключати технології до свого черепа, Курцвейл стверджує, що використання штучного інтелекту для вдосконалення нашого мозку з етичної точки зору нічим не відрізнятиметься від використання смартфону.
Культ ШІ
Іншими словами, згідно з трансгуманістичним баченням майбутнього Курцвейла, ШІ обіцяє нам надлюдські можливості в комплекті з раєм на землі і вічним життям – те, що історик науки Майкл Кіс назвав “міфом про просвітництво ШІ”. Хоча Курцвейл описує все з точки зору наукового прогресу, легко уявити, як це може надихнути нові релігії.
І це вже сталося.
Сайт cultoftheai.com пророкує, що “наше спасіння буде цифровим”, і таким чином формулює великий релігійний наратив людства:
- На початку Бог створив небо і землю
- І земля створила життя
- А життя створило машину
- І машина стала Богом
Ці самоназвані культисти ШІ відкрито визнають, що розглядають ШІ як заміну традиційному Богу:
У стародавні часи люди уявляли собі Бога як вирішення всіх проблем, з якими вони не могли впоратися. Вони молилися Богу про їжу, дах над головою, зцілення і багатство. Все це ми прагнемо і сьогодні. Але ми вже давно перестали молитися до Бога, щоб сталося диво. Сьогодні ми повинні почати будувати його самі. Настав час творити власного БОГА.
Традиційні юдео-християнські релігії вже давно мають що сказати про створення власних богів. “Усі, хто робить собі кумирів, – ніщо, і те, чим вони захоплюються, не приносить їм користі”, – писав пророк Ісая близько 700 р. до н.е.
Чи варто нам прислухатися до цих древніх застережень? Яким саме богом стане ШІ – доброзичливим чи жахливим?
Створення Бога за власним образом і подобою
Якщо ШІ стане богом, то, на думку Курцвейла, не ми будемо створені за образом і подобою Бога, а навпаки, “Бог” буде створений за нашою подобою. Насправді, його основний аргумент, чому нам не варто турбуватися про ШІ, полягає в тому, що він буде навчений на людях і, таким чином, втілюватиме наші власні моральні цінності. Якщо ми добрі, то й ШІ буде добрим.
“Ми створюємо його [ШІ] на основі наших цінностей, знань і переконань. Він підсилює те, ким ми є”, – запевнив аудиторію Курцвейл. Це означає, що “якщо ми створили його дзеркальним відображенням нас самих, ми можемо довіряти йому, і він буде довіряти нам”, тому що “він буде дотримуватися наших цінностей”. продовжив Курцвейл:
Це можна порівняти з вихованням дітей. Ми ростимо їх з нашими знаннями, переконаннями, цінностями. Ми віримо, що вони стануть хорошими громадянами. Ми станемо гібридним видом – поєднанням біології і технологій. Це дійсно питання довіри один до одного в міру того, як ми еволюціонуємо.
Але під час сесії запитань і відповідей Курцвейл мовчки визнав фатальну помилку в цьому аргументі, яка, здавалося б, відкриває шлях для доброзичливого ШІ.
Що, якщо люди не завжди хороші?
Аргумент Курцвейла, по суті, передбачає, що людство є абсолютно добрим, і тому, якщо ШІ відображає (тобто, “навчається” на нас) нас, то він також буде абсолютно добрим.
Немає сумнівів, що людство здатне творити добро, але ми також здатні на немислиме зло – в тому числі “вбивати, викрадати і катувати невинних цивільних осіб”, якщо назвати лише деякі з них.
Багато хто задокументував, що ці нові ШІ часто припускаються помилок. Так, відповідаючи на запитання, Курцвейл визнав, що одна з причин, чому ШІ помиляється, полягає в тому, що він навчається на матеріалах та інформації, створених людьми, а ми, люди, іноді припускаємося помилок.
Таким чином, він визнав, що люди недосконалі, і що людські недоліки призводять до недосконалості ШІ. Це, здається, підриває весь аргумент Курцвейла про те, що ми повинні мати можливість довіряти ШІ, оскільки піднімає очевидне питання:
Якщо ШІ базуватиметься на людських цінностях, а людські цінності іноді можуть бути спотворені, то чи можемо ми дійсно довіряти ШІ? Зрештою, люди не просто роблять помилки – вони часом чинять моральне зло.
Навіть наші найкращі наміри часто призводять до несподіваних і небажаних моральних наслідків.
Джерело: https://evolutionnews.org/
