Людина, яку часто називають хрещеним батьком штучного інтелекту, Джеффрі Хінто, звільнилася з Google, посилаючись на занепокоєння потоком дезінформації, можливістю штучного інтелекту перевернути ринок праці та “екзистенційним ризиком”, пов’язаним зі створенням справжнього цифрового інтелекту.
Доктор Джеффрі Хінтон, який разом з двома своїми студентами з Університету Торонто створив нейронну мережу в 2012 році, звільнився з Google цього тижня, про що вперше повідомила газета New York Times.
75-річний Хінтон сказав, що звільнився, щоб вільно говорити про небезпеки штучного інтелекту, і частково шкодує про свій внесок у цю сферу. Десять років тому він був запрошений Google, щоб допомогти розвивати технологію штучного інтелекту компанії, і підхід, який він започаткував, проклав шлях для сучасних систем, таких як ChatGPT.
В інтерв’ю New York Times він сказав, що до минулого року вважав Google “належним розпорядником” технології, але це змінилося, коли Microsoft почала впроваджувати чат-ботів у свою пошукову систему Bing, і компанія почала турбуватися про ризик для свого пошукового бізнесу.
Провідні дослідники ШІ та керівники компаній застерігають від “ризику вимирання” у спільній заяві
Деякі з небезпек чат-ботів зі штучним інтелектом були “досить страшними”, сказав він в інтерв’ю BBC, попередивши, що вони можуть стати розумнішими за людей і можуть бути використані “поганими акторами”. “Він здатний автоматично створювати багато тексту, тому ви можете отримати багато дуже ефективних спам-ботів. Це дозволить авторитарним лідерам маніпулювати своїм електоратом тощо”.
Але, додав він, його також турбує “екзистенційний ризик того, що станеться, коли ці речі стануть розумнішими за нас”.
“Я дійшов висновку, що інтелект, який ми розвиваємо, дуже відрізняється від інтелекту, який ми маємо, – сказав він. “Це як якщо б у вас було 10 000 людей, і щоразу, коли одна людина чогось навчилася, всі автоматично це знали. Ось так і ці чат-боти можуть знати набагато більше, ніж будь-яка окрема людина”.
Він не єдиний у вищих ешелонах досліджень ШІ, хто побоюється, що ця технологія може завдати серйозної шкоди людству. Минулого місяця Ілон Маск заявив, що посварився зі співзасновником Google Ларрі Пейджем через те, що Пейдж “недостатньо серйозно ставився до безпеки ШІ”. Маск сказав Fox News, що Пейдж хотів “цифровий суперінтелект, по суті, цифрового бога, якщо хочете, якомога швидше”.
Європейським компаніям не подобаються нові правила ЄС щодо штучного інтелекту
Валері Пізано, виконавчий директор Mila – Квебекського інституту штучного інтелекту – заявила, що недбалий підхід до безпеки в системах ШІ не допустимий в жодній іншій сфері. “Технологія випускається на ринок, і коли система взаємодіє з людиною, її розробники чекають, щоб побачити, що станеться, і вносять корективи на основі цього. Ми, як колектив, ніколи б не прийняли такий спосіб мислення в будь-якій іншій галузі промисловості. Є щось таке в технологіях і соціальних мережах, де ми думаємо: “Так, звичайно, ми розберемося з цим пізніше”, – сказала вона.
5 найкращих чат-ботів зі штучним інтелектом 2023 року
У короткостроковій перспективі Хінтон стурбована тим, що вже стало реальністю – люди більше не зможуть розрізняти, що є правдою, коли фотографії, відео і текст, згенеровані штучним інтелектом, заполонять інтернет.
Нещодавні оновлення генераторів зображень, таких як Midjourney, означають, що люди тепер можуть створювати фотореалістичні зображення – одне з таких зображень Папи Франциска в пальто-пуховику від Balenciaga стало вірусним у березні.
Хінтон також занепокоєний тим, що ШІ з часом замінить такі професії, як помічники юристів, персональні асистенти та іншу “чорну роботу”, а в майбутньому, можливо, і більше.
Головний науковий співробітник Google Джефф Дін у своїй заяві зазначив, що Google високо цінує внесок Хінтона в роботу компанії за останнє десятиліття.
“Я отримував величезне задоволення від наших численних розмов протягом багатьох років. Я буду сумувати за ним і бажаю йому всього найкращого!
“Як одна з перших компаній, яка опублікувала Принципи ШІ, ми залишаємося прихильниками відповідального підходу до ШІ. Ми постійно вчимося розуміти ризики, що виникають, а також сміливо впроваджуємо інновації”.
Тобі Волш, головний науковий співробітник Інституту штучного інтелекту Університету Нового Південного Уельсу, вважає, що люди повинні ставити під сумнів будь-які онлайн-медіа, які вони бачать зараз.
“Коли йдеться про будь-які цифрові дані, які ви бачите – аудіо чи відео – ви повинні розглядати можливість того, що хтось їх підробив”.
Джерело: https://www.theguardian.com
