Зміни сучасного життя неминучі. Ми всі використовуємо картографічне програмне забезпечення для визначення напрямків руху, перевіряємо новини на своїх телефонах і читаємо відгуки про товари в Інтернеті перед тим, як купити їх.
Технології не створили ці речі, але вони демократизували їх, полегшили доступ до них та їхнє використання. Візьміть онлайн-відгуки. Сьогодні люди можуть ділитися своїми чесними думками про товари та послуги так, як це було б неможливо в минулі часи.
Новий додаток ChatGPT від OpenAI безкоштовний для iPhone та iPad
Проте, що Інтернет дає, він може і забрати?
Недобросовісним ділкам не знадобилося багато часу, щоб зрозуміти, що вони можуть використовувати цю нову технологію для того, щоб наповнити ринок фальшивими відгуками, створивши таким чином абсолютно нову індустрію.
В останні роки багато дискусій навколо фейкових відгуків вщухли, але зараз? Вони повернулися з новою силою – і все через штучний інтелект.
Поява великих мовних моделей (LLM), таких як ChatGPT, означає, що ми вступаємо в нову еру фальшивих відгуків, і урядам Європи та інших країн світу потрібно діяти, поки не стало занадто пізно.
Війни чіпів між ЄС, США та Китаєм за технологічну перевагу
Відгуки, написані штучним інтелектом? Кого це хвилює?
Як би лаконічно це не звучало, це слушне запитання. Фейкові відгуки були частиною онлайн-життя майже стільки ж часу, скільки існує інтернет. Чи справді щось зміниться, якщо їх писатимуть не люди, а складні машини?
Спойлер: так. Так, зміниться.
Ключова відмінність – це масштаб. Раніше програми для створення текстів були відносно нескладними. Те, що вони створювали, часто було недбалим і розпливчастим, а це означало, що громадськість одразу бачила, що воно не заслуговує на довіру, створено тупим комп’ютером, а не трохи менш тупою людиною.
Це означало, що для того, щоб написані машиною фейкові відгуки були успішними і обманювали людей, до роботи над текстом мали бути залучені інші люди. З появою магістрів права та штучного інтелекту це вже не так.
Використовуючи ChatGPT, майже будь-хто може створити сотні фейкових відгуків, які, за всіма ознаками, читаються так, ніби їх написала реальна людина.
Але, знову ж таки, що з того? Більше фейкових відгуків? Кого це хвилює?
Відгуки мають важливе значення для бізнесу будь-якого розміру. Причиною цього є те, що вони допомагають їм “побудувати впізнаваність бренду і довіру з потенційними клієнтами або потенційними клієнтами”.
Ось 11 речей, які ChatGPT відмовиться робити
Це стає все більш важливим у сучасному світі, оскільки конкуренція в бізнес-секторі призводить до того, що клієнти стають більш обізнаними та вимогливими до компаній.
Тепер, коли користувацький досвід є основним пунктом продажу – і бренди надають пріоритет цьому аспекту свого бізнесу – погані відгуки можуть підірвати здатність організацій ефективно вести бізнес.
Інакше кажучи, фейкові відгуки – це не лише те, що може переконати вас купити книгу з гарними рецензіями, яка насправді є трохи нудною. Вони можуть бути використані як з негативною, так і з позитивною метою, і, будучи спрямованими проти компанії, можуть серйозно вплинути на її репутацію та працездатність.
Ось чому ми – і ЄС – повинні серйозно ставитися до комп’ютерних відгуків.
ChatGPT на телефоні: інструкція для Android та iOS
Але що ж насправді відбувається?
На даний момент більша частина дискусії носить академічний характер. Так, ми усвідомлюємо, що огляди, написані штучним інтелектом, можуть бути проблемою, але чи є вона такою? Що відбувається насправді?
Вже зараз чат-боти зі штучним інтелектом використовуються для створення фальшивих відгуків про товари на ринку. Незважаючи на всі зусилля платформ, їх заполонили комп’ютерні відгуки.
Це підтверджує Кіт Нілон, генеральний директор Bazaarvoice, компанії, яка допомагає ритейлерам показувати на своїх сайтах контент, створений користувачами. Він каже, що бачив, як “нещодавно генеративний ШІ використовували для написання фальшивих відгуків про товари” з метою “збільшити кількість відгуків про продукт, щоб підвищити його конверсію”.
Огляди, написані штучним інтелектом, набирають обертів, але, друзі, це тільки початок.
Попереду довгі, важкі роки
Довіра, яку ми маємо до відгуків, ось-ось буде зруйнована.
Нілон з Bazaarvoice каже, що масштабне використання ШІ може мати “серйозні наслідки для майбутнього онлайн-покупок”, особливо якщо ми дійдемо до ситуації, коли “покупці не зможуть довіряти достовірності відгуку про товар”.
Спокуса використовувати комп’ютерні відгуки в бізнесі також тільки зростатиме.
“Ми всі хочемо, щоб наші додатки були на вершині рейтингів, і ми всі знаємо, що один із способів досягти цього – залучення користувачів за допомогою відгуків, – каже мені Саймон Бейн, генеральний директор OmniIndex, платформи зашифрованих даних. “Якщо є можливість швидко створювати їх за допомогою штучного інтелекту, то деякі компанії підуть цим шляхом, так само, як деякі вже роблять це з клік-фермами для інших форм залучення користувачів”.
Він продовжує, кажучи, що хоча небезпека написаних комп’ютером відгуків є поганою, той факт, що ця методологія стає додатковим інструментом для клік-ферм, є ще гіршим. Бейн передбачає світ, в якому згенерований штучним інтелектом текст може “поєднуватися з іншими видами діяльності, такими як клік-шахрайство, і масово вироблятися на професійному рівні за дуже низьку ціну”.
Це означає, що написані штучним інтелектом відгуки не є окремою проблемою, вони можуть стати величезним гвинтиком у ще більшій машині дезінформації. Це може призвести до підриву довіри до всіх аспектів онлайн-життя.
Тож… чи можна щось зробити?
Протидія написаним штучним інтелектом відгукам
У всіх експертів є дві спільні тези щодо боротьби з комп’ютерними відгуками. Перша полягала в тому, що це буде важко. А друга? Нам знадобиться штучний інтелект, щоб боротися проти… штучного інтелекту.
“Виявити контент, написаний штучним інтелектом, може бути неймовірно складно, особливо якщо його створюють професіонали”, – каже Бейн. Він вважає, що нам потрібно боротися з цією практикою так само, як ми це робимо з подібними шахрайськими діями: за допомогою штучного інтелекту.
За словами Бейна, для цього потрібно аналізувати величезні масиви даних про використання додатків і взаємодію з ними. Для виявлення шахрайського контенту будуть використовуватися такі тактики, як “розпізнавання шаблонів, обробка природної мови та машинне навчання”.
Незважаючи на це, Челсі Ешбрук, старший менеджер з корпоративного цифрового досвіду в Genentech, біотехнологічній компанії, підсумувала найкраще: “Якщо зазирнути в майбутнє, то, можливо, нам доведеться розробляти нові інструменти та методи. Що є, те є; ШІ стає розумнішим, і ми теж повинні бути розумнішими”.
Уряд повинен долучитися
На цьому етапі ми стикаємося з іншою проблемою: так, інструменти ШІ можуть боротися з комп’ютерними відгуками, але як це насправді працює? Що можна зробити?
І саме тут вступають у справу керівні органи, такі як ЄС.
Ешбрук припускає, що одним із способів боротьби урядів з цією наступаючою чумою може бути “встановлення керівних принципів, які вимагатимуть прозорості щодо походження оглядів”.
Бейн з OmniIndex, з іншого боку, згадує про важливість забезпечення того, щоб існуючі закони і правила, що стосуються таких елементів, як “шахрайство і кіберзлочинність, йшли в ногу з тим, як використовується [ШІ]”.
Уряди повинні оновити закони про захист прав споживачів, щоб боротися з небезпеками, які несе в собі контент, створений штучним інтелектом. Це може охоплювати цілий ряд речей, включаючи “посилення покарань за зловживання або маніпуляції відгуками, створеними штучним інтелектом” або “притягнення платформ до відповідальності за надання точної і достовірної інформації споживачам”.
Огляди, написані штучним інтелектом
Штучний інтелект змінить світ.
Незважаючи на це, преса, як правило, зациклюється на таких темах, як сингулярність потенційного апокаліпсису, спричиненого штучним інтелектом. Що, чесно кажучи, звучить набагато сексуальніше – і збирає набагато більше кліків.
Але саме такі дрібниці, як написані штучним інтелектом огляди, матимуть найбільший вплив на наше повсякденне життя.
По суті, суспільство базується на довірі, на ідеї, що навколо нас є люди, які поділяють нечіткий набір схожих цінностей. ШІ, який використовується в цих невеликих сферах, має потенціал підірвати цю довіру. Якщо ми більше не можемо вірити тому, що бачимо, чуємо чи читаємо, то ми більше не довіряємо нічому.
А якщо це станеться? Що ж, не мине багато часу, як все навколо нас почне руйнуватися.
Ось чому державні органи, такі як ЄС, не можуть займати вичікувальну позицію в регулюванні таких, здавалося б, несуттєвих сфер, як написані штучним інтелектом огляди. Регулювання має бути – і воно має бути швидким. Бо якщо зволікати занадто довго, може бути вже занадто пізно.
Джерело: https://thenextweb.com
