Напередодні вигнання генерального директора OpenAI Сема Альтмана кілька штатних дослідників написали листа до ради директорів компанії, попередивши про потужне відкриття штучного інтелекту, яке, на їхню думку, може загрожувати людству.
Лист, про який раніше не повідомлялося, і алгоритм ШІ стали ключовими подіями перед тим, як рада директорів звільнила Альтмана. До його тріумфального повернення в кінці вівторка понад 700 співробітників погрожували звільнитися і приєднатися до Microsoft (MSFT.O) в знак солідарності зі своїм звільненим лідером.
Джерела посилаються на лист як на один із чинників серед довшого списку скарг ради директорів, що призвели до звільнення Альтмана, серед яких були побоювання з приводу комерціалізації досягнень до розуміння наслідків.
Як Y Combinator змінив світ: зміна парадигми в технологічних інноваціях
Після того, як Reuters зв’язалося з OpenAI, який відмовився від коментарів, у внутрішньому повідомленні для співробітників було визнано, що проект під назвою Q* і лист до правління були написані до подій вихідних, сказав один із співробітників. Представник OpenAI повідомив, що повідомлення, надіслане багаторічним керівником Мірою Мураті, попереджало співробітників про певні історії в ЗМІ, не коментуючи їхню достовірність.
Дехто в OpenAI вважає, що Q* (вимовляється як Q-Star) може стати проривом у пошуках стартапом так званого штучного загального інтелекту (AGI). OpenAI визначає ШІ як автономні системи, які перевершують людину у виконанні більшості економічно цінних завдань.
Генеративний ШІ можна легко зробити зловмисним, незважаючи на запобіжники
Маючи величезні обчислювальні ресурси, нова модель змогла вирішити певні математичні завдання, сказав співрозмовник на умовах анонімності, оскільки він не був уповноважений говорити від імені компанії. За словами співрозмовника, хоча воно знало математику лише на рівні учнів початкових класів, успішне проходження таких тестів вселило в дослідників оптимізм щодо майбутніх успіхів Q*.
Джерело: https://www.reuters.com/
