Узнайте какой была история создания ChatGPT и компании, которая создала этот искусственный интеллект OpenAI и что нас ждет в будущем.
Когда молодая компания выпустила ChatGPT, она всколыхнула весь мир. Но это было только начало. Конечная цель: изменить все.
38-летний предприниматель Сэм Альтман – сооснователь OpenAI, пиарщик, специалист по безопасности.
В ноябре прошлого года, когда OpenAI выпустил свой монструозный хит, ChatGPT, это вызвало технологический взрыв, которого не было с тех пор, как интернет ворвался в нашу жизнь. Вдруг тест Тьюринга стал историей, поисковые системы – вымирающим видом, а ни одному студенческому эссе нельзя было доверять. Ни одна работа не была безопасной. Ни одна научная проблема не была незыблемой.
Что такое ChatGPT? Искусственный интеллект, который удивил мир
Альтман не проводил исследований, не тренировал нейронную сеть и не писал интерфейс ChatGPT и его младшего брата GPT-4. Но как генеральный директор – мечтатель и практик, похожий на младшую версию своего соучредителя Илона Маска, – одна новостная статья за другой использовала его фото как визуальный символ нового вызова, стоящего перед человечеством.
История создания ChatGPT началась с него. Он – оракул момента, фигура, с которой люди хотят проконсультироваться в первую очередь относительно того, как ИИ может открыть золотой век, или обречь людей на ненужность, или еще хуже.
Альтман не является прирожденным искателем публичности. Для Альтмана и его компании ChatGPT и GPT-4 – это лишь ступеньки на пути к достижению простой и сейсмической миссии, которую эти технологи могли бы с таким же успехом запечатлеть на своей плоти. Эта миссия заключается в создании искусственного всеобщего интеллекта – концепции, которая пока базируется больше на научной фантастике, чем на науке, – и в том, чтобы сделать его безопасным для человечества.
Люди, которые работают в OpenAI, фанатично стремятся достичь этой цели. Хотя, как подтвердит любой разговор с ними, часть миссии “построить AGI”, кажется, вызывает у исследователей больший азарт, чем часть “сделать его безопасным”.
Это люди, которые не стесняются непринужденно употреблять термин “супер-интеллект”. Они предполагают, что траектория развития ИИ превзойдет любой пик, которого может достичь биология. В финансовых документах компании даже предусмотрен своеобразный запасной план на случай, если ИИ сотрет с лица земли всю нашу экономическую систему.
Что такое Pinterest и как он работает?
В то же время, OpenAI – это уже не та компания, которой она была когда-то. Она была основана как чисто некоммерческая исследовательская операция, но сегодня большинство ее сотрудников технически работают на прибыльную организацию, которая, как сообщается, оценивается почти в 30 миллиардов долларов.
Перед Альтманом и его командой стоит задача совершить революцию в каждом продуктовом цикле таким образом, чтобы удовлетворить коммерческие запросы инвесторов и опередить конкурентов в условиях жесткой конкуренции. И все это при соблюдении квази-мессианской миссии – возвысить человечество, а не уничтожить его.
Как Y Combinator изменил мир: смена парадигмы в технологических инновациях
Такое давление – не говоря уже о неумолимом внимании всего мира – может быть изнуряющей силой. “Битлз” запустили колоссальные волны культурных изменений, но их революция держалась на якоре недолго: через шесть лет после того, как прозвучал тот незабываемый аккорд, они перестали быть группой.
Водоворот, который высвободил OpenAI, почти наверняка будет намного больше. Но лидеры OpenAI клянутся, что они не остановятся на достигнутом. По их словам, все, что они хотят сделать, – это создать достаточно умные и безопасные компьютеры, которые положат конец истории, приведя человечество в эру невероятных возможностей.
Что такое GitHub Copilot: какая польза разработчикам?
Ключевая фигура и основатель OpenAI – Сэм Альтман: миссия создания искусственного интеллекта
Вырастая в конце 80-х – начале 90-х, Сэм Альтман был ботаником, который зачитывался научной фантастикой и “Звездными войнами”.
В мирах, построенных ранними писателями-фантастами, люди часто жили вместе с суперинтеллектуальными системами искусственного интеллекта или конкурировали с ними. Идея компьютеров, соответствующих человеческим возможностям или даже превышающих их, восхищала Альтмана, который занимался кодированием с тех пор, как его пальцы едва умещались на клавиатуре.
Когда ему было 8 лет, родители купили ему Macintosh LC II. Однажды вечером он засиделся допоздна, играя с ним, и ему пришла в голову мысль: “Когда-нибудь этот компьютер научится думать”. Когда он приехал в Стэнфорд в 2003 году, он надеялся помочь этому произойти, и пошел на курсы по искусственному интеллекту.
Но “это совсем не работало”, – скажет он позже. Отрасль все еще погрязла в инновационном корыте, известном как “зима ИИ”. Альтман бросил учебу, чтобы войти в мир стартапов; его компания Loopt была в крошечной первой группе организаций-последователей в Y Combinator, который впоследствии стал самым известным инкубатором в мире.
Что такое GPT Store: рынок искусственного интеллекта
В феврале 2014 года Пол Грэм, гуру-основатель YC, выбрал 28-летнего Альтмана своим преемником. “Сэм – один из самых умных людей, которых я знаю, – написал Грэм в своем объявлении, – и понимает стартапы лучше, чем, возможно, кто-либо из моих знакомых, включая меня самого”.
Но Альтман видел YC как нечто большее, чем стартовая площадка для компаний. “Мы не занимаемся стартапами, – сказал он мне вскоре после того, как возглавил компанию. “Мы занимаемся инновациями, потому что мы верим, что именно так можно сделать будущее лучше для всех”.
Искусственный интеллект превыше всего
По мнению Альтмана, смысл заработка на всех этих единорогах заключался не в том, чтобы наполнить кошельки партнеров, а в том, чтобы профинансировать трансформации на уровне видов. Он основал исследовательское крыло, надеясь финансировать амбициозные проекты для решения крупнейших мировых проблем. Но ИИ, по его мнению, был единственной сферой инноваций, которая могла бы управлять всеми ими: суперинтеллект, который мог бы решить проблемы человечества лучше, чем сам человек.
К счастью, Альтман приступил к своей новой работе именно тогда, когда зима ИИ превратилась в обильную весну. Компьютеры благодаря глубокому обучению и нейронным сетям выполняли удивительные трюки, такие как маркировка фотографий, перевод текста и оптимизация сложных рекламных сетей.
Neuralink Маска показал, как первый пациент с мозговым чипом играет в шахматы силой мысли
Достижения убедили его, что впервые ИИ был фактически в пределах досягаемости. Однако его беспокоило то, что он оставил его в руках крупных корпораций. Он считал, что эти компании будут слишком зациклены на своих продуктах, чтобы воспользоваться возможностью как можно быстрее разработать AGI. А если они таки создадут AGI, то могут опрометчиво выпустить его на свет без необходимых мер предосторожности.
В то время Альтман думал о том, чтобы баллотироваться на пост губернатора Калифорнии. Но он понял, что находится в идеальном положении для того, чтобы сделать нечто большее – возглавить компанию, которая изменит само человечество. “AGI собирались построить ровно один раз, – сказал он мне в 2021 году. “И было не так много людей, которые могли бы хорошо работать с OpenAI. Мне повезло, что в моей жизни был определенный опыт, который сделал меня действительно позитивно настроенным на это”.
Как программировать с помощью ChatGPT?
На арену выходит Маск и создается команда
Альтман начал общаться с людьми, которые могли бы помочь ему основать новый тип ИИ-компании, некоммерческую организацию, которая бы направила отрасль в сторону ответственного ИИ. Одним из таких людей оказался генеральный директор Tesla и SpaceX Илон Маск. Как позже рассказывал Маск в интервью CNBC, он обеспокоился влиянием ИИ после того, как провел несколько марафонов дискуссий с соучредителем Google Ларри Пейджем.
Маск сказал, что он был обеспокоен тем, что Пейдж мало беспокоится о безопасности, а также, похоже, считает, что права роботов приравниваются к правам человека. Когда Маск поделился своими опасениями, Пейдж обвинил его в “видоцентризме”. Маск также понимал, что в то время в Google работала значительная часть мировых талантов в области искусственного интеллекта. Он был готов потратить немного денег на усилия, которые больше подвержены влиянию Team Human.
За несколько месяцев Альтман собрал деньги от Маска (который пообещал 100 миллионов долларов и свое время) и Рида Хоффмана (который пожертвовал 10 миллионов долларов). Среди других спонсоров были Питер Тиль, Джессика Ливингстон, Amazon Web Services и YC Research.
Альтман начал тайком набирать команду. Он ограничил поиск верующими AGI, что сужало его возможности, но он считал это критически важным. “В 2015 году, когда мы набирали команду, для исследователя ИИ считалось почти убийством карьеры сказать, что ты серьезно относишься к ИИ, – говорит он. “Но мне нужны были люди, которые относились к этому серьезно”.
Грег Брокман, технический директор Stripe, был одним из таких людей, и он согласился стать техническим директором OpenAI. Другим ключевым соучредителем станет Андрей Карпати, который ранее работал в Google Brain, передовом исследовательском подразделении поискового гиганта в области искусственного интеллекта. Но, пожалуй, самой желанной целью Альтмана был инженер российского происхождения по имени Илья Суцкевер.
Его семья эмигрировала из России в Израиль, а затем в Канаду. В Университете Торонто он был отличником под руководством Джеффри Хинтона, известного как крестный отец современного искусственного интеллекта за свою работу над глубоким обучением и нейронными сетями.
Хинтон, который до сих пор близок к Сацкеверу, удивляется способностям своего протеже. В начале работы Сацкевера в лаборатории Хинтон дал ему сложный проект. Сацкеверу надоело писать код для выполнения необходимых вычислений, и он сказал Хинтону, что будет проще, если он напишет специальный язык программирования для этой задачи.
Хинтон немного рассердился и попытался предостеречь своего студента от того, что, как он предполагал, будет отвлекать его на целый месяц. Тогда Сацкевер признался: “Я сделал это сегодня утром”.
Сацкевер стал суперзвездой искусственного интеллекта, став соавтором прорывной статьи, которая показала, как ИИ может научиться распознавать изображения, просто имея доступ к огромным объемам данных. К счастью, он стал ключевым ученым в команде Google Brain.
В середине 2015 года Альтман прислал Сацкеверу электронное письмо, чтобы пригласить его на ужин с Маском, Брокманом и другими в шикарный отель Rosewood на улице Сэнд-Хилл-роуд в Пало-Альто. Лишь впоследствии Сацкевер понял, что он был почетным гостем.
“Это был некий общий разговор об ИИ и AGI в будущем”, – рассказывает он. В частности, обсуждалось, “или Google и DeepMind настолько далеко ушли вперед, что догнать их будет невозможно, или все же можно, как выразился Илон, создать лабораторию, которая будет противовесом”. Хотя никто за ужином не пытался завербовать Сатскевера, разговор зацепил его.
Вскоре Сацкевер написал Альтману электронное письмо, в котором сказал, что готов возглавить проект, но сообщение застряло в его папке черновиков. Альтман вернулся к нему, и после нескольких месяцев борьбы с контрпредложениями Google Сатскевер подписал контракт. Вскоре он станет душой компании и ее движущей силой в исследованиях.
Сацкевер присоединился к Альтману и Маску в наборе людей для проекта, кульминацией которого стала встреча в долине Напа, где несколько потенциальных исследователей OpenAI подпитывали энтузиазм друг друга. Конечно, некоторые кандидаты не поддавались соблазну. Джон Кармак, легендарный игровой кодер, создавший Doom, Quake и бесчисленное количество других игр, отклонил предложение Альтмана.
Официальный запуск OpenAI и основные принципы
OpenAI официально запустили в декабре 2015 года как попытку сделать ИИ безопасным и доступным, поделившись им с миром. Другими словами, с открытым исходным кодом. OpenAI не собирался подавать заявки на патенты. Каждый может воспользоваться их достижениями.
Маск и Альтман считали, что более безопасный курс для ИИ будет в руках исследовательской деятельности, не загрязненной мотивом прибыли, постоянным соблазном игнорировать потребности людей в поисках бофо-квартальных результатов.
Альтман предостерегал, что не стоит ожидать быстрых результатов. “Это еще долго будет похоже на исследовательскую лабораторию”, – говорил он.
Была еще одна причина, чтобы уменьшить ожидания. Google и другие компании разрабатывали и применяли ИИ годами. В то время как OpenAI имел миллиард долларов, выделенных (в основном через Маска), отличную команду исследователей и инженеров, а также высокую миссию, он не имел никакого представления о том, как достичь своих целей. Альтман вспоминает момент, когда маленькая команда собралась в квартире Брокмана – у них еще не было офиса. “Я подумал: “Что же нам делать?”
Брокман чуть более чем через год после основания OpenAI подтвердил, что некоммерческая организация может позволить себе некоторое время пользоваться своим первоначальным миллиардным пожертвованием. Основную часть расходов OpenAI составляют зарплаты 25 сотрудников, которые получают гораздо меньше рыночной стоимости.
“Наша цель, на которой мы действительно настаиваем, – сказал он, – это иметь системы, которые могут делать то, на что раньше люди были просто не способны”. Но пока что это выглядело как группа исследователей, которые публиковали статьи.
Сейчас Брокман признает, что “ничего не работало”. Его исследователи подбрасывали алгоритмические спагетти к потолку, чтобы увидеть, что застряло. Они углублялись в системы, которые решали видеоигры, и тратили значительные усилия на робототехнику. “Мы знали, что мы хотим делать, – говорит Альтман. “Мы знали, почему мы хотим это сделать. Но мы не имели никакого представления, как”.
Но они верили. Их оптимизм поддерживало постоянное совершенствование искусственных нейронных сетей, которые использовали методы глубокого обучения. “Общая идея заключается в том, что не стоит делать ставку на глубокое обучение”, – говорит Сатскевер. Он говорит, что погоня за AGI “не была полным безумием. Это было лишь умеренное безумие”.
В поисках работающей модели
Путь OpenAI к востребованности начался с найма еще никому не известного исследователя Алека Редфорда, который присоединился к компании в 2016 году, оставив небольшую бостонскую компанию по искусственному интеллекту, соучредителем которой он был, в своей комнате в общежитии. Приняв предложение OpenAI, он сказал журналу выпускников своей школы, что эта новая роль “похожа на поступление в аспирантуру” – это открытое место для исследований в области ИИ с низким давлением и без ограничений.
Роль, которую он на самом деле выполнял, была похожа на роль Ларри Пейджа, который изобрел PageRank.
Редфорд, который стесняется прессы и не давал интервью о своей работе, отвечает на мои вопросы о своих первых днях в OpenAI с помощью длинной электронной переписки.
Его наибольший интерес заключался в том, чтобы заставить нейронные сети взаимодействовать с человеком в понятном разговоре. Это был отход от традиционной скриптовой модели создания чат-ботов, подхода, который использовался во всем, от примитивного ELIZA до популярных ассистентов Siri и Alexa – и все они оказались неудачными.
“Цель состояла в том, чтобы выяснить, есть ли какая-то задача, какая-то настройка, какой-то домен, что угодно, для чего могут быть полезными языковые модели”, – пишет он. В то время, объясняет он, “языковые модели рассматривались как новые игрушки, которые могли сгенерировать предложения, имеющие смысл, лишь время от времени, и то, если вы очень сильно прищурились”.
Его первый эксперимент включал сканирование 2 миллиардов комментариев на Reddit для обучения языковой модели. Как и многие ранние эксперименты OpenAI, он провалился. Но это неважно. 23-летний парень имел разрешение продолжать, чтобы снова потерпеть неудачу. “Мы просто сказали: “Алек – молодец, пусть делает свое дело”, – рассказывает Брокман.
Его следующий большой эксперимент был обусловлен ограничением компьютерных мощностей OpenAI, что заставило его экспериментировать с меньшим набором данных, который сосредотачивался на одном домене – отзывах о товарах Amazon. Исследователь собрал около 100 миллионов таких отзывов. Редфорд научил языковую модель просто предсказывать следующий символ в отзыве пользователя.
Редфорд начал экспериментировать с архитектурой трансформатора. “За две недели я достиг большего прогресса, чем за последние два года”, – говорит он.
ChatGPT в школе: OpenAI выпустила пособие для учителей
Но потом модель сама выяснила, был ли отзыв положительным или отрицательным – и когда вы запрограммировали модель на создание чего-то положительного или отрицательного, она выдавала отзыв, который был хвалебным или хлестким, в зависимости от того, что вы хотели.
“Это была полная неожиданность”, – говорит Редфорд. Настроение отзыва – его благоприятная или неблагоприятная суть – является сложной функцией семантики, но каким-то образом часть системы Радфорда почувствовала это. В рамках OpenAI эта часть нейросети стала известна как “нейрон настроения без присмотра”.
Сацкевер и другие поощряли Рэдфорда расширить свои эксперименты за пределы отзывов на Amazon, чтобы использовать его инсайты для обучения нейросетей разговаривать или отвечать на вопросы по широкому кругу тем.
Прорыв
А затем удача улыбнулась OpenAI. В начале 2017 года появился никому не известный препринт научной статьи, написанный в соавторстве восемью исследователями Google. Ее официальное название – “Внимание – это все, что вам нужно”, но она стала известна как “статья-трансформер”, названная так, чтобы отразить революционный характер идеи и почтить игрушки, которые трансформировались из грузовиков в гигантских роботов.
Трансформеры позволили нейросети гораздо эффективнее понимать и генерировать речь. Они делали это, параллельно анализируя куски прозы и выясняя, какие элементы заслуживают “внимания”.
Это значительно оптимизировало процесс создания связного текста в ответ на подсказки. В конце концов, люди поняли, что таким же образом можно генерировать изображения и даже видео.
Редфорд начал экспериментировать с трансформаторной архитектурой. “За две недели я достиг большего прогресса, чем за последние два года”, – говорит он. Он понял, что ключ к получению максимальной отдачи от новой модели заключается в добавлении масштаба – обучении ее на фантастически больших наборах данных. Идею назвал “Великим трансформатором” сотрудник Радфорда Ревон Чайлд (Rewon Child).
Такой подход требовал изменения культуры в OpenAI и фокуса, которого раньше не хватало. “Чтобы воспользоваться преимуществами трансформатора, нужно было его масштабировать, – говорит Адам Д’Анджело, генеральный директор Quora, который входит в совет директоров OpenAI.
“Вам нужно управлять ею больше как инженерной организацией. Нельзя, чтобы каждый исследователь пытался делать что-то свое, тренировал собственную модель и создавал элегантные вещи, о которых можно публиковать статьи. Вы должны делать эту более скучную, менее элегантную работу”. Он добавил, что это то, что OpenAI смог сделать, и то, что не смог сделать никто другой.
История создания ChatGPT: GPT-1
Название, которое Радфорд и его коллеги дали созданной ими модели, было аббревиатурой от “генеративно предварительно обученный трансформатор” – GPT-1. Впоследствии эта модель стала общеизвестной как “генеративный ИИ”. Для ее создания они использовали коллекцию из 7000 неопубликованных книг, многие из которых относятся к жанрам романтики, фэнтези и приключений, и усовершенствовали ее на основе вопросов и ответов на Quora, а также тысяч отрывков из экзаменов в средней и старшей школах.
В целом модель включала 117 миллионов параметров, или переменных. И она превзошла все, что было до этого, в понимании языка и генерировании ответов. Но самым впечатляющим результатом стало то, что обработка такого огромного количества данных позволила модели предложить результаты, которые выходят за пределы ее обучения, предоставляя экспертизу в совершенно новых сферах.
Эти незапланированные возможности роботов называются “нулевыми выстрелами”. Они до сих пор озадачивают исследователей – и объясняют тошноту, которую многие в этой области испытывают в отношении так называемых больших языковых моделей.
История создания ChatGPT: GPT-2
Каждая последующая итерация GPT давала лучшие результаты, отчасти потому, что каждая из них поглощала на порядок больше данных, чем предыдущая модель. Всего через год после создания первой итерации OpenAI обучил GPT-2 в открытом интернете с впечатляющими 1,5 миллиардами параметров. Подобно малышу, осваивающему язык, его ответы становились все лучше и последовательнее.
Настолько, что OpenAI не решалась выпустить программу в открытый доступ. Редфорд волновался, что ее могут использовать для создания спама. “Я помню, как в 2008 году читал “Анатомию” Нила Стивенсона, и в этой книге интернет был переполнен генераторами спама, – рассказывает он. “Я думал, что это очень надумано, но когда я работал над языковыми моделями в течение многих лет, и они становились лучше, пришло неприятное осознание того, что это реальная возможность”.
На самом деле, команда OpenAI начала думать, что это не такая уж и хорошая идея – выкладывать свои наработки туда, где Доктор Зло может легко получить к ним доступ. “Мы думали, что открытый код GPT-2 может быть очень опасным, – говорит главный технический директор Мира Мурати, которая начала работать в компании в 2018 году.
“Мы провели большую работу с экспертами по дезинформации и создали несколько команд. Внутри компании было много дискуссий о том, сколько данных выпускать”. В конце концов, OpenAI временно придержала полную версию, сделав менее мощную версию доступной для общественности. Когда компания наконец обнародовала полную версию, мир справился с ней, но не было никаких гарантий, что более мощные модели избегут катастрофы.
Сам факт того, что OpenAI делала продукты достаточно умными, чтобы считаться опасными, и пыталась найти способы сделать их безопасными, был доказательством того, что компания нашла свое моджо. “Мы вывели формулу прогресса, формулу, которую все воспринимают сейчас – кислород и водород глубокого обучения – это вычисления с помощью большой нейронной сети и данных”, – говорит Суцкевер.
Для Альтмана это был потрясающий опыт. “Если бы вы спросили 10-летнюю версию меня, которая проводила много времени в мечтах об искусственном интеллекте, что произойдет, я бы с уверенностью спрогнозировала, что сначала у нас будут роботы, и они будут выполнять всю физическую работу.
Затем у нас появятся системы, которые смогут выполнять базовую когнитивную работу. Через очень долгое время после этого, возможно, у нас появятся системы, способные выполнять сложные задачи, такие как доказательство математических теорем.
В конце концов, у нас будет искусственный интеллект, который сможет создавать новые вещи, творить искусство, писать и делать эти глубоко человеческие вещи. Это было ужасное предсказание – все идет совсем в другом направлении”.
Мир еще не знал об этом, но исследовательская лаборатория Альтмана и Маска начала восхождение, которое правдоподобно ползет к вершине AGI. Безумная идея OpenAI вдруг оказалась не такой уж и безумной.
Маск захотел получить контроль и ушел со своими деньгами
В начале 2018 года OpenAI начал продуктивно работать над большими языковыми моделями, или LLM. Но Илон Маск был недоволен. Он считал, что прогресс был недостаточным – или, возможно, он чувствовал, что теперь, когда OpenAI на что-то наткнулся, ему нужно лидерство, чтобы воспользоваться своим преимуществом.
А может, как он объяснил позже, он считал, что безопасность должна быть более приоритетной. Какой бы ни была его проблема, у него было решение: Передать все ему. Он предложил взять контрольный пакет акций компании, добавив его к портфелю своих многочисленных штатных должностей (Tesla, SpaceX) и наблюдательных обязанностей (Neuralink и The Boring Company).
Маск считал, что имеет право владеть OpenAI. “Без меня его бы не существовало, – сказал он позже в интервью CNBC. “Я придумал название!” (Это правда.)
Но Альтман и остальная команда OpenAI не были заинтересованы в том, чтобы стать частью вселенной Маска.
Когда они дали это понять, Маск разорвал связи, предоставив общественности неполное объяснение, что он покидает правление, чтобы избежать конфликта с усилиями Tesla в области ИИ. Его прощание состоялось на общем собрании в начале того же года, где он предсказал, что OpenAI потерпит неудачу. И назвал по крайней мере одного из исследователей “ослом”.
Он также забрал с собой свои деньги. Поскольку у компании не было доходов, это был экзистенциальный кризис. “Илон прекращает свою поддержку, – сказал Альтман в паническом звонке Риду Хоффману. “Что нам делать?” Хоффман вызвался удерживать компанию на плаву, оплачивая накладные расходы и зарплаты.
На грани краха возникает новая финансовая модель
Но это было временным решением; OpenAI пришлось искать большие деньги в другом месте. Кремниевая долина любит вкладывать деньги в талантливых людей, работающих над модными технологиями. Но не так много, если они работают в некоммерческой организации.
Для OpenAI получение первого миллиарда было огромной поддержкой. Чтобы обучить и протестировать новые поколения GPT, а затем получить доступ к вычислениям, необходимым для их развертывания, компании нужен был еще один миллиард, и быстро. И это было бы только начало.
Где-то в документах о реструктуризации есть пункт о том, что, если компании удастся создать AGI, все финансовые договоренности будут пересмотрены. Ведь с этого момента наступит новый мир.
Поэтому в марте 2019 года OpenAI придумала причудливый хак. Она останется некоммерческой организацией, полностью посвятив себя своей миссии. Но он также создаст коммерческую организацию.
Фактическая структура сделки безнадежно барочна, но по сути вся компания теперь занимается прибыльным бизнесом с “лимитом”. Если лимит достигнут – цифра не разглашается, но ее собственный устав, если читать между строк, позволяет предположить, что она может исчисляться триллионами, – все, что за пределами этого лимита, возвращается в неприбыльную исследовательскую лабораторию.
Новая схема была почти квантовым подходом к регистрации: Перед вами компания, которая, в зависимости от вашей пространственно-временной точки зрения, является коммерческой и некоммерческой. Детали воплощены в диаграммах, полных квадратиков и стрелок, вроде тех, что в середине научной статьи, куда решаются ступить только доктора наук или гении, которых выбросили из университета.
Но бухгалтерия имеет решающее значение. Прибыльная компания оптимизирует свою деятельность ради прибыли. Есть причина, по которой такие компании, как Meta, испытывают давление со стороны акционеров, когда они вкладывают миллиарды в R&D. Как это могло не повлиять на то, как работает фирма? И не избегание коммерциализации было причиной того, что Альтман сделал OpenAI неприбыльной организацией с самого начала?
По словам главного операционного директора Брэда Лайткапа, руководство компании считает, что совет директоров, который все еще является частью неприбыльной контролирующей организации, будет следить за тем, чтобы стремление к доходам и прибыли не затмило первоначальную идею.
“Нам нужно было сохранить миссию как причину нашего существования, – говорит он, – Она должна быть не только в душе, но и закодирована в структуре компании”. Член правления Адам Д’Анджело говорит, что он серьезно относится к этой ответственности: “Моя работа, вместе с другими членами правления, заключается в том, чтобы убедиться, что OpenAI остается верной своей миссии”.
Потенциальные инвесторы были предупреждены об этих границах, объясняет Lightcap. “У нас есть юридическая оговорка, в которой говорится о том, что вы, как инвестор, можете потерять все свои деньги, – говорит он. “Мы здесь не для того, чтобы вернуть ваши деньги. Мы здесь для того, чтобы выполнить техническую миссию, прежде всего. И, кстати, мы не знаем, какую роль будут играть деньги в мире, который будет развиваться без искусственного интеллекта”.
Последнее предложение – это не бессмысленная шутка. План OpenAI действительно включает перезагрузку на случай, если компьютеры достигнут последнего предела. Где-то в документах о реструктуризации есть пункт о том, что, если компании удастся создать AGI, все финансовые договоренности будут пересмотрены. Ведь с этого момента это будет новый мир. У человечества появится инопланетный партнер, который может делать многое из того, что делаем мы, только лучше. Так что предыдущие договоренности могут фактически стать капут.
Однако есть одна загвоздка: На данный момент OpenAI не утверждает, что знает, что такое AGI на самом деле. Определение должно исходить от правления, но непонятно, как правление будет его определять.
Тем не менее, включение пункта о “финансовых договоренностях” не просто так: Руководители OpenAI считают, что если компания будет достаточно успешной, чтобы достичь своего высокого лимита прибыли, то ее продукты, вероятно, будут работать достаточно хорошо, чтобы достичь AGI. Что бы это ни было.
“Я сожалею, что мы решили удвоить срок AGI, – говорит Сатскевер. “Оглядываясь назад, можно сказать, что это запутанный термин, потому что он подчеркивает всеобщность превыше всего. GPT-3 – это общий ИИ, но нам не очень удобно называть его AGI, потому что мы хотим получить компетенции человеческого уровня. Но тогда, в самом начале, идея OpenAI заключалась в том, что суперинтеллект можно достичь. Это эндшпиль, конечная цель отрасли искусственного интеллекта”.
Эти предостережения не помешали самым умным венчурным инвесторам вложить деньги в OpenAI во время раунда финансирования в 2019 году. На тот момент первой венчурной компанией, которая инвестировала, стала Khosla Ventures, которая вложила 50 миллионов долларов. По словам Винода Хосла, это вдвое превышало его самую большую начальную инвестицию. “Если мы проиграем, то потеряем 50 миллионов долларов, – говорит он. “Если мы выиграем, мы выиграем 5 миллиардов”. Сообщается, что среди других инвесторов будут элитные венчурные фирмы Thrive Capital, Andreessen Horowitz, Founders Fund и Sequoia.
Изменение также позволило сотрудникам OpenAI претендовать на определенную долю в капитале. Но не Альтман. Он говорит, что изначально намеревался включить себя в состав акционеров, но не дошел до этого. Потом он решил, что ему не нужна доля компании стоимостью 30 миллиардов долларов, которую он основал и возглавляет. “Для меня важнее осмысленная работа, – говорит он. “Я не думаю об этом. Я, честно говоря, не понимаю, почему это так волнует людей”.
Потому что… не иметь доли в компании, которую ты основал, странно?
“Если бы у меня уже не было кучи денег, это было бы гораздо страннее”, – говорит он. “Кажется, людям трудно представить, что у них может быть достаточно денег. Но я чувствую, что у меня их достаточно”. Альтман шутит, что рассматривает возможность взять одну долю в капитале, “чтобы больше никогда не отвечать на этот вопрос”.
Миллиардный раунд венчурного финансирования даже не был ставкой для реализации видения OpenAI. Чудодейственный подход Big Transformer к созданию LLM требовал большого аппаратного обеспечения. Каждая итерация семейства GPT требовала экспоненциально большей мощности – GPT-2 имел более миллиарда параметров, а GPT-3 – 175 миллиардов. OpenAI был похож на Квинта в фильме “Челюсти” после того, как охотник на акул увидел размер большой белой акулы. “Оказалось, что мы не знали, насколько большая лодка нам нужна”, – говорит Альтман.
Microsoft в игре
Очевидно, что лишь несколько существующих компаний имели такие ресурсы, которых требовал OpenAI. “Мы довольно быстро сосредоточились на Microsoft”, – говорит Альтман. Благодаря генеральному директору Microsoft Сатье Надели и техническому директору Кевину Скотту, софтверный гигант смог преодолеть неудобную реальность: После более чем 20 лет и миллиардов долларов, потраченных на исследовательское подразделение с якобы передовым ИИ, Softies нуждались в инновационном вливании от крошечной компании, которой было всего несколько лет.
Скотт говорит, что не только Microsoft не успела – “не успели все”. По его словам, сосредоточенность OpenAI на разработке ИИ позволила ей достичь неожиданного успеха, на который даже не рассчитывали крупные игроки рынка. Это также доказало, что отказ от генеративного ИИ был ошибкой, которую Microsoft нужно было исправить. “Единственное, что вам точно нужно, – это граничная модель”, – говорит Скотт.
Сначала Microsoft вложила миллиард долларов, которые окупились за счет времени вычислений на ее серверах. Но по мере того, как обе стороны становились более уверенными в себе, сделка расширялась. Сейчас Microsoft вложила в OpenAI 13 миллиардов долларов (“Быть на передовой – это очень дорого”, – говорит Скотт).
Конечно, поскольку OpenAI не мог бы существовать без поддержки огромного облачного провайдера, Microsoft смогла выторговать для себя немалую долю. Корпорация выторговала то, что Наделла называет “неконтролируемым пакетом акций” в коммерческой части OpenAI – как сообщается, 49 процентов.
Согласно условиям сделки, некоторые из первоначальных идеалов OpenAI по предоставлению равного доступа для всех, казалось бы, были перетянуты на свалку. Теперь Microsoft имеет эксклюзивную лицензию на коммерциализацию технологии OpenAI. И OpenAI также обязался использовать облако Microsoft исключительно.
Другими словами, даже не получая своей доли прибыли OpenAI (как сообщается, Microsoft получает 75 процентов, пока ее инвестиции не окупятся), Microsoft получает одного из самых желанных в мире новых клиентов для своих веб-сервисов Azure.
Учитывая эти выгоды, Microsoft даже не побеспокоил пункт, который требует пересмотра, если OpenAI достигнет общего искусственного интеллекта, чем бы он ни был. “На тот момент, – говорит Наделла, – все ставки сделаны”. Он отмечает, что это может быть последним изобретением человечества, поэтому нам придется решать гораздо большие проблемы, когда машины станут умнее нас.
Рождение GPT-3
К тому времени, когда Microsoft начала вкладывать в OpenAI деньги (2 миллиарда долларов в 2021 году и еще 10 миллиардов долларов в начале этого года), OpenAI завершил работу над GPT-3, который, конечно, был еще более впечатляющим, чем его предшественники.
По его словам, когда Наделла увидел, на что способен GPT-3, он впервые глубоко осознал, что корпорация Майкрософт ухватила что-то действительно революционное. “Мы начали наблюдать за всеми этими новыми свойствами”. Например, GPT научился сам программировать компьютеры. “Мы не обучали ее кодированию – она просто научилась кодировать!”, – говорит он.
Используя свое владение GitHub, Microsoft выпустила продукт под названием Copilot, который использует GPT для создания кода буквально по команде. Позже Microsoft интегрировала технологию OpenAI в новые версии своих рабочих продуктов. Пользователи платят за это дополнительную плату, а часть этих доходов попадает в бухгалтерскую книгу OpenAI.
Как мечтатели стали прагматиками?
Некоторые обозреватели выражали недоумение по поводу одного-двух ударов OpenAI: создание коммерческого компонента и заключение эксклюзивного соглашения с Microsoft.
Как компания, которая обещала оставаться беспатентной, с открытым исходным кодом и абсолютно прозрачной, предоставила эксклюзивную лицензию на свою технологию крупнейшей в мире софтверной компании?
Замечания Илона Маска были особенно язвительными. “Похоже на то, что противоположность open-OpenAI по сути захвачена Microsoft”, – написал он в Твиттере. В эфире CNBC он провел аналогию: “Скажем, вы основали организацию для спасения тропических лесов Амазонки, а вместо этого стали лесозаготовительной компанией, вырубили лес и продали его”.
Остроты Маска можно отбросить как горечь отвергнутого ухажера, но он не был одинок. “Все видение того, как он превратился, кажется несколько отвратительным”, – говорит Джон Кармак (John Carmack). (Он уточняет, что все еще в восторге от работы компании.)
Даже некоторые сотрудники были оттолкнуты выходом OpenAI в мир коммерции. В 2019 году несколько ключевых руководителей, включая руководителя отдела исследований Дарио Амодея, ушли, чтобы основать конкурирующую компанию Anthropic. Недавно они рассказали The New York Times, что OpenAI стал слишком коммерческим и стал жертвой дрейфа миссии.
Еще одним перебежчиком из OpenAI стал Ревон Чайлд (Rewon Child), основной технический участник проектов GPT-2 и GPT-3. Он ушел в конце 2021 года и сейчас работает в Inflection AI, компании, которую возглавляет бывший сооснователь DeepMind Мустафа Сулейман.
Альтман признается, что его не беспокоят побеги, он считает, что так устроена Кремниевая долина. “Некоторые люди захотят делать отличную работу в другом месте, и это толкает общество вперед, – говорит он. “Это абсолютно соответствует нашей миссии”.
Искусственный интеллект в широкие массы
До ноября прошлого года об OpenAI знали только те, кто интересовался технологиями и разработкой программного обеспечения. Но, как теперь знает весь мир, в конце того месяца OpenAI сделала драматический шаг, выпустив потребительский продукт, построенный на самой новой на то время итерации GPT, версии 3.5.
В течение нескольких месяцев компания использовала для внутренних нужд версию GPT с диалоговым интерфейсом. Это было особенно важно для того, что компания называла “поиском правды”. Это означает, что с помощью диалога пользователь мог убедить модель предоставить более достоверные и полные ответы.
ChatGPT, оптимизированный для широких масс, мог позволить любому мгновенно получить доступ к, казалось бы, бесконечному источнику знаний, просто введя подсказку, а затем продолжить разговор так, будто общаешься с человеком, который случайно знает все, хотя и имеет склонность к вымыслам.
Внутри OpenAI было много споров о целесообразности выпуска инструмента с такой беспрецедентной мощностью. Но Альтман был полностью за. Он объясняет, что этот релиз был частью стратегии, направленной на адаптацию общественности к реальности, что искусственный интеллект должен изменить их повседневную жизнь, вероятно, к лучшему.
Внутри компании это известно как “гипотеза итеративного развертывания”. Конечно, ChatGPT создаст ажиотаж, думали мы. В конце концов, появилось что-то, чем мог пользоваться любой, кто был достаточно умным, чтобы получить баллы на уровне колледжа на SAT, написать эссе на четыре с минусом и законспектировать книгу за считанные секунды.
Вы можете попросить его написать заявку на финансирование или подытожить встречу, а затем попросить переписать на литовском языке, сонетом Шекспира или голосом человека, одержимого игрушечными поездами. Через несколько секунд, бац, и LLM согласится.
На подходе GPT-4 и готовимся к эре сингулярности
Безумие. Но OpenAI рассматривал его как подготовку к созданию своего нового, более последовательного, более мощного и более страшного преемника, GPT-4, который обучался на 1,7 триллиона параметров. (OpenAI не подтверждает эту цифру и не раскрывает наборы данных).
Альтман объясняет, почему OpenAI выпустила ChatGPT, когда GPT-4 был близок к завершению, проходя работы по безопасности. “С помощью ChatGPT мы могли внедрить чат, но с гораздо менее мощным бэкэндом, и дать людям более постепенную адаптацию”, – говорит он.
“В GPT-4 было много чего, к чему нужно было привыкнуть сразу”. К тому времени, когда ажиотаж вокруг ChatGPT утих, пришло осознание того, что люди могут быть готовы к GPT-4, с помощью которого можно сдать экзамен на адвоката, спланировать учебный курс и написать книгу за считанные секунды. (Издательства, которые выпускали жанровую художественную литературу, действительно заполонили сгенерированные искусственным интеллектом сдиратели лифчиков и космические оперы).
Циник мог бы сказать, что постоянный выпуск новых продуктов связан со стремлением компании заработать немного денег для инвесторов и сотрудников, владеющих акциями. Сейчас OpenAI взимает плату с клиентов, которые часто пользуются ее продуктами.
Но OpenAI настаивает на том, что ее настоящая стратегия заключается в том, чтобы обеспечить мягкую посадку для сингулярности. “Нет смысла просто создать AGI в тайне и сбросить его на мир, – говорит Альтман. “Оглянитесь на промышленную революцию – все соглашаются, что она имела большое значение для мира, – говорит Сандхини Агарвал, исследователь политики OpenAI.
“Но первые 50 лет были очень болезненными. Было много потерянных рабочих мест, много бедности, а затем мир адаптировался. Мы пытаемся подумать, как сделать период до адаптации AGI максимально безболезненным”.
Суцкевер ставит вопрос по-другому: “Вы хотите построить более крупный и мощный интеллект и держать его у себя в подвале?”
Несмотря на это, OpenAI был ошеломлен реакцией на ChatGPT. “Наше внутреннее волнение было больше сосредоточено на GPT-4, – говорит Мурати, технический директор. “Поэтому мы не думали, что ChatGPT действительно изменит все”. Напротив, он подтолкнул общественность к осознанию того, что с искусственным интеллектом нужно иметь дело уже сейчас.
ChatGPT стал самым быстрорастущим потребительским программным обеспечением в истории, собрав около 100 миллионов пользователей. (Не очень открытая компания Not-so-OpenAI не подтверждает этого, говоря лишь, что у нее “миллионы пользователей”). “Я недооценивал, насколько создание простого в использовании разговорного интерфейса для LLM сделает его гораздо более интуитивно понятным для всех”, – говорит Радфорд.
ChatGPT был, конечно, замечательным и удивительно полезным, но в то же время ужасно склонным к “галлюцинациям” правдоподобных, но позорно сказочных подробностей в ответ на подсказки. Однако, даже когда журналисты заламывали руки по поводу последствий, они фактически поддержали ChatGPT, восхваляя его возможности.
Шумиха стала еще громче в феврале, когда Microsoft, воспользовавшись преимуществами многомиллиардного партнерства, выпустила версию поисковой системы Bing на базе ChatGPT. Генеральный директор Наделла был в эйфории от того, что он опередил Google во внедрении генеративного искусственного интеллекта в продукты Microsoft. Он насмехался над поисковым королем, который был осторожным во внедрении собственного ИИ в продукты, чтобы тот сделал то же самое. “Я хочу, чтобы люди знали, что мы заставили их танцевать”, – сказал он.
Криптовалюта ChatGPT – что такое Worldcoin?
Таким образом Наделла спровоцировал гонку вооружений, которая соблазнила большие и малые компании выпускать продукты с искусственным интеллектом до того, как они будут полностью проверены. Он также спровоцировал новый виток освещения в СМИ, который не давал спать по ночам все более широким кругам людей: взаимодействие с Bing, которое раскрыло теневую сторону чат-бота, полную тревожных признаний в любви, зависти к человеческой свободе и слабой решимости скрывать дезинформацию. А также неприличной привычкой создавать собственную галлюцинационную дезинформацию.
Но если продукты OpenAI заставляют людей столкнуться с последствиями искусственного интеллекта, решил Альтман, тем лучше. Настало время для большей части человечества выйти из кулуаров дискуссий о том, как ИИ может повлиять на будущее вида.
OpenAI оказывается в центре внимания политиков
Когда общество начало обсуждать все потенциальные недостатки ИИ – потерю рабочих мест, дезинформацию, вымирание человечества – OpenAI решила оказаться в центре дискуссии. Ведь если бы регуляторы, законодатели и предсказатели будущего попытались задушить этот зарождающийся инопланетный интеллект в его облачной колыбели, OpenAI в любом случае стал бы их главной мишенью.
“Учитывая нашу нынешнюю популярность, когда что-то пойдет не так, даже если это будет сделано другой компанией, это все равно будет проблемой для нас, потому что сейчас мы считаемся лицом этой технологии”, – говорит Анна Маканджу, директор по вопросам политики OpenAI.
Анна Маканджу родилась в Вашингтоне и работала на внешнеполитических должностях в Миссии США при ООН, Совете национальной безопасности США и Министерстве обороны, а также в офисе Джо Байдена, когда он был вице-президентом.
“У меня много предыдущих связей как в правительстве США, так и в различных европейских правительствах”, – говорит она. Она присоединилась к OpenAI в сентябре 2021 года. В то время мало кто в правительстве знал о генеративном ИИ. Зная, что продукты OpenAI вскоре изменят эту ситуацию, она начала знакомить Альтман с представителями администрации и законодателями, убеждаясь, что они узнают о хороших и плохих новостях от OpenAI первыми.
“Сэм был чрезвычайно полезным, но одновременно и очень сообразительным в общении с членами Конгресса”, – говорит Ричард Блюменталь, председатель юридического комитета Сената. Он сравнивает поведение Альтмана с поведением младшего Билла Гейтса, который глупо отказывался общаться с законодателями, когда Microsoft находилась под антимонопольным расследованием в 1990-х годах.
“Альтман, напротив, был рад провести со мной час или больше, пытаясь просветить меня, – говорит Блюменталь. “Он не пришел с армией лоббистов или наставников. Он продемонстрировал ChatGPT. Это было потрясающе”.
По словам Блюменталя, Альтман в конечном итоге превратился в потенциального врага. “Да, – признает сенатор. “Я взволнован как преимуществами, так и потенциальными опасностями”. OpenAI не уклонился от обсуждения этих рисков, но представил себя как силу, имеющую наилучшие возможности для их смягчения.
К тому времени, когда Альтман впервые появился на слушаниях в Конгрессе, борясь с сильной головной болью, для него был открыт путь, на который Билл Гейтс или Марк Цукерберг никогда не могли надеяться. Он почти не столкнулся с жесткими вопросами и высокомерными нападками, с которыми обычно сталкиваются руководители технологических компаний после принятия присяги. Вместо этого сенаторы обратились к Альтману за советом, как регулировать ИИ, и Альтман с энтузиазмом поддержал эту идею.
Регулирование искусственного интеллекта
Парадокс заключается в том, что независимо от того, насколько усердно компании вроде OpenAI улучшают свои продукты, чтобы уменьшить количество случаев ненадлежащего поведения, таких как глубокие подделки, дезинформация и преступный спам, будущие модели могут стать достаточно умными, чтобы свести на нет усилия жалких людей, которые изобрели эту технологию, но все еще наивно верят, что могут ее контролировать.
С другой стороны, если они зайдут слишком далеко, делая свои модели безопасными, это может навредить продуктам, сделав их менее полезными. Одно исследование показало, что последние версии GPT, которые имеют улучшенные функции безопасности, на самом деле тупее предыдущих версий, делая ошибки в базовых математических задачах, с которыми предыдущие программы справлялись на отлично. (Альтман говорит, что данные OpenAI этого не подтверждают. “Разве это исследование не было отозвано?” – спрашивает он. Нет).
Вполне логично, что Альтман позиционирует себя как сторонник регулирования; в конце концов, его миссия – AGI, но безопасно. Критики обвиняют его в том, что он манипулирует процессом, чтобы регулирование помешало меньшим стартапам и дало преимущество OpenAI и другим крупным игрокам. Альтман это отрицает. Хотя он, в принципе, поддержал идею создания международного агентства по надзору за ИИ, он считает, что некоторые предложенные правила, такие как запрет всех защищенных авторским правом материалов из наборов данных, создают несправедливые препятствия.
Он не подписал широко распространенное письмо, призывающее к шестимесячному мораторию на разработку систем искусственного интеллекта. Но он и другие лидеры OpenAI добавили свои имена к заявлению из одного предложения: “Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война”. Альтман объясняет: “Я сказал: “Да, я согласен с этим”.
Как отметил один из основателей Кремниевой долины: “Редко когда индустрия поднимает руку и говорит: “Мы станем концом человечества”, – а затем продолжает работать над продуктом с радостью и рвением”.
OpenAI отвергает эту критику. Альтман и его команда говорят, что работа и выпуск передовых продуктов – это путь к преодолению общественных рисков. Только проанализировав ответы на миллионы подсказок пользователей ChatGPT и GPT-4, они смогли получить знания для этического согласования своих будущих продуктов.
OpenAI пытается охватить все
Тем не менее, поскольку компания берет на себя больше задач и посвящает больше энергии коммерческой деятельности, некоторые ставят под сомнение, насколько сильно OpenAI может сосредоточиться на миссии – особенно на “уменьшении риска вымирания”.
“Если задуматься, они фактически строят пять бизнесов, – говорит один из руководителей отрасли ИИ, показывая на них пальцами. “Это сам продукт, корпоративные отношения с Microsoft, экосистема для разработчиков и магазин приложений. И, да, они также, очевидно, проводят исследовательскую миссию в области ИИ”.
Использовав все пять пальцев, он переделывает указательный палец, чтобы добавить шестой. “И, конечно, они также занимаются инвестиционным фондом”, – говорит он, имея в виду проект стоимостью 175 миллионов долларов, направленный на поддержку стартапов, которые хотят использовать технологию OpenAI. “Это разные культуры, и фактически они противоречат исследовательской миссии”.
Я неоднократно спрашивал руководителей OpenAI о том, как надевание шкуры продуктовой компании повлияло на ее культуру. Они непременно настаивают на том, что, несмотря на коммерческую реструктуризацию, несмотря на конкуренцию с Google, Meta и бесчисленными стартапами, миссия все еще остается центральной.
Однако OpenAI изменился. Неприбыльный совет может технически управлять компанией, но фактически все в ней работают на коммерческой основе.
Среди ее сотрудников есть юристы, маркетологи, эксперты по вопросам политики и дизайнеры пользовательского интерфейса. OpenAI заключает контракты с сотнями модераторов контента, чтобы обучать свои модели неуместным или вредным ответам на подсказки, предложенные многими миллионами пользователей.
Менеджеры по продуктам и инженеры постоянно работают над обновлением своих продуктов, и каждые пару недель OpenAI, кажется, засыпает журналистов демонстрациями – так же, как и другие продуктово-ориентированные крупные технологические компании.
“Я не могу подчеркнуть это достаточно – у нас не было генерального плана, – говорит Альтман. “Это было похоже на то, что мы поворачиваем за каждым поворотом и светили фонариком. Мы были готовы пройти через лабиринт, чтобы добраться до конца”. Хотя лабиринт стал более извилистым, цель не изменилась. “У нас все еще есть наша основная миссия – вера в то, что безопасный AGI был критически важной вещью, которую мир не воспринимал достаточно серьезно”.
История создания ChatGPT: когда GPT-5 и каково ближайшее будущее?
Тем временем история создания ChatGPT продолжается и OpenAI, очевидно, не спешит разрабатывать следующую версию своей большой языковой модели. В это трудно поверить, но компания настаивает на том, что она еще не начала работать над GPT-5, продуктом, от которого люди, в зависимости от точки зрения, либо пускают слюни, либо боятся. Очевидно, OpenAI пытается понять, как на самом деле выглядит экспоненциально мощное усовершенствование ее текущей технологии.
“Больше всего нам не хватает новых идей, – говорит Брокман. “Приятно иметь что-то, что могло бы стать виртуальным помощником. Но мечта не об этом. Мечта заключается в том, чтобы помочь нам решить проблемы, которые мы не можем решить”.
Учитывая историю OpenAI, следующий большой набор инноваций, возможно, придется подождать, пока не произойдет еще один прорыв, столь же масштабный, как и трансформация. Альтман надеется, что это произойдет благодаря OpenAI – “Мы хотим быть лучшей исследовательской лабораторией в мире”, – говорит он, – но даже если это не так, его компания будет использовать достижения других, как это было с работой Google. “Многие люди по всему миру будут выполнять важную работу”, – говорит он.
Это также помогло бы, если бы генеративный ИИ не создавал так много новых проблем. Например, создателям чата нужно учиться работать с огромными массивами данных; очевидно, что самые мощные из них поглотят весь интернет. Это не нравится некоторым создателям и просто людям, которые невольно предоставляют контент для этих наборов данных и в конечном итоге так или иначе способствуют созданию ChatGPT.
Том Рубин, элитный юрист по интеллектуальной собственности, который официально присоединился к OpenAI в марте, оптимистично настроен, что компания в конце концов найдет баланс, который удовлетворит как ее собственные потребности, так и потребности авторов, включая тех, кто, как комик Сара Сильверман, судится с OpenAI за использование их контента для обучения своих моделей.
Один из намеков на путь OpenAI: партнерство с новостными и фотоагентствами, такими как Associated Press и Shutterstock, чтобы предоставлять контент для своих моделей без вопросов о том, кто чем владеет.
Источник: https://www.wired.com/
