Новини України та Світу, авторитетно.

OpenAI недостатньо відкритий для Ілона

Також фінансова піраміда випускників Гарвардської бізнес-школи.

Ілон проти OpenAI

Вчора я писав щодо повідомлення про те, що Комісія з цінних паперів і бірж США може розслідувати, чи могли OpenAI або її засновник і головний виконавчий директор Сем Альтман ввести в оману своїх інвесторів. Наприкінці минулого року правління OpenAI ненадовго звільнило Альтмана за те, що він не був “послідовно відвертим”, а потім змінило курс і звільнило себе замість нього. Отже, є певні підстави вважати, що хтось не був про щось відвертим.

У мене були сумніви, що справа дійде до рівня шахрайства з цінними паперами. По-перше, OpenAI – неприбуткова організація, і навіть її комерційна дочірня компанія OpenAI Global LLC, яка залучила гроші від інвесторів, не така вже й комерційна. Я написав:

У верхній частині операційної угоди OpenAI попереджає інвесторів: “Було б розумно розглядати будь-які інвестиції в OpenAI Global, LLC в дусі пожертвування, з розумінням того, що може бути важко передбачити, яку роль відіграватимуть гроші в світі пост-[штучного загального інтелекту]”. Я досі не знаю, про що Альтман нібито не був відвертим, але що б це не було, наскільки це могло бути суттєвим для інвесторів, враховуючи те, на що вони підписалися? “О, він сказав, що навчання цієї моделі коштувало 50 мільйонів доларів, але насправді воно коштувало 53 мільйони” або щось подібне, ну ж бо, інвестори жертвували гроші, вони не переймалися деталями.

Але це було не зовсім правильно, чи не так? Неприбуткові організації можуть обманювати своїх донорів. Як правило, такий вид шахрайства не стосується фінансових результатів, а стосується місії неприбуткової організації та того, чи використовує вона гроші донорів для просування цієї місії. Якщо я попрошу вас пожертвувати на порятунок китів, і ви дасте мені 100 000 доларів, призначених на порятунок китів, а я витрачу їх на розкішні канікули для себе, у мене, ймовірно, будуть неприємності. Я припускаю, що якби Альтман не був відвертим щодо місії OpenAI або його прагнення до цієї місії, це дійсно могло б бути свого роду шахрайством щодо донорів OpenAI. Я маю на увазі інвесторів. Це могло бути шахрайством з пожертвами/цінними паперами донорів/інвесторів.

Ось одна з них!

Ілон Маск подав до суду на компанію OpenAI та її генерального директора Сема Альтмана, стверджуючи, що вони порушили місію стартапу зі створення штучного інтелекту, поставивши прибуток вище за користь для людства.

52-річний мільярдер, який був співзасновником OpenAI, але більше не бере в ній участі, заявив у позові, поданому в четвер у Сан-Франциско, що тісні стосунки компанії з корпорацією Microsoft підірвали її початкову місію – створення технології з відкритим вихідним кодом, яка не залежала б від корпоративних пріоритетів.

Маск, який також є генеральним директором Tesla Inc., був одним з найбільш відвертих про небезпеку ШІ і штучного загального інтелекту, або AGI. Випуск ChatGPT від OpenAI більше року тому популяризував досягнення в технології ШІ і викликав занепокоєння щодо ризиків, пов’язаних з гонкою за розробкою ШІ, де комп’ютери настільки ж розумні, як і середньостатистична людина.

“До цього дня на сайті OpenAI Inc. продовжує стверджувати, що її статут полягає в тому, щоб ШІ “приносив користь всьому людству”, – йдеться в судовому позові. “Однак в реальності OpenAI Inc. перетворилася на фактичну дочірню компанію з закритим вихідним кодом найбільшої технологічної компанії в світі: Microsoft”.

Ось скарга Маска. По суті, це скарга на порушення контракту: Маск стверджує, що він заснував OpenAI разом з Альтманом і Грегом Брокманом, що вони уклали угоду про те, як OpenAI буде працювати, і що Альтман і Брокман тепер повернулися до цієї угоди. У договорі йшлося про те, що OpenAI буде некомерційною організацією, що вона працюватиме на благо людства, що вона створюватиме штучний загальний інтелект і поширюватиме його безкоштовно, що вона розроблятиме програмне забезпечення з відкритим вихідним кодом (звідси й назва) і пояснюватиме громадськості, як працюють її моделі. Але зараз OpenAI працює з метою отримання прибутку, на користь Microsoft та інших інвесторів, а не людства. Вона створила штучний загальний інтелект і накопичує його для власного збагачення, замість того, щоб поділитися ним.

Однією з проблем цього позову є те, що контракт не зовсім існує. У позові Маска йдеться про те, що OpenAI порушив “Угоду про заснування” OpenAI, написану з великої літери, так, ніби він, Альтман і Брокман сіли і підписали папірець з написом “Угода про заснування” вгорі, де було викладено, як OpenAI буде працювати. Але вони цього не зробили. Зі скарги:

Ця Установча угода зафіксована, серед іншого, в установчих документах OpenAI, Inc. та в численних письмових повідомленнях між Позивачем та Відповідачами протягом багатьох років. …

А саме: Не існує документа під назвою “Засновницька угода”; незважаючи на те, що засновники стартапу є багатими, досвідченими, знають багато юристів, засновники ніколи не сідали і не підписували жодного договору. Натомість “Угоду про заснування” доводиться виводити з інших документів. Маск наводить два:

  1. Це електронний лист від Альтман до Маска від червня 2015 року з п’ятьма пронумерованими пунктами, в яких викладено план створення ШІ. “Місія полягала б у створенні першого загального ШІ і використанні його для розширення індивідуальних можливостей – тобто розподіленої версії майбутнього, яка здається найбезпечнішою”, – починається перший пункт. “Я думаю, що в ідеалі ми б почали з групи з 7-10 осіб, а потім планували б розширити її”, – йдеться в другому, – “у нас є чудова додаткова будівля в Маунтін-В’ю, яку вони можуть зайняти”. У третьому пункті пропонується створити правління з п’яти осіб, включаючи Маска і Альтман, і “ми б постійно обговорювали, яка робота повинна бути відкритою, а яка ні”. У четвертому пункті Олтман просить Маска “бути залученим якось на додаток до управління”; можливо, він міг би “приїжджати і говорити з ними про прогрес раз на місяць абощо”. Маск відповів на електронний лист: “Згоден на все”.
  2. Існує свідоцтво про реєстрацію OpenAI Inc. від грудня 2015 року – неприбуткової корпорації, яка в кінцевому підсумку контролює OpenAI. “Конкретною метою цієї корпорації є забезпечення фінансування досліджень, розробки та розповсюдження технологій, пов’язаних зі штучним інтелектом”, – йдеться в ньому. “Отримана в результаті технологія принесе користь суспільству, і корпорація буде прагнути відкривати вихідний код технології для суспільного блага, коли це буде можливо”. Корпорація не організована для приватної вигоди будь-якої особи. … Жодна частина чистого доходу або активів цієї корпорації ніколи не буде використана на користь будь-якого директора, посадової особи або члена корпорації або на користь будь-якої приватної особи”.

І Маск протягом багатьох років жертвував гроші неприбутковій організації OpenAI: У 2016 і 2017 роках він був найбільшим донором OpenAI, і “загалом пан Маск пожертвував понад 44 мільйони доларів на OpenAI, Inc. у період з 2016 по вересень 2020 року”. Він також робив інші речі для OpenAI: допомагав з підбором персоналу, оплачував оренду офісів, “регулярно відвідував” і “був присутній на важливих віхах компанії”. Зрештою, він залишив свою посаду в OpenAI у 2018 році.

Ви можете розвести руками і сказати: “У Маска був контракт з OpenAI, в якому він погодився пожертвувати гроші, а в обмін на це OpenAI погодилася назавжди залишитися некомерційною організацією з відкритим вихідним кодом”, але я не думаю, що це зовсім правильно, чи не так? Електронний лист від Альтмана був первинною пропозицією, а не детальним контрактом, що встановлює постійні умови їхньої угоди; він обіцяв не вічний відкритий вихідний код програмного забезпечення, а лише “вести постійну розмову про те, яка робота повинна бути з відкритим вихідним кодом, а яка не повинна”. Гроші не згадувалися.

І свідоцтво про реєстрацію не було контрактом між Маском і OpenAI: він не підписував свідоцтво, і він не був акціонером, тому що не було акцій (це неприбуткова організація). Фідуціарні обов’язки OpenAI не перед ним, як співзасновником, а перед людством. Доказів конкретної угоди між Маском і OpenAI досить мало.

І все ж, я співчуваю? OpenAI Inc., компанія вищого рівня, яка контролює бізнес OpenAI, дійсно зареєстрована як неприбуткова організація. Вона дійсно була створена, щоб працювати на благо людства, а не “для приватної вигоди будь-якої особи”. І вона дійсно отримувала пожертви від Маска і використовувала їх для створення своєї команди. Але врешті-решт вона створила комерційну дочірню компанію OpenAI Global LLC, яка зуміла залучити гроші від інвесторів на суму 86 мільярдів доларів, і ці інвестори (і працівники OpenAI, але не Олтман) очікують певного (обмеженого) фінансового прибутку від цих інвестицій. В OpenAI кажуть, що “ставало все більш очевидним, що пожертвування самі по собі не зможуть покрити вартість обчислювальних потужностей і талантів, необхідних для просування основних досліджень, що ставить під загрозу нашу місію”: Щоб виконати свою місію, вона мусила залучати гроші від інвесторів, обіцяючи їм прибуток. (Загальна сума пожертвувань склала близько 130,5 мільйона доларів, а інвестиційних зобов’язань від Microsoft – близько 13 мільярдів доларів).

Я впевнений, що у OpenAI були хороші юристи, коли вона створювала цю структуру, і я припускаю, що з технічної точки зору все це не порушує свідоцтво про реєстрацію або неприбуткову місію: Частина прибутку OpenAI Global LLC може йти співробітникам, венчурним інвесторам і Microsoft, хоча “жодна частина чистого доходу або активів” OpenAI Inc. не може. Проте це скоріше технічний момент, і тут Маск має рацію:

У 2017 році пан Брокман та інші запропонували перетворити OpenAI, Inc. з некомерційної на комерційну корпорацію. Після кількох тижнів спілкування пан Маск сказав пану Брокману, доктору Сацкеверу та пану Альтману: “Або займіться чимось самостійно, або продовжуйте розвивати OpenAI як неприбуткову організацію. Я більше не буду фінансувати OpenAI, поки ви не візьмете на себе тверде зобов’язання залишитися, або я просто буду дурнем, який, по суті, надає безкоштовне фінансування стартапу. Обговорення закінчено”.

Однак це було до того, як OpenAI запустила свою комерційну дочірню компанію. Коли це сталося, Маск неохоче змирився з цим:

11 березня 2019 року OpenAI, Inc. оголосила про створення комерційної дочірньої компанії: OpenAI, L.P.3 Потенційні інвестори були повідомлені про “важливе попередження” у верхній частині короткого проспекту про заснування, що комерційна організація “існує для просування місії OpenAI Inc. Обов’язок Генерального партнера перед цією місією та принципами, викладеними в Статуті OpenAI Inc. мають пріоритет над будь-якими зобов’язаннями щодо отримання прибутку”. Відповідно, інвесторам було прямо рекомендовано, що “було б розумно розглядати будь-які інвестиції в OpenAI LP в дусі пожертвування”.

Після цієї заяви пан Маск зв’язався з паном Альтманом і попросив його “чітко заявити, що я не маю жодного фінансового інтересу в комерційній частині OpenAI”. Тим не менш, пан Маск продовжив підтримувати OpenAI, Inc. як некомерційну організацію, пожертвувавши додатково 3,48 мільйона доларів у 2019 році.

Але на той момент він просто надавав безкоштовне фінансування стартапу, чи не так?

Отже, Маск стверджує, що у них була угода, і що OpenAI порушив її трьома способами. По-перше, він ліцензує GPT-4, свою найпотужнішу на сьогоднішній день модель, для Microsoft. У своїх публічних заявах, статуті та угоді з Microsoft OpenAI заявляє, що прагнутиме створити штучний загальний інтелект на благо людства, але може ліцензувати менші форми штучного інтелекту для Microsoft. Отже, питання полягає в наступному: чи є GPT-4 штучним загальним інтелектом? Маск каже, що так:

GPT-4 не просто здатен міркувати. Він міркує краще, ніж середньостатистична людина. Він набрав 90-й процентиль на Єдиному адвокатському іспиті для юристів. Він набрав 99-й процентиль на вербальному тесті GRE. Він навіть набрав 77% на іспиті Advanced Sommelier. …

GPT-4 – це алгоритм AGI, а отже, він явно виходить за рамки ексклюзивної ліцензії Microsoft на OpenAI від вересня 2020 року. …

Під керівництвом нової ради директорів компанія не просто розробляє, а фактично вдосконалює AGI, щоб максимізувати прибуток для Microsoft, а не для блага людства.

Схоже на перебільшення, хоча Маск цитує “власних дослідників Microsoft”, які стверджують, що GPT-4 “можна обґрунтовано розглядати як ранню (але все ще незавершену) версію системи штучного загального інтелекту (AGI)”.

По-друге, GPT-4 не має відкритого вихідного коду:

Внутрішній дизайн GPT-4 був і залишається повною таємницею, за винятком OpenAI і, за інформацією та переконанням, Microsoft. Не існує жодних наукових публікацій, що описують дизайн GPT-4. Замість цього існують лише прес-релізи, що вихваляються продуктивністю. За інформацією та переконанням, ця секретність в першу чергу зумовлена комерційними міркуваннями, а не безпекою. Хоча GPT-4 був розроблений OpenAI з використанням внесків Позивача та інших осіб, які мали на меті принести користь громадськості, зараз він де-факто є власним алгоритмом Microsoft, який вона інтегрувала в свій програмний пакет Office.

Знову ж таки, не схоже, що між OpenAI і Маском (або кимось іншим) є якась фактична угода, що обіцяє зробити все з відкритим вихідним кодом, але, звичайно, дратує, що вони побудували модель, частково використовуючи його гроші, а тепер не дають йому її побачити.

По-третє, Маск заперечує проти того, щоб OpenAI “дозволила Microsoft, публічній комерційній корпорації, що торгується на біржі, зайняти місце в Раді директорів OpenAI, Inc. і здійснювати надмірний вплив і контроль над некомерційною діяльністю OpenAI”. Microsoft є лише спостерігачем у раді директорів, а не членом з правом голосу, але, правду кажучи, її інтереси в OpenAI, ймовірно, не є особливо благодійними.

І Маск просить суд не про повернення своїх пожертвувань, а про наказ, який змусить OpenAI зробити те, що він нібито обіцяв зробити: Відкрити вихідний код GPT-4, зробити його вільно доступним для громадськості, припинити ексклюзивну ліцензію Microsoft і права ради директорів, і взагалі припинити комерційну діяльність OpenAI.

Очевидно, що тут треба бути досить цинічним. Маск керує комерційною компанією штучного інтелекту xAI, яка конкурує з OpenAI і залучає гроші, посилаючись на комерційний успіх OpenAI. Підрив комерційних перспектив цього конкурента, як це намагається зробити цей позов, може допомогти xAI. Він також керує іншими компаніями – Tesla Inc., Twitter/X – які використовують ШІ. Я припускаю, що компаніям Маска було б корисно ознайомитися з вихідним кодом OpenAI і “науковими публікаціями, що описують дизайн GPT-4”, тож чому б не подати в суд на OpenAI і не спробувати зробити цю інформацію публічною? Протести Маска щодо непристойної гонитви OpenAI за прибутком від ШІ для інвесторів виглядають трохи нещирими, оскільки він сам робить те саме.

Але у нього є якісь обґрунтовані претензії? OpenAI була заснована як некомерційна організація, зібрала купу грошей від нього як донора некомерційної організації, а тепер якимось чином стала надзвичайно цінним технологічним стартапом, що належить людям, які не є його власниками. Після того, як OpenAI звільнила Альтмана в листопаді минулого року, але до того, як повернула його назад, здавалося, що комерційні інвестори OpenAI – Microsoft, а також деякі венчурні капіталісти і співробітники, які володіли квазі-акціями, – втратили купу цінності. Я тоді написав:

Мені здається, що урок тут такий: “Не інвестуйте в неприбуткові організації, які оцінюються у 86 мільярдів доларів”. Що, на мою думку, ніколи не траплялося раніше? Наскільки я можу судити, ніхто в історії людства ніколи не купував акції некомерційної організації за ціною 86 мільярдів доларів? Тому що купівля акцій некомерційної організації за будь-якою оцінкою не є послідовною справою? Але OpenAI зробив це вперше, і, можливо, востаннє.

Але виявилося, що інвестори були в порядку, і правильний урок може бути протилежним: Не жертвуйте гроші неприбутковій організації, яка продає акції за ціною 86 мільярдів доларів!!! Ви можете скептично ставитися до оцінки неприбуткової організації в 86 мільярдів доларів, але, ймовірно, вам слід ще більше скептично ставитися до того, що бізнес з оцінкою в 86 мільярдів доларів є неприбутковою організацією.

HBS Ponzi

Ох, чувак, я шкодую, що не додумався до цього раніше:

Фінансова піраміда, якою керував випускник Гарвардського МВА, що вимагав гроші у випускників престижної американської бізнес-школи, була закрита нью-йоркським судом після того, як було стягнуто понад 2,9 млн доларів.

Генеральний прокурор Нью-Йорка Летиція Джеймс заявила в четвер, що її офіс домігся судового рішення про заморожування коштів, контрольованих Володимиром Артамоновим, після того, як дізнався про самогубство одного з його клієнтів, який втратив $100 000.

“Цей хлопець був моїм однокурсником у Гарвардській бізнес-школі” – такий потужний механізм перевірки: Ви можете покладатися на контрольну функцію HBS (“цей хлопець, мабуть, розумний”), репутаційний капітал, який вона надає (“цей хлопець, мабуть, не керує фінансовою пірамідою, тому що це було б марнуванням цінності його гарвардського MBA”), а також на слабкі зв’язки мережі випускників (“цей хлопець сидів переді мною на маркетингу, і здавалося, що з ним все в порядку”). З прес-релізу Джеймса:

Артамонов знайшов багатьох своїх інвесторів через мережу випускників HBS. Багато з його інвесторів не мали з ним близьких особистих стосунків і знали його лише як знайомого. …

Починаючи з 2021 року, Артамонов залучив щонайменше 2,9 мільйона доларів США від щонайменше 29 індивідуальних інвесторів і взяв участь у фінансовій піраміді, виплачуючи існуючим інвесторам кошти нових інвесторів. … Артамонов також використовував гроші своїх інвесторів для фінансування несанкціонованих особистих витрат на відпочинок, покупки та харчування.

Крім того, його подача була дикою:

Генеральна прокуратура стверджувала, що Артамонов заманював клієнтів, стверджуючи, що може дізнатися, які інвестиції Berkshire Hathaway зробить раніше за ринок, вивчаючи державні страхові документи. Артамонов вихвалявся перед своїми інвесторами, що це все одно, що “мати власну машину часу” і “отримувати завтрашню газету сьогодні”, і прогнозував прибутковість у 500-1000 відсотків. Насправді ж Артамонов використовував гроші своїх інвесторів для купівлі короткострокових опціонів, термін дії яких закінчувався через кілька днів після купівлі, і які, як виявилося, не мали жодного відношення до Berkshire Hathaway або його інвестиційної діяльності. Інвестуючи в ці короткострокові опціони, Артамонов втратив мільйони коштів інвесторів, але не повідомив про це своїм інвесторам. Щоб приховати збитки, Артамонов сказав інвесторам, що це був “спокійний” місяць, і що вони повинні просто почекати і побачити.

“Berkshire Hathaway зобов’язаний публічно розкривати інформацію про свої інвестиції в державні страхові компанії до того, як він розкриє їх у звітності SEC, і я прочитаю страхову звітність, щоб укладати поінформовані угоди” – це… неправильно, звичайно, але це має розмиті обриси чогось, що може бути правдою. А як щодо “… і ці усвідомлені угоди принесуть прогнозовану прибутковість у 1000%”? Чому в наші дні вчать дітей в Гарварді? Мені здається, що якби я представляв фінансову піраміду випускникам Гарвардської бізнес-школи, я б просував фальшиву прибутковість, наприклад, 35% з високим коефіцієнтом Шарпа. Знаєте: добре, але не очевидно, що це фальшивка. Але, вочевидь, “у мене є машина часу, яка дає мені гарантовані 1000% прибутку” працює і для випускників Гарвардського МВА.

Автор: Метт Левін – колумніст Bloomberg Opinion. Колишній інвестиційний банкір у Goldman Sachs, він був юристом зі злиття та поглинання у Wachtell, Lipton, Rosen & Katz, клерком в Апеляційному суді США 3-го округу та редактором Dealbreaker.

Джерело:Bloomberg, ЄС

МК

Поделиться:

Опубліковано

у

Теги: