Появление новых мощных инструментов, таких как ChatGPT, представляет собой крупный прорыв в области искусственного интеллекта, подчеркивая необходимость вмешательства регулирующих органов. Чтобы защитить общественные интересы, политики должны предотвратить господство на этом зарождающемся рынке горстки гигантских частных компаний.
КЕМБРИДЖ. ChatGPT, новый чат-бот с искусственным интеллектом, разработанный исследовательской лабораторией OpenAI в Сан-Франциско, покорил мир. Уже провозглашенный вехой в эволюции так называемых больших языковых моделей (LLM), самый известный в мире генеративный ИИ поднимает важные вопросы о том, кто контролирует этот зарождающийся рынок и служат ли эти мощные технологии общественным интересам.
Выпуск OpenAI ChatGPT в ноябре прошлого года быстро стал мировой сенсацией, привлекая миллионы пользователей и якобы убивая студенческие сочинения. Он может отвечать на вопросы на разговорном английском (наряду с некоторыми другими языками) и выполнять другие задачи, такие как написание компьютерного кода.
Ответы, которые дает ChatGPT, беглые и убедительные. Однако, несмотря на свою способность к языку, он иногда может делать ошибки или генерировать фактическую ложь — явление, известное среди исследователей ИИ как «галлюцинация». Страх перед сфабрикованными ссылками недавно привел к тому, что несколько научных журналов запретили или ограничили использование ChatGPT и подобных инструментов в научных статьях. Но хотя у чат-бота могут возникнуть проблемы с проверкой фактов, он, по-видимому, менее подвержен ошибкам, когда дело доходит до программирования, и может легко писать эффективный и элегантный код.
Несмотря на все свои недостатки, ChatGPT, очевидно, представляет собой крупный технологический прорыв, поэтому Microsoft недавно объявила о «многолетних многомиллиардных инвестициях» в OpenAI, которые, как сообщается, составляют 10 миллиардов долларов сверх 1 миллиарда долларов, которые она уже выделила компании. Первоначально некоммерческая организация OpenAI теперь является коммерческой корпорацией, стоимость которой оценивается в 29 миллиардов долларов. Несмотря на то, что компания обязалась ограничить свою прибыль, ее свободная структура ограничивает доходность инвесторов до 10 000%.
ChatGPT работает на базе GPT-3, мощного LLM, обученного на большом количестве текста, чтобы генерировать естественно звучащие, похожие на человеческие ответы. Хотя в настоящее время это самый известный в мире генеративный ИИ, другие крупные технологические компании, такие как Google и Meta, разрабатывают свои собственные версии . Хотя до сих пор неясно, как эти чат-боты будут монетизироваться, по сообщениям, скоро появится платная версия ChatGPT, а к 2024 году OpenAI прогнозирует доход в 1 миллиард долларов.
Безусловно, злоумышленники могут использовать эти инструменты для различных незаконных схем, таких как сложные онлайн-мошенничества или создание вредоносных программ. Но перспективы применения технологии, от кодирования до открытия белков, дают повод для оптимизма. Например, по оценкам McKinsey, 50-60% компаний уже внедрили в свою деятельность инструменты на основе ИИ, такие как чат-боты. Расширяя использование LLM, компании могут повысить эффективность и производительность.
Но огромные, чрезвычайно дорогостоящие и быстрорастущие вычислительные мощности, необходимые для обучения и обслуживания генеративных инструментов ИИ, представляют собой существенный барьер для входа, который может привести к концентрации рынка. Потенциал монополизации вместе с риском злоупотреблений подчеркивает настоятельную необходимость для политиков учитывать последствия этого технологического прорыва.
К счастью, органы по вопросам конкуренции в Соединенных Штатах и других странах, похоже, знают об этих рисках. Регулятор связи Соединенного Королевства Ofcom в конце прошлого года начал расследование рынка облачных вычислений , на который опираются все крупные модели ИИ, в то время как Федеральная торговая комиссия США в настоящее время расследует деятельность Amazon Web Services (AWS), которая вместе с Google и Microsoft Azure доминируют на рынке. Эти исследования могут иметь далеко идущие последствия для сервисов на основе ИИ, которые полагаются на огромную экономию за счет масштаба.
Но неясно, что должны делать политики. С одной стороны, если регулирующие органы ничего не предпримут, на рынке генеративного ИИ могут доминировать одна или две компании, как и на любом цифровом рынке до него. С другой стороны, появление LLM с открытым исходным кодом, таких как инструмент преобразования текста в изображение Stable Diffusion, может гарантировать, что рынок останется конкурентоспособным без дальнейшего вмешательства.
Однако даже если коммерческие модели станут доминирующими, конкуренты с открытым исходным кодом могут сократить свою долю рынка, как это сделал Mozilla Firefox с браузером Google Chrome и Android с мобильной операционной системой Apple iOS. С другой стороны, гиганты облачных вычислений, такие как AWS и Microsoft Azure, также могут использовать продукты генеративного ИИ для увеличения своей рыночной власти.
Как обсуждалось на недавней встрече Всемирного экономического форума в Давосе, генеративный ИИ слишком мощный и потенциально способный к преобразованиям, чтобы отдать свою судьбу в руки нескольких доминирующих компаний. Но хотя существует явная потребность в регулятивном вмешательстве, ускорение темпов технического прогресса ставит правительства в крайне невыгодное положение.
Чтобы гарантировать, что общественные интересы представлены на технологическом фронте, миру нужна общественная альтернатива коммерческим LLM. Демократические правительства могут создать многосторонний орган, который разработает средства для предотвращения фейков, троллинга и других онлайн-вредностей, таких как ЦЕРН для генеративного ИИ. В качестве альтернативы они могли бы создать финансируемого государством конкурента с другой бизнес-моделью и стимулами для развития конкуренции между двумя моделями.
Какой бы путь ни выбрали глобальные политики, стоять на месте — это не вариант. Совершенно очевидно, что предоставление рынку возможности решать, как и кем используются эти мощные технологии, является очень рискованным предложением.
Автор: Дайан Койл – профессор государственной политики Кембриджского университета, недавно написала книгу «Винтики и монстры: что такое экономика и какой она должна быть» (Princeton University Press, 2021).
Источник: PS, США