Государственная политика и институты должны быть разработаны таким образом, чтобы инновации улучшали мир; но в настоящее время многие технологии развертываются в вакууме, а достижения в области искусственного интеллекта вызывают один тревожный сигнал за другим. Эпоха легкого саморегулирования должна закончиться.
ЛОНДОН. В 2022 году мир технологий породил новое изобилие новостей на первых полосах. В октябре Илон Маск купил Twitter — одну из основных публичных коммуникационных платформ, используемых журналистами, учеными, предприятиями и политиками — и приступил к увольнению большинства из своего персонала по модерации контента, что указывает на то, что вместо этого компания будет полагаться на искусственный интеллект.
Затем, в ноябре, группа сотрудников Meta сообщила, что они разработали программу искусственного интеллекта, способную победить большинство людей в стратегической игре Diplomacy. В Шэньчжэне, Китай, официальные лица используют «цифровых двойников» тысяч мобильных устройств, подключенных к 5G, для мониторинга и управления потоками людей, трафиком и потреблением энергии в режиме реального времени. И с последней итерацией модели языкового прогнозирования ChatGPT многие объявляют конец эссе для колледжа.
Короче говоря, это был год, когда уже серьезные опасения по поводу того, как разрабатываются и используются технологии, переросли в еще более насущные опасения. Кто здесь главный? Кто должен быть главным? Государственная политика и институты должны быть разработаны таким образом, чтобы инновации улучшали мир, однако многие технологии в настоящее время внедряются в вакууме. Нам нужны инклюзивные структуры управления, ориентированные на миссию, которые сосредоточены вокруг истинного общего блага. Способные правительства могут организовать эту технологическую революцию в интересах общества.
Рассмотрим ИИ, который Оксфордский словарь английского языка определяет в широком смысле как «теорию и разработку компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие как визуальное восприятие, распознавание речи, принятие решений и перевод между языками». ИИ может сделать нашу жизнь лучше во многих отношениях. Это может улучшить производство продуктов питания и управление ими, сделав сельское хозяйство более эффективным и повысив безопасность пищевых продуктов. Это может помочь нам повысить устойчивость к стихийным бедствиям, спроектировать энергоэффективные здания, улучшить накопление энергии и оптимизировать использование возобновляемых источников энергии. И это может повысить точность медицинской диагностики в сочетании с собственными оценками врачей.
Эти приложения сделают нашу жизнь лучше во многих отношениях. Но без эффективных правил ИИ, скорее всего, создаст новое неравенство и усугубит уже существовавшее. Не нужно далеко ходить, чтобы найти примеры систем с искусственным интеллектом, воспроизводящих несправедливые социальные предубеждения. В одном недавнем эксперименте роботы, работающие на алгоритме машинного обучения, стали откровенно расистскими и сексистскими. Без лучшего надзора алгоритмы, которые должны помогать государственному сектору управлять социальными пособиями, могут дискриминировать семьи, которые действительно в этом нуждаются. Не менее тревожно и то, что государственные органы в некоторых странах уже используют технологию распознавания лиц на базе искусственного интеллекта для отслеживания политического инакомыслия и режима массовой слежки за гражданами.
Концентрация рынка также является серьезной проблемой. В разработке ИИ и управлении базовыми данными доминирует всего несколько влиятельных игроков всего в нескольких регионах. В период с 2013 по 2021 год на Китай и США приходилось 80% частных инвестиций в ИИ во всем мире. Сейчас существует огромный дисбаланс сил между частными владельцами этих технологий и остальными из нас.
Но ИИ также развивается за счет огромных государственных инвестиций. Такое финансирование должно осуществляться для общего блага, а не в интересах немногих. Нам нужна цифровая архитектура, которая более справедливо распределяет вознаграждение за коллективное создание ценности. Эпоха легкого саморегулирования должна закончиться. Когда мы позволяем господствовать рыночному фундаментализму, государство и налогоплательщики обречены прийти на помощь постфактум (как мы видели в контексте финансового кризиса 2008 года и пандемии COVID-19), обычно с большими финансовыми затратами и с большими затратами. длительное социальное шрамирование. Хуже того, с ИИ мы даже не знаем, будет ли достаточно постфактум вмешательства. Как недавно отметил The Economist, сами разработчики ИИ часто удивляются мощи своих творений.
К счастью, мы уже знаем, как предотвратить еще один кризис, вызванный политикой невмешательства. Нам нужна «этичная по замыслу» миссия ИИ, подкрепленная разумным регулированием и дееспособными правительствами, работающими над формированием этой технологической революции в общих интересах, а не только в интересах акционеров. Имея эти опоры, частный сектор может и будет присоединяться к более широким усилиям, направленным на то, чтобы сделать технологии более безопасными и справедливыми.
Эффективный общественный контроль должен гарантировать, что цифровизация и ИИ создают возможности для создания общественной ценности. Этот принцип является неотъемлемой частью Рекомендации ЮНЕСКО по этике ИИ, нормативной базы, которая была принята 193 государствами-членами в ноябре 2021 года. прав человека, а Европейский союз разрабатывает целостную основу для управления ИИ.
Тем не менее, мы также должны поддерживать использование ИИ в государственном секторе на прочной этической основе. Поскольку ИИ все больше и больше поддерживает процесс принятия решений, важно обеспечить, чтобы системы ИИ не использовались для подрыва демократии или нарушения прав человека.
Мы также должны решить проблему нехватки инвестиций в собственный инновационный и управленческий потенциал государственного сектора. COVID-19 подчеркнул необходимость в более динамичных возможностях государственного сектора. Например, без надежных условий, регулирующих государственно-частное партнерство, компании могут легко захватить повестку дня.
Проблема, однако, заключается в том, что аутсорсинг государственных контрактов все чаще становится препятствием для наращивания потенциала государственного сектора. Правительства должны иметь возможность разрабатывать ИИ таким образом, чтобы они не зависели от частного сектора в отношении чувствительных систем, чтобы они могли сохранять контроль над важными продуктами и обеспечивать соблюдение этических стандартов. Кроме того, они должны быть в состоянии поддерживать обмен информацией и совместимые протоколы и показатели между департаментами и министерствами. Все это потребует государственных инвестиций в возможности правительства в соответствии с подходом, ориентированным на миссию.
Учитывая, что в настоящее время так много знаний и опыта сосредоточено в частном секторе, синергия между государственным и частным секторами неизбежна и желательна. Ориентация на миссию заключается в выборе желающих путем совместного инвестирования с партнерами, которые признают потенциал миссий под руководством правительства. Ключевым моментом является предоставление государству возможности управлять развертыванием и использованием систем ИИ, а не постоянно играть в догонялки. Чтобы разделить риски и выгоды от государственных инвестиций, политики могут устанавливать условия для государственного финансирования. Они также могут и должны требовать от больших технологий большей открытости и прозрачности.
На карту поставлено будущее наших обществ. Мы должны не только устранять проблемы и контролировать негативные риски ИИ, но и более широко определять направление цифровой трансформации и технологических инноваций. В начале нового года самое время начать закладывать основу для безграничных инноваций в интересах всех.
Авторы: Габриэла Рамос — заместитель Генерального директора ЮНЕСКО по социальным и гуманитарным наукам; Мариана Маццукато – профессор экономики инноваций и общественной ценности Университетского колледжа Лондона, является директором-основателем Института инноваций и общественных целей UCL , председателем Совета Всемирной организации здравоохранения по экономике здоровья для всех.
Источник: PS, США
