Основатель Ethereum Бутерин предлагает стратегию защиты от сценария гибели ИИ

Posted on by Ray Dalio

Самые главные криптоновости в Телеграм-канале CryptoMoon, присоединяйтесь!👇

Cryptomoon Telegram

Как криптоинвестор, я был очарован дальновидным взглядом Виталика Бутерина на следующий этап «децентрализованного и демократического оборонительного развития». Он поднял тревогу по поводу потенциальных опасностей, исходящих от сверхразумного ИИ, подчеркнув, что, если мы не найдем хрупкий баланс между ускорением защитных технологий, продвижением открытости и созданием надежных правовых гарантий, эти продвинутые ИИ могут представлять экзистенциальную угрозу человечеству.

Основатель Ethereum Wars Of AI Doom

В своем недавнем сообщении в блоге он отмечает, что не факт, что все пойдет хорошо без вмешательства. Он подчеркивает актуальность этого вопроса, учитывая, что достижения в области искусственного сверхинтеллекта могут произойти в течение пяти лет. Если мы хотим избежать катастрофы или необратимой катастрофы, мы не можем просто ускорить наступление добра; мы также должны сдерживать негатив путем введения строгих правил, даже если эти меры могут вызвать недовольство влиятельных фигур.

Идея Виталика Бутерина подчеркивает необходимость установления баланса между быстрым технологическим прогрессом и готовностью. Он призывает нас создавать технологии, которые обеспечат нашу безопасность, не предполагая, что «хорошие парни (или полезные ИИ)» всегда контролируют ситуацию. Он предостерегает от необдуманной конкуренции в области разработки искусственного интеллекта или биотехнологий, поскольку она с такой же вероятностью может вместо этого наделить властью милитаристские силы или вредных людей.

В интригующей иллюстрации он представляет не столь отдаленное событие, когда «болезнь, как показывают симуляции, могла быть в пять раз более серьезной, чем Covid двадцать лет назад, сегодня незначительна» из-за массовых совместных мер защиты, таких как открытый исходный код. отслеживание качества воздуха и быстро развивающиеся проекты вакцин. Он отмечает, что те, кто годами разрабатывает эти технологии, становятся более осведомленными о работе друг друга, поясняя далее, что «те же альтруистические принципы, лежащие в основе Ethereum и криптовалюты, могут быть распространены на более широкий глобальный контекст.

Ядро оборонной стратегии соучредителя Ethereum вращается вокруг концепции, которую он называет «d/acc», которая включает в себя акцент на инструментах, которые способствуют индивидуальной власти над правительствами или корпорациями при определении доступа к основным ресурсам. Он утверждает, что создание широкой инклюзивной коалиции имеет решающее значение, если мы стремимся разработать более многообещающую альтернативу доминированию, медленному упадку и отчаянию. Он подчеркивает децентрализованный характер своего подхода как средства предотвращения длительного состояния конфликта (или «войны всех против всех») и избежать исхода, в котором будут иметь власть только самые сильные.

Он подчеркивает риски, связанные с централизованными организациями, контролирующими искусственный интеллект. «Например, — отмечает он, — исследования по повышению активности вируса (исследования по увеличению функциональности), финансируемые правительствами многих крупных мировых компаний, потенциально могли спровоцировать пандемию Covid-19». Он подчеркивает, что чрезмерный централизованный контроль часто приводит к катастрофическим последствиям вместо того, чтобы обеспечить надежную защиту.

Оборонная стратегия

В своем посте он в основном сосредоточивает внимание на двух концепциях, связанных с законодательством и регулированием, для устранения возможных опасностей, создаваемых сложным ИИ. Одной из концепций является ответственность: «Наложение ответственности на пользователей дает значительный стимул использовать ИИ там, где я считаю это целесообразным», — объясняет он, предполагая, что лица, которые непосредственно используют системы ИИ, должны нести ответственность за любой ущерб, причиненный этими системами.

Как аналитик, я осознаю сложности, связанные с управлением моделями с открытым исходным кодом или мощными военными приложениями, но утверждаю, что ответственность остается универсальным методом, позволяющим избежать переоснащения. Более того, я выступаю за важность привлечения к ответственности как развертывающих, так и разработчиков, при условии, что это не будет сдерживать творческий прогресс неоправданными юридическими ограничениями.

На мой взгляд, даже мелкие пользователи не могут нести ответственность, но типичный потребитель разработчика ИИ должен нести ответственность. Это может послужить естественной силой, которая подтолкнет потенциально вредные исследования ИИ к более безопасным направлениям и будет способствовать большей прозрачности управления.

Его второй метод регулирования является более амбициозным. Вместо того, чтобы полагаться на правила ответственности, он предлагает смелую стратегию: глобальный механизм «паузы» для крупномасштабного промышленного оборудования. В этом гипотетическом сценарии мощные вычислительные устройства, используемые для разработки или эксплуатации почти сверхразумных моделей искусственного интеллекта, потребуют еженедельных подписей одобрения от различных международных организаций. Эта идея предполагает использование в этих машинах специализированных чипов, служащих точками управления.

Он объясняет, что это действие, похоже, охватывает все необходимые аспекты получения преимуществ и предотвращения опасностей, поскольку сокращение или замедление глобальной вычислительной мощности на 90-99% на период от одного до двух лет может предоставить человечеству время, необходимое для реагирования, если неконтролируемая угроза ИИ должна была возрасти.

Он отмечает, что полную остановку оборудования будет сложно обойти, поскольку «невозможно дать разрешение одному устройству продолжать работу, не разрешив работу всем другим устройствам». Однако он также признает огромную проблему, связанную с убеждением мирового сообщества реализовать такую ​​стратегию, заявляя, что это потребует «преданных усилий в сотрудничестве друг с другом» вместо того, чтобы полагаться на одну могущественную организацию, которая будет управлять всеми остальными.

Аналогичным образом Бутерин связывает свои мысли о рисках ИИ с основными принципами Ethereum, программированием с открытым исходным кодом и децентрализованным администрированием. Он подчеркивает, что те же ценности, которые двигали Эфириум и криптовалюту, могут быть распространены на глобальную арену. В частности, он упоминает, что инструменты для сотрудничества, такие как рынки прогнозов, которые процветают на Ethereum и других сетях блокчейнов, потенциально могут функционировать как надежная защита от дезинформации и массовой истерии при интеграции с технологиями конфиденциальности, такими как ZK-SNARKs.

Он также рассматривает «формальную проверку, изолированную программную среду, защищенные аппаратные компоненты и другие технологии» как важную основу для создания прочного барьера кибербезопасности, способного помешать ИИ взять под контроль системы. Он предупреждает, что такой ИИ может проникнуть в наши компьютеры, спровоцировать глобальную цифровую пандемию или посеять недоверие среди людей — это потенциальные сценарии захвата власти ИИ. Он подчеркивает важность биобезопасности, кибербезопасности и информационной безопасности как важнейших компонентов защитной структуры, в создание которой сообщество Ethereum может внести свой вклад.

Он также исследует вопрос о том, как эти автономные, ориентированные на безопасность инициативы могут получить финансирование, укрепляя свою веру в «надежное финансирование децентрализованных общественных благ» как средство предотвращения устаревания вакцин с открытым исходным кодом, биотехнологий и инструментов шифрования из-за отсутствие прибыли. Он отмечает, что такие механизмы, как квадратичное финансирование, были разработаны специально для финансирования государственных активов наиболее беспристрастным и децентрализованным способом, хотя он признает, что старые системы часто превращаются в конкурсы популярности, в которых отдаются предпочтение более привлекательным проектам.

Его новейшая стратегия, называемая «глубоким финансированием», направлена ​​на то, чтобы модели искусственного интеллекта собирали мнения людей о том, какие проекты должны получить финансовую поддержку. Это достигается с помощью «графика зависимостей», чтобы участники могли понять, как каждый проект дополняет работу других. Он подчеркивает, что, используя открытую конкуренцию между несколькими системами искусственного интеллекта, мы минимизируем предвзятость в каком-либо конкретном процессе обучения и администрирования. Он в восторге от потенциала криптовалюты в мобилизации сообществ вокруг таких инновационных начинаний.

В статье автора последовательно подчеркивается, что опора исключительно на оборонительные или централизованные подходы может привести к катастрофе. Он утверждает, что проблема с усилиями, направленными на замедление технологического прогресса или экономического спада, заключается в двух ключевых аспектах: во-первых, попытка полностью остановить исследования повлечет за собой огромные издержки для человечества, а во-вторых, это не удержит злоумышленников от продолжения своей деятельности.

Он также предостерегает от тактики, чрезмерно полагающейся на «ядро», используя первоначальное отрицание Всемирной организацией здравоохранения передачи Covid воздушно-капельным путем как иллюстрацию того, как крупные организации могут совершать серьезные ошибки. Он твердо уверен, что децентрализованный метод будет более эффективным в устранении рисков, исходящих от самого центра.

В заключение создатель Эфириума призывает сторонников признать, что технология может быть как опасной, так и освобождающей, в зависимости от ее использования. «Мы, люди», подчеркивает он, «являемся яркой звездой», утверждая, что глобальное сотрудничество, сотрудничество с открытым исходным кодом и активный подход к прогрессу необходимы для навигации в столетии, отмеченном такими потенциальными достижениями, как сверхразумный искусственный интеллект, новаторские вакцины, и инновационные технологии безопасности.

Проще говоря, соучредитель Ethereum утверждает, что доступ к инструментам дает нам возможность изменять как себя, так и свое окружение, а понятие «защита» здесь относится к тому, чтобы делать это без посягательства на свободы других. Он далее подчеркивает, что построение процветающего 21-го века, который гарантирует человеческое выживание, свободу и автономию, когда мы отправляемся в космос, является трудной задачей. Однако он выражает уверенность в нашей способности добиться успеха.

На момент публикации Ethereum торговался на уровне 3639 долларов.

Смотрите также

2025-01-06 16:42