Год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожное отношение к определённым вопросам, особенно к рискам разрушения, которые может принести суперумный ИИ, или рискам, связанным с тем, что человечество может необратимо утратить власть.
Основная идея статьи заключается в продвижении концепции децентрализованного, демократического и дифференцированного защитного ускорения. Это означает ускорение технологического развития, но с выборочным акцентом на тех технологиях, которые могут усилить нашу защиту, а не причинить вред, и стремление к децентрализации власти, чтобы избежать ситуации, когда небольшая элита принимает решения от имени всех. Защитная модель должна быть аналогична демократической Швейцарии и исторически почти анархистскому региону Зомия, а не феодальной системе лордов и замков средневековья.
За последний год эти идеи претерпели значительное развитие и зрелость. Я поделился этими взглядами на платформе "80,000 часов", получив множество отзывов, большинство из которых было положительными, хотя, конечно, были и некоторые критические замечания.
Эта работа продолжает развиваться и достигла значительных результатов: достигнут прогресс в области проверяемых открытых вакцин; растет осознание ценности здорового внутреннего воздуха; "сообщественные заметки" продолжают играть позитивную роль; предсказательные рынки стали прорывом в качестве инструмента информации; ZK-SNARKs нашли применение в области государственной идентификации и социальных медиа (и обеспечили безопасность кошельков Ethereum через абстракцию аккаунтов); открытые инструменты визуализации были применены в медицине и в области интерфейсов «мозг-компьютер» и др.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытий d/acc" (d/aDDy). Мероприятие собрало спикеров из различных столпов d/acc (биология, физика, сеть, информационная защита и нейротехнологии) и длилось целый день. Люди, долгое время занимающиеся этими технологиями, лучше узнали работы друг друга, а внешние участники стали более осведомлены о более широкой цели: ценности, продвигающие развитие Ethereum и криптовалют, могут быть расширены на более широкий мир.
Содержание и объем d/acc
Представьте себе сцену 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди часто чрезмерно реагируют на каждую мутацию животного заболевания, в то время как в большинстве случаев эти мутации в конечном итоге не приводят к реальной угрозе. Две предыдущие потенциальные эпидемии были обнаружены на ранней стадии и успешно сдержаны благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях. Однако на этот раз ситуация иная: прогнозные рынки показывают, что вероятность появления как минимум 10,000 случаев составляет 60%, и это вызывает у вас беспокойство.
Вчера была определена генетическая последовательность данного вируса. Обновление программного обеспечения для вашего портативного анализатора воздуха было выпущено незамедлительно, благодаря этому обновлению анализатор сможет обнаруживать новый вирус (как при одном вдохе, так и после 15 минут воздействия на воздух в помещении). Также ожидается, что в течение нескольких недель будут опубликованы открытые инструкции и коды для генерации вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру. В настоящее время большинство людей не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за ваших иммунных проблем вы действуете более осторожно: ваш открытый локальный личный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, и с помощью ZK-SNARKs и технологий дифференциальной конфиденциальности риск утечки данных или их неправомерного использования сведен к минимуму (если вы хотите внести данные в эти наборы данных, есть и другие личные помощники ИИ, которые проверят, действительно ли эти криптографические инструменты эффективны).
Два месяца спустя пандемия чудесным образом исчезла: кажется, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда прибор для тестирования воздуха подавал сигнал тревоги и показывал наличие вируса, а те, у кого положительный результат теста, оставались дома на самоизоляции. Именно эта мера позволила еще больше снизить коэффициент передачи, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до менее чем 1. Моделирование показало, что заболевание, которое могло быть в пять раз серьезнее COVID-19 двадцатилетней давности, на сегодняшний день не оказало серьезного воздействия.
Акция d/acc достигла крайне позитивного результата, а именно, концепция d/acc успешно объединила людей из различных областей и действительно пробудила у них глубокий интерес к работе друг друга.
Провести мероприятие с "разнообразием" не так уж и сложно, но заставить людей из различных слоев общества и с разными интересами действительно установить тесные связи – задача не из легких. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, которые я считал скучными. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали культурным компьютерным ленивцем, но я не смог на более глубоком уровне сопоставить себя с содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о различных работах в разных областях.
Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам обязательно нужно начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и этого достаточно, чтобы подчеркнуть ценность этой концепции.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса атак и защиты в сторону защиты, и при этом не полагающихся на передачу большей власти центральным властям в процессе реализации. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура обычно может процветать, когда защита легко реализуется, но сталкивается с серьезными трудностями, когда защита оказывается под угрозой — в таких случаях более вероятным результатом становится хаотический период взаимной конфронтации всех, в конечном итоге приводящий к состоянию баланса, контролируемому сильнейшими.
Один из способов понять важное значение одновременной реализации децентрализации, защитности и ускорения — это сопоставить его с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акцелерационистом (e/acc), но при этом стремиться к децентрализации. Есть много людей, которые следуют этому пути, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "наступление". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к "защитным" аспектам явно недостаточно.
На мой взгляд, этот способ может помочь избежать риска диктатуры определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, способствующей нападению, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитник и занять доминирующее положение на постоянной основе. Что касается ИИ, он также не может надлежащим образом решить риск ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Принятие централизованного контроля для достижения целей безопасности всегда привлекало определенную часть людей, и читатели, несомненно, знакомы с множеством подобных случаев и связанными с ними недостатками. В последнее время некоторые обеспокоены тем, что крайняя форма централизованного контроля может быть единственным способом справиться с будущими экстремальными технологиями: например, представить себе гипотетическую ситуацию, в которой "каждый носит 'метку свободы' — это следующий этап в развитии современных более ограниченных носимых устройств для мониторинга, подобных браслетам, которые используются в нескольких странах в качестве альтернативы тюремному заключению... закодированные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет свои пределы. Одна из обычно игнорируемых, но все еще вредных форм относительно мягкого централизованного контроля проявляется в области биотехнологий (например, продовольствие, вакцины) в виде сопротивления общественного контроля, а также позволяет такой практике оставаться без вызова закрытым стандартам.
Риски, связанные с таким подходом, очевидны: само централизация часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признать, что коронавирус передается воздушным путем, а обязательное социальное дистанцирование и принудительная вакцинация вызвали политические последствия, которые могут длиться десятилетиями. Подобная ситуация с высокой вероятностью может повториться в любом рискованном контексте, связанном с ИИ или другими рисковыми технологиями. В отличие от этого, децентрализованный подход более эффективно справится с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом, технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь непредсказуемые последствия. Во-вторых, в мире, который не является тоталитарным, стагнация является нестабильной: те, кто "обманывает" больше всего и способен найти кажущийся разумным способ продолжать развитие, выйдут на первое место. Стратегия замедления может в определенных ситуациях оказать определенное влияние: например, европейская еда более полезна, чем американская, что является примером; успешные достижения в области ядерного нераспространения также подтверждают это. Однако эти стратегии не могут действовать вечно.
Через d/acc мы стремимся достичь следующих целей:
В условиях растущей племенной тенденции в современном мире придерживайтесь принципов, а не просто слепо создавайте различные вещи — наоборот, мы ожидаем построить определенные вещи, чтобы сделать мир более безопасным и лучше.
Осознание экспоненциального технологического прогресса означает, что мир станет крайне необычным, и общий "след" человечества во Вселенной будет неизменно увеличиваться. Наша способность защищать уязвимых животных, растения и людей от вреда должна постоянно улучшаться, и единственный выход - это идти вперед.
Создайте технологии, которые действительно защищают нас, а не основываются на предположении "хороших людей (или хорошего ИИ), контролирующих всё". Мы достигаем этой цели, создавая инструменты, которые естественно более эффективны для построения и защиты, чем для разрушения.
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы построить мир, который сохраняет человеческую агентность, достигая негативной свободы, то есть избегая активного вмешательства со стороны других (будь то обычные граждане, правительства или суперумные роботы) в нашу способность формировать свою судьбу, одновременно достигая позитивной свободы, то есть обеспечивая наличие знаний и ресурсов для реализации этой способности. Это перек呼应вает традицию классического либерализма, которая продолжается на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также можно добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распространенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергетическое развитие выживания и процветания
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Виталик Бутерин оглядывается на юбилей d/acc: развитие и будущее идеи ускоренной децентрализации
d/acc: Обзор через год
Автор: Виталик Бутерин
Год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и их огромных преимуществ, а также выразил осторожное отношение к определённым вопросам, особенно к рискам разрушения, которые может принести суперумный ИИ, или рискам, связанным с тем, что человечество может необратимо утратить власть.
Основная идея статьи заключается в продвижении концепции децентрализованного, демократического и дифференцированного защитного ускорения. Это означает ускорение технологического развития, но с выборочным акцентом на тех технологиях, которые могут усилить нашу защиту, а не причинить вред, и стремление к децентрализации власти, чтобы избежать ситуации, когда небольшая элита принимает решения от имени всех. Защитная модель должна быть аналогична демократической Швейцарии и исторически почти анархистскому региону Зомия, а не феодальной системе лордов и замков средневековья.
За последний год эти идеи претерпели значительное развитие и зрелость. Я поделился этими взглядами на платформе "80,000 часов", получив множество отзывов, большинство из которых было положительными, хотя, конечно, были и некоторые критические замечания.
Эта работа продолжает развиваться и достигла значительных результатов: достигнут прогресс в области проверяемых открытых вакцин; растет осознание ценности здорового внутреннего воздуха; "сообщественные заметки" продолжают играть позитивную роль; предсказательные рынки стали прорывом в качестве инструмента информации; ZK-SNARKs нашли применение в области государственной идентификации и социальных медиа (и обеспечили безопасность кошельков Ethereum через абстракцию аккаунтов); открытые инструменты визуализации были применены в медицине и в области интерфейсов «мозг-компьютер» и др.
Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День открытий d/acc" (d/aDDy). Мероприятие собрало спикеров из различных столпов d/acc (биология, физика, сеть, информационная защита и нейротехнологии) и длилось целый день. Люди, долгое время занимающиеся этими технологиями, лучше узнали работы друг друга, а внешние участники стали более осведомлены о более широкой цели: ценности, продвигающие развитие Ethereum и криптовалют, могут быть расширены на более широкий мир.
Содержание и объем d/acc
Представьте себе сцену 2042 года. Вы видите в средствах массовой информации сообщение о том, что в вашем городе может вспыхнуть новая эпидемия. Вы уже привыкли к таким новостям: люди часто чрезмерно реагируют на каждую мутацию животного заболевания, в то время как в большинстве случаев эти мутации в конечном итоге не приводят к реальной угрозе. Две предыдущие потенциальные эпидемии были обнаружены на ранней стадии и успешно сдержаны благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях. Однако на этот раз ситуация иная: прогнозные рынки показывают, что вероятность появления как минимум 10,000 случаев составляет 60%, и это вызывает у вас беспокойство.
Вчера была определена генетическая последовательность данного вируса. Обновление программного обеспечения для вашего портативного анализатора воздуха было выпущено незамедлительно, благодаря этому обновлению анализатор сможет обнаруживать новый вирус (как при одном вдохе, так и после 15 минут воздействия на воздух в помещении). Также ожидается, что в течение нескольких недель будут опубликованы открытые инструкции и коды для генерации вакцины с использованием оборудования, доступного в современных медицинских учреждениях по всему миру. В настоящее время большинство людей не предприняли никаких действий и в основном полагаются на широко используемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.
Из-за ваших иммунных проблем вы действуете более осторожно: ваш открытый локальный личный помощник ИИ, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также будет учитывать данные о качестве воздуха в реальном времени и данные о углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, и с помощью ZK-SNARKs и технологий дифференциальной конфиденциальности риск утечки данных или их неправомерного использования сведен к минимуму (если вы хотите внести данные в эти наборы данных, есть и другие личные помощники ИИ, которые проверят, действительно ли эти криптографические инструменты эффективны).
Два месяца спустя пандемия чудесным образом исчезла: кажется, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда прибор для тестирования воздуха подавал сигнал тревоги и показывал наличие вируса, а те, у кого положительный результат теста, оставались дома на самоизоляции. Именно эта мера позволила еще больше снизить коэффициент передачи, который уже значительно уменьшился благодаря пассивной мощной фильтрации воздуха, до менее чем 1. Моделирование показало, что заболевание, которое могло быть в пять раз серьезнее COVID-19 двадцатилетней давности, на сегодняшний день не оказало серьезного воздействия.
Акция d/acc достигла крайне позитивного результата, а именно, концепция d/acc успешно объединила людей из различных областей и действительно пробудила у них глубокий интерес к работе друг друга.
Провести мероприятие с "разнообразием" не так уж и сложно, но заставить людей из различных слоев общества и с разными интересами действительно установить тесные связи – задача не из легких. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, которые я считал скучными. Я прекрасно понимал, что "должен" их ценить, потому что в противном случае меня бы считали культурным компьютерным ленивцем, но я не смог на более глубоком уровне сопоставить себя с содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о различных работах в разных областях.
Если мы стремимся построить будущее, более светлое, чем правление, замедление и разрушение, нам обязательно нужно начать такое широкое строительство альянсов. d/acc, похоже, достиг значительных успехов в этом отношении, и этого достаточно, чтобы подчеркнуть ценность этой концепции.
Основная идея d/acc проста и ясна: децентрализованная, демократическая и дифференцированная защитная акселерация. Создание технологий, способствующих смещению баланса атак и защиты в сторону защиты, и при этом не полагающихся на передачу большей власти центральным властям в процессе реализации. Существует внутренняя тесная связь между этими двумя аспектами: любая децентрализованная, демократическая или свободная политическая структура обычно может процветать, когда защита легко реализуется, но сталкивается с серьезными трудностями, когда защита оказывается под угрозой — в таких случаях более вероятным результатом становится хаотический период взаимной конфронтации всех, в конечном итоге приводящий к состоянию баланса, контролируемому сильнейшими.
Один из способов понять важное значение одновременной реализации децентрализации, защитности и ускорения — это сопоставить его с концепцией, возникающей при отказе от любого из этих трех аспектов.
Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"
По сути, это похоже на то, чтобы стать эффективным акцелерационистом (e/acc), но при этом стремиться к децентрализации. Есть много людей, которые следуют этому пути, некоторые из которых называют себя d/acc, но они полезно описывают свой акцент как "наступление". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному ИИ" и подобным темам, но, на мой взгляд, их внимание к "защитным" аспектам явно недостаточно.
На мой взгляд, этот способ может помочь избежать риска диктатуры определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, способствующей нападению, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитник и занять доминирующее положение на постоянной основе. Что касается ИИ, он также не может надлежащим образом решить риск ослабления власти человечества по сравнению с ИИ.
Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"
Принятие централизованного контроля для достижения целей безопасности всегда привлекало определенную часть людей, и читатели, несомненно, знакомы с множеством подобных случаев и связанными с ними недостатками. В последнее время некоторые обеспокоены тем, что крайняя форма централизованного контроля может быть единственным способом справиться с будущими экстремальными технологиями: например, представить себе гипотетическую ситуацию, в которой "каждый носит 'метку свободы' — это следующий этап в развитии современных более ограниченных носимых устройств для мониторинга, подобных браслетам, которые используются в нескольких странах в качестве альтернативы тюремному заключению... закодированные видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет свои пределы. Одна из обычно игнорируемых, но все еще вредных форм относительно мягкого централизованного контроля проявляется в области биотехнологий (например, продовольствие, вакцины) в виде сопротивления общественного контроля, а также позволяет такой практике оставаться без вызова закрытым стандартам.
Риски, связанные с таким подходом, очевидны: само централизация часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими основными мировыми правительствами, могли быть источником пандемии. Централизованная эпистемология привела к тому, что Всемирная организация здравоохранения в течение многих лет отказывалась признать, что коронавирус передается воздушным путем, а обязательное социальное дистанцирование и принудительная вакцинация вызвали политические последствия, которые могут длиться десятилетиями. Подобная ситуация с высокой вероятностью может повториться в любом рискованном контексте, связанном с ИИ или другими рисковыми технологиями. В отличие от этого, децентрализованный подход более эффективно справится с рисками, исходящими от самого центра.
Децентрализованная защита, но исключение ускорения
По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.
Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом, технологический и экономический рост крайне полезен для человечества, и любое его замедление будет иметь непредсказуемые последствия. Во-вторых, в мире, который не является тоталитарным, стагнация является нестабильной: те, кто "обманывает" больше всего и способен найти кажущийся разумным способ продолжать развитие, выйдут на первое место. Стратегия замедления может в определенных ситуациях оказать определенное влияние: например, европейская еда более полезна, чем американская, что является примером; успешные достижения в области ядерного нераспространения также подтверждают это. Однако эти стратегии не могут действовать вечно.
Через d/acc мы стремимся достичь следующих целей:
Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратов в Европе в конце 2000-х годов: расширение прав и возможностей.
Наша цель состоит в том, чтобы построить мир, который сохраняет человеческую агентность, достигая негативной свободы, то есть избегая активного вмешательства со стороны других (будь то обычные граждане, правительства или суперумные роботы) в нашу способность формировать свою судьбу, одновременно достигая позитивной свободы, то есть обеспечивая наличие знаний и ресурсов для реализации этой способности. Это перек呼应вает традицию классического либерализма, которая продолжается на протяжении нескольких веков, включая внимание Стюарта Брандта к "доступу к инструментам", а также акцент Джона Стюарта Милля на образовании и свободе как ключевых элементах человеческого прогресса — возможно, также можно добавить видение Бакминстера Фуллера о том, что процесс глобального решения проблем должен быть участническим и широко распространенным. Учитывая технологический ландшафт XXI века, мы можем рассматривать d/acc как способ достижения этих же целей.
Третье измерение: Синергетическое развитие выживания и процветания
В моей статье прошлого года, d/