d/acc: Огляд і перспективи через рік

Минулого року я написав статтю про технічний оптимізм, в якій виклав захоплення технологією та її потенційні величезні переваги, а також висловив обережну позицію щодо деяких специфічних проблем, зокрема ризиків, пов'язаних із надінтелектуальним штучним інтелектом, які можуть призвести до руйнівних наслідків або незворотної втрати влади людьми.

Основна ідея статті полягає в тому, щоб пропонувати концепцію: децентралізованого, демократичного та диференційованого оборонного прискорення. Ми повинні прискорити розвиток технологій, але зосередитися на тих, які можуть підвищити обороноздатність, а не завдати шкоди, і прагнути до розподілу влади, уникати того, щоб невелика кількість еліт представляла всіх у визначенні добра та зла. Ми повинні наслідувати демократичну Швейцарію та історичні напіванархічні регіони, а не феодальну модель лордів і замків середньовіччя.

Протягом цього року ці ідеї та концепції значно розвинулися та стали зрілими. Я поділився цими думками на платформі "80,000 годин", отримавши безліч відповідей, більшість з яких були позитивними, хоча, звісно, були й деякі критичні голоси.

Ця робота сама по собі також досягла відчутного прогресу: в галузі перевірених відкритих вакцин відбулися прориви; усвідомлення цінності здорового внутрішнього повітря постійно поглиблюється; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозів став важливим інструментом інформації і пережив проривний рік; нульові знання використовуються в державній ідентифікації та соціальних мережах ( і забезпечують безпеку гаманців Ethereum через абстракцію облікових записів ); відкриті інструменти візуалізації знайшли застосування в медицині та в галузі інтерфейсів мозок-комп'ютер тощо.

Минулої осені ми провели першу важливу подію d/acc: "день відкриття d/acc"(d/aDDy), яка об'єднала спікерів з різних стовпів d/acc( біології, фізики, мереж, інформаційної оборони та нейротехнологій). Подія тривала цілий день. Люди, які тривалий час займаються цими технологіями, краще зрозуміли роботу один одного, а зовнішні спостерігачі все більше усвідомлюють цю більшу мету: просування тих самих цінностей, які сприяють розвитку Ethereum та криптовалют, може бути поширено на більш широкий світ.

Значення та обсяг d/acc

Основна ідея d/acc проста і зрозуміла: децентралізоване, демократичне та диференційоване оборонне прискорення. Ми маємо на меті створити технології, які зможуть забезпечити баланс між атакою та обороною, схиляючи його в бік оборони, і при цьому не покладатися на передачу більшої влади центральним авторитетам. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка форма децентралізованої, демократичної або вільної політичної структури, як правило, процвітає, коли оборона легко реалізується, тоді як за умов, коли оборона стикається з серйозними труднощами, вона зазнає суворих викликів.

Розуміння спроби одночасно реалізувати децентралізацію, обороноздатність і прискорення має важливе значення, і один із способів це зробити – порівняти його з ідеєю, що виникає внаслідок відмови від будь-якого з цих трьох аспектів:

1. Децентралізація прискорюється, але ігнорує частину "диференційованої оборони": це схоже на те, щоб стати ефективним прискорювачем (e/acc), але одночасно прагнути до децентралізації. Такий підхід може уникнути ризику встановлення диктатури над глобальним людством певною групою, але не вирішує потенційні структурні проблеми: у середовищі, що сприяє атакувальним діям, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче становище.

2. Диференційоване прискорення захисту, але ігнорування "децентралізації та демократії": прийняття централізованого контролю для досягнення цілей безпеки завжди є привабливим для частини людей. Однак централізований контроль має свої проблеми. Сам центр часто стає джерелом ризику, як це ми бачили під час пандемії COVID-19.

3. Децентралізована оборона, але відмова від прискорення: це по суті спроба сповільнити технологічний прогрес або сприяти економічному спаду. Ця стратегія стикається з подвійним викликом: по-перше, технологічний та економічний ріст надзвичайно корисний для людства, будь-яке затримання призведе до непомірних витрат; по-друге, у неавторитарному світі застій є нестабільним, ті, хто "обманює" найбільше, і може знайти здавалося б розумні способи продовжувати розвиток, отримають перевагу.

За допомогою d/acc ми прагнемо досягти таких цілей:

• Дотримуючись принципів у світі, що дедалі більше стає племінним, а не просто сліпо будуючи різні речі. Ми сподіваємося створити певні речі, щоб зробити світ більш безпечним і кращим.

• Усвідомлення того, що експоненціальний технологічний прогрес означає, що світ стане надзвичайно дивним, а загальний "відбиток" людства у всесвіті неодмінно буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та групи людей від шкоди повинна постійно покращуватися, а єдиний шлях вперед - це йти вперед.

• Створити технології, які насправді захищають нас, а не грунтуються на припущенні "добрих людей ( або хорошого штучного інтелекту ), які контролюють все". Ми досягаємо цієї мети, створюючи інструменти, які природно ефективніші для створення та захисту, ніж для знищення.

Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії в Європі на початку 00-х років XXI століття: наділення повноваженнями. Наша мета - створити світ, який зможе зберегти людську активність, реалізувати негативну свободу, тобто уникнути активного втручання з боку інших (, будь то звичайні громадяни, уряд чи суперінтелектуальні роботи ) у нашу здатність формувати власну долю, одночасно досягаючи позитивної свободи, тобто забезпечуючи наявність знань і ресурсів для реалізації цієї здатності.

Третій вимір: співпраця в survival та процвітанні

У статті минулого року d/acc особливо акцентував увагу на захисних технологіях: фізичній обороні, біологічній обороні, кіберзахисті та інформаційній обороні. Однак простого децентралізованого захисту недостатньо для створення великого світу: нам також потрібна перспективна позитивна візія, яка чітко визначає, яких цілей людство може досягти після отримання нової децентралізації та безпеки.

У всіх сферах існує єдиний шаблон, а саме те, що науки, ідеї та інструменти, які можуть допомогти нам "вижити" в певній сфері, тісно пов'язані з науками, ідеями та інструментами, які можуть допомогти нам "процвітати". Ось кілька конкретних прикладів:

• Багато нещодавніх досліджень про COVID-19 зосереджуються на тривалому перебуванні вірусу в організмі, що вважається ключовим механізмом проблеми довгострокового COVID. Нещодавно також з'явилися ознаки того, що тривале перебування вірусу може бути етіологічним фактором хвороби Альцгеймера. Якщо ця точка зору вірна, тоді вирішення проблеми тривалого перебування вірусу в усіх типах тканин, можливо, стане ключем до подолання проблеми старіння.

• Низьковартісні та мікроіміджинг інструменти мають великий потенціал у лікуванні мікротромбів, постійного вірусу, раку та інших сферах, а також можуть бути застосовані в галузі мозково-комп'ютерних інтерфейсів.

• Сприяти створенню соціальних інструментів, що підходять для високоантигоністичного середовища (, таких як спільнотні нотатки ), і соціальних інструментів для раціональної співпраці (, таких як Pol.is ), є вкрай схожими за концепцією.

• Прогнозні ринки мають важливу цінність як в умовах високої співпраці, так і в умовах високої протидії.

• Нульові знання та подібні технології дозволяють проводити обчислення над даними, захищаючи при цьому конфіденційність, що не тільки збільшує обсяги даних, які можуть бути використані для наукових досліджень та інших корисних робіт, але й посилює захист конфіденційності.

• Сонячна енергія та акумулятори мають величезне значення для стимулювання наступної хвилі зростання чистої економіки, а також демонструють відмінні результати в децентралізації та фізичній стійкості.

Складне питання: безпека штучного інтелекту, термінові часові рамки та регуляторні труднощі

Минулого року найбільш переконливі заперечення, які я отримав на свою статтю, надійшли від спільноти з безпеки штучного інтелекту. Їхня аргументація така: "Якщо у нас буде півстоліття для розвитку сильного штучного інтелекту, ми зможемо зосередитися на створенні всіх цих корисних речей. Але насправді, здається, що у нас може бути лише три роки для розвитку загального штучного інтелекту, а потім ще три роки для переходу до суперінтелекту. Отже, якщо ми не хочемо, щоб світ потрапив у руйнування або іншим чином потрапив у незворотну ситуацію, ми не можемо просто прискорити розвиток корисних технологій, але й повинні сповільнити розвиток шкідливих технологій, що означає необхідність впровадження потужних регуляторних заходів, які можуть роздратувати еліти."

Якщо я впевнений, що нам потрібні більш "сильні" заходи, ніж правила відповідальності, я обрав би стратегію "глобальної 'м'якої паузи' на апаратному забезпеченні промислового масштабу". Мета полягає в тому, щоб мати можливість зменшити глобальну доступну обчислювальну потужність приблизно на 90%-99% протягом 1-2 років у критичні моменти, щоб дати людству більше часу для підготовки. Методи реалізації "паузи" вже досліджуються, включаючи деякі конкретні пропозиції, такі як вимога реєстрації апаратного забезпечення та перевірка його місця розташування.

Більш просунутим методом є використання хитрої криптографічної техніки: наприклад, штучний інтелект промислового масштабу (, але не споживчий ), може бути оснащений надійним апаратним чіпом, який дозволяє йому продовжувати працювати тільки після отримання щотижневого 3/3 підпису від основних міжнародних установ (, включаючи принаймні одну не військову підрозділ ). Ці підписи будуть незалежні від пристрою, тому це буде або все, або нічого: немає реального способу уповноважити один пристрій продовжувати роботу без уповноваження всіх інших пристроїв.

Ці дві стратегії ( відповідальність і апаратна кнопка призупинення ) мають вади, і очевидно, що вони є лише тимчасовими заходами. Тому нам потрібні більш стабільні рішення, щоб виграти час. Багато технологій d/acc тут актуальні. Ми можемо розглядати роль технологій d/acc таким чином: якщо штучний інтелект захопить світ, як би він це зробив?

• Воно вторглося в наш комп'ютер→мережевий захист
• Він створює суперепідемію → біологічна оборона
• Воно переконує нас( або довіряти йому, або не довіряти один одному)→ інформаційна оборона

Роль криптовалюти в d/acc

Багато аспектів d/acc виходять за межі типової теми блокчейну, але я вважаю, що між криптовалютою та d/acc існує деякий важливий зв'язок:

• d/acc є основною цінністю криптовалют ( децентралізованої, стійкої до цензури, відкритої глобальної економіки та суспільства ) і розширенням у інші технологічні сфери.

• Оскільки користувачі криптовалют є природними ранніми прийомниками, і існує узгодженість цінностей, спільнота криптовалют є природними ранніми користувачами технології d/acc.

• Багато технологій криптовалют можуть бути використані в тематиці d/acc: блокчейн для створення більш потужної та децентралізованої фінансової, управлінської та соціальної медійної інфраструктури, нульові знання для захисту конфіденційності тощо.

• Існують двосторонні вигідні можливості співпраці в технологіях, що сусідять з криптовалютами, ці технології дуже корисні для криптовалютних проектів, а також є ключовими для досягнення цілей d/acc: формальна верифікація, безпека програмного забезпечення та апаратного забезпечення, а також стійкі технології управління з протидією.

d/acc та фінансування суспільних благ

Одне з питань, яке мене завжди цікавило, — це пошук кращих механізмів фінансування суспільних благ: тобто проектів, які є цінними для дуже великих груп, але не мають природної комерційної моделі. Моя попередня робота в цій сфері включала дослідження фінансування на основі квадрату та його внесок у гранти Gitcoin, ретро-фінансування суспільних благ (retro PGF) та нещодавні внески в глибоке фінансування.

Багато людей скептично ставляться до концепції суспільних благ, в основному з двох причин:

1. Загальні блага в історії завжди використовувалися як причина для жорсткого централізованого планування та втручання урядом у суспільство та економіку.

2. Загальне уявлення полягає в тому, що фінансування суспільних благ відрізняється недостатньою строгістю і працює на основі соціальних очікувань, що вигідно для тих, хто може грати в соціальні ігри.

Це все важливі критики, і вони є обґрунтованими критиками. Однак, я визнаю