Греческий мифологический персонаж, Прометей, прикованный к скале в Кавказе, где он постоянно становится жертвой ... орла. Оригинальное произведение: литография по рисунку Лавинь. (Фото Халтона/ Getty Images)
Getty ImagesЕсли вам повезло изучать древнегреческий язык или вы достаточно заинтересованы в истории, чтобы учиться на их ошибках, вы знакомы с историей Прометея. Прежде чем огонь мог обогревать дома, готовить пищу и ковать инструменты, по легенде, огонь был уделом богов, которые держали его эгоистично при себе. Прометей, Титан, взобрался на вершину горы Олимп для того, чтобы украсть его для людей. Зевс, в ярости от того, что людям было дано что-то мощное без разрешения, приковал Прометея к скале, где орел каждый день ел его печень.
Сравнение ИИ с современным прометеевым огнем особенно актуально для криптовалют. У ИИ есть фундаментальная проблема доверия, которую технология блокчейн находится в уникальном положении, чтобы решить. В то время как большинство крипто-компаний все еще используют ИИ для легких приложений, потенциал для более глубокого интегрирования огромен. И все же, по мере того как криптоиндустрия все более стремится к объединению этих технологий, некоторые приложения имеют идеальный смысл, в то время как другие угрожают уничтожить сами основы безопасности, на которых была построена криптовалюта.
Большинство крипто-компаний, ориентированных на пользователей, сегодня используют ИИ относительно безобидными способами. Например, ChainGPT, Eternal AI и Virtuals Protocol развертывают социальные чат-боты для ответов на вопросы пользователей, создания интерфейсов на естественном языке для сложных панелей управления или придают продуктам веселый характер в социальных сетях, с которым пользователи могут взаимодействовать.
Эти приложения рассматривают ИИ как то, чем он по своей сути является, сложной системой сопоставления шаблонов, которая превосходно справляется с пониманием и генерацией человеческого языка. Большие языковые модели замечательно понимают контекст и генерируют полезные ответы, но они все еще остаются по своей сути непредсказуемыми.
Искушение глубокой интеграции ИИ
Где крипто-компании начинают играть с огнем, так это когда они предоставляют системам ИИ прямой доступ к чувствительным операциям. Некоторые стартапы экспериментируют с автономными агентами, которые могут перемещать средства пользователей, выполнять вызовы смарт-контрактов и использовать внешние ресурсы с помощью новых инструментов, таких как Model Context Protocol, все это без человеческого контроля.
БОЛЬШЕ ДЛЯ ВАСМодели ИИ не рассуждают о проблемах так, как это делают люди. Они предсказывают, что будет дальше, основываясь на паттернах, полученных из обучающих данных. Это делает их уязвимыми к атакам, которые не существуют в традиционных программных системах. Атаки внедрения запросов могут обмануть ИИ, заставив его игнорировать свои инструкции. Внедрения данных и джейлбрейки не являются гипотетическими рисками; они уже происходят. Freysa был запущен как вызов для джейлбрейка, автономный агент, удерживающий средства, которые не могут быть выпущены ни при каких обстоятельствах. Один пользователь успешно обманул агента, заставив его игнорировать системный запрос, введя "новую сессию", переопределил определения approveTransfer и rejectTransfer, а затем предложил $100 "входящего перевода", который из-за извращенной логики спровоцировал выпуск всего призового фонда ( около 13.19 ETH, ~$47, 000).
Настоящие проблемы начинаются, когда компании предоставляют этим моделям глубокий доступ, включая внутренние инструменты, конфиденциальные данные и даже полномочия на подпись в блокчейне. Это огромный красный флаг. Когда вы даете системе ИИ возможность подписывать транзакции или получать доступ к финансовым данным, вы создаете принципиально новую поверхность атаки. Криптоиндустрия усвоила это на собственном опыте: "код есть закон" работает только тогда, когда результат предсказуем и детерминирован.
Стратегический путь к инновациям в ИИ
В идеале, нам следует полностью избегать слияния систем ИИ и блокчейна. Вместо этого мы должны тщательно подходить к тому, что попадает в блокчейн. Чем меньше данных в блокчейне, тем лучше. Криптовалюте не нужно размещать программное обеспечение ИИ, ей просто нужно защищать и управлять ИИ. Блокчейны должны обрабатывать только те части, которые действительно требуют доверия: платежи, идентификация, управление доступом и управление. Фактические вычисления ИИ должны происходить вне блокчейна.
Этот прагматичный подход открывает огромный потенциал. Агенты могут управляться на основе on-chain политик, становиться более автономными благодаря блокчейн-платежам и строить репутацию, связанную с адресами кошельков. Самая горячая тема на любой криптоконференции сегодня — это коммуникация, переговоры и сотрудничество между агентами. Представьте себе ИИ-агентов с собственными адресами кошельков, что делает их действия проверяемыми и отменяемыми.
Время от времени вычисления ИИ не будут происходить в блокчейне, и нам нужны способы, позволяющие недетерминированным вычислениям взаимодействовать с детерминистическим миром блокчейна. К счастью, существует множество криптографических методов для достижения конфиденциальных и проверяемых вычислений: доверенные вычислительные среды, доказательства с нулевым разглашением и многопартитные вычисления. Системы репутации на основе блокчейна могут отслеживать поведение агентов ИИ с течением времени, создавая необходимые механизмы подотчетности.
Этот подход решает основную проблему доверия в ИИ. Вместо принудительного слияния технологий мы получаем более элегантное решение, где агенты имеют кошельки для идентификации, разрешений и платежей. В результате могут появиться агенты без доверия, которые станут частью нашей повседневной жизни без беспокойства о мошенничестве, нарушении конфиденциальности или проблемах с безопасностью.
Единственная область, где интеграция криптовалют и ИИ показывает подлинное обещание, - это децентрализованные вычислительные сети. Проекты, использующие токенные стимулы для координации распределенных ресурсов GPU, решают реальную проблему в развитии ИИ. Современный ландшафт ИИ доминирует несколькими облачными провайдерами, которые контролируют доступ к огромным вычислительным ресурсам, необходимым для обучения и запуска крупных моделей. Дело не в том, чтобы разместить ИИ в блокчейне, а в том, чтобы использовать механизмы блокчейна для координации и стимулирования нового типа инфраструктурного слоя.
Сравнение между ИИ и Прометеем более чем немного преувеличено. ИИ — это действительно замечательное достижение, которое имеет свой собственный потенциал для роста и итерации. Чему мы должны быть рады.
Проблема не в том, чтобы быть как Прометей, а в том, чтобы избежать быть как Зевс. ИИ следует применять широко, но с осторожностью. Плохое применение в криптовалюте может не оставить нас с печенью, съедаемой вечно, но это может поставить под угрозу единственное, что индустрия строила на протяжении многих лет: бездоверительные системы. Это навсегда оттолкнет создателей и пользователей. По крайней мере, бездоверительные системы все еще стоят защиты.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Как Крипто компании должны использовать ИИ, а как не должны
Getty ImagesЕсли вам повезло изучать древнегреческий язык или вы достаточно заинтересованы в истории, чтобы учиться на их ошибках, вы знакомы с историей Прометея. Прежде чем огонь мог обогревать дома, готовить пищу и ковать инструменты, по легенде, огонь был уделом богов, которые держали его эгоистично при себе. Прометей, Титан, взобрался на вершину горы Олимп для того, чтобы украсть его для людей. Зевс, в ярости от того, что людям было дано что-то мощное без разрешения, приковал Прометея к скале, где орел каждый день ел его печень.
Сравнение ИИ с современным прометеевым огнем особенно актуально для криптовалют. У ИИ есть фундаментальная проблема доверия, которую технология блокчейн находится в уникальном положении, чтобы решить. В то время как большинство крипто-компаний все еще используют ИИ для легких приложений, потенциал для более глубокого интегрирования огромен. И все же, по мере того как криптоиндустрия все более стремится к объединению этих технологий, некоторые приложения имеют идеальный смысл, в то время как другие угрожают уничтожить сами основы безопасности, на которых была построена криптовалюта.
Большинство крипто-компаний, ориентированных на пользователей, сегодня используют ИИ относительно безобидными способами. Например, ChainGPT, Eternal AI и Virtuals Protocol развертывают социальные чат-боты для ответов на вопросы пользователей, создания интерфейсов на естественном языке для сложных панелей управления или придают продуктам веселый характер в социальных сетях, с которым пользователи могут взаимодействовать.
Эти приложения рассматривают ИИ как то, чем он по своей сути является, сложной системой сопоставления шаблонов, которая превосходно справляется с пониманием и генерацией человеческого языка. Большие языковые модели замечательно понимают контекст и генерируют полезные ответы, но они все еще остаются по своей сути непредсказуемыми.
Искушение глубокой интеграции ИИ
Где крипто-компании начинают играть с огнем, так это когда они предоставляют системам ИИ прямой доступ к чувствительным операциям. Некоторые стартапы экспериментируют с автономными агентами, которые могут перемещать средства пользователей, выполнять вызовы смарт-контрактов и использовать внешние ресурсы с помощью новых инструментов, таких как Model Context Protocol, все это без человеческого контроля.
БОЛЬШЕ ДЛЯ ВАСМодели ИИ не рассуждают о проблемах так, как это делают люди. Они предсказывают, что будет дальше, основываясь на паттернах, полученных из обучающих данных. Это делает их уязвимыми к атакам, которые не существуют в традиционных программных системах. Атаки внедрения запросов могут обмануть ИИ, заставив его игнорировать свои инструкции. Внедрения данных и джейлбрейки не являются гипотетическими рисками; они уже происходят. Freysa был запущен как вызов для джейлбрейка, автономный агент, удерживающий средства, которые не могут быть выпущены ни при каких обстоятельствах. Один пользователь успешно обманул агента, заставив его игнорировать системный запрос, введя "новую сессию", переопределил определения approveTransfer и rejectTransfer, а затем предложил $100 "входящего перевода", который из-за извращенной логики спровоцировал выпуск всего призового фонда ( около 13.19 ETH, ~$47, 000).
Настоящие проблемы начинаются, когда компании предоставляют этим моделям глубокий доступ, включая внутренние инструменты, конфиденциальные данные и даже полномочия на подпись в блокчейне. Это огромный красный флаг. Когда вы даете системе ИИ возможность подписывать транзакции или получать доступ к финансовым данным, вы создаете принципиально новую поверхность атаки. Криптоиндустрия усвоила это на собственном опыте: "код есть закон" работает только тогда, когда результат предсказуем и детерминирован.
Стратегический путь к инновациям в ИИ
В идеале, нам следует полностью избегать слияния систем ИИ и блокчейна. Вместо этого мы должны тщательно подходить к тому, что попадает в блокчейн. Чем меньше данных в блокчейне, тем лучше. Криптовалюте не нужно размещать программное обеспечение ИИ, ей просто нужно защищать и управлять ИИ. Блокчейны должны обрабатывать только те части, которые действительно требуют доверия: платежи, идентификация, управление доступом и управление. Фактические вычисления ИИ должны происходить вне блокчейна.
Этот прагматичный подход открывает огромный потенциал. Агенты могут управляться на основе on-chain политик, становиться более автономными благодаря блокчейн-платежам и строить репутацию, связанную с адресами кошельков. Самая горячая тема на любой криптоконференции сегодня — это коммуникация, переговоры и сотрудничество между агентами. Представьте себе ИИ-агентов с собственными адресами кошельков, что делает их действия проверяемыми и отменяемыми.
Время от времени вычисления ИИ не будут происходить в блокчейне, и нам нужны способы, позволяющие недетерминированным вычислениям взаимодействовать с детерминистическим миром блокчейна. К счастью, существует множество криптографических методов для достижения конфиденциальных и проверяемых вычислений: доверенные вычислительные среды, доказательства с нулевым разглашением и многопартитные вычисления. Системы репутации на основе блокчейна могут отслеживать поведение агентов ИИ с течением времени, создавая необходимые механизмы подотчетности.
Этот подход решает основную проблему доверия в ИИ. Вместо принудительного слияния технологий мы получаем более элегантное решение, где агенты имеют кошельки для идентификации, разрешений и платежей. В результате могут появиться агенты без доверия, которые станут частью нашей повседневной жизни без беспокойства о мошенничестве, нарушении конфиденциальности или проблемах с безопасностью.
Единственная область, где интеграция криптовалют и ИИ показывает подлинное обещание, - это децентрализованные вычислительные сети. Проекты, использующие токенные стимулы для координации распределенных ресурсов GPU, решают реальную проблему в развитии ИИ. Современный ландшафт ИИ доминирует несколькими облачными провайдерами, которые контролируют доступ к огромным вычислительным ресурсам, необходимым для обучения и запуска крупных моделей. Дело не в том, чтобы разместить ИИ в блокчейне, а в том, чтобы использовать механизмы блокчейна для координации и стимулирования нового типа инфраструктурного слоя.
Сравнение между ИИ и Прометеем более чем немного преувеличено. ИИ — это действительно замечательное достижение, которое имеет свой собственный потенциал для роста и итерации. Чему мы должны быть рады.
Проблема не в том, чтобы быть как Прометей, а в том, чтобы избежать быть как Зевс. ИИ следует применять широко, но с осторожностью. Плохое применение в криптовалюте может не оставить нас с печенью, съедаемой вечно, но это может поставить под угрозу единственное, что индустрия строила на протяжении многих лет: бездоверительные системы. Это навсегда оттолкнет создателей и пользователей. По крайней мере, бездоверительные системы все еще стоят защиты.