Как HyperCycle сочетает эффективность ИИ с криптографической безопасностью

Агент ИИ — это программная система, которая принимает автономные решения или выполняет задачи на основе определенных входных данных и целей. Эти агенты могут интерпретировать вводимые пользователем данные, планировать действия и рассуждать без вмешательства человека. Они используются для автоматизации задач и повышения эффективности и принятия решений в различных отраслях. Их широкомасштабное внедрение привело к появлению Интернета ИИ.

В то же время, количество поверхностей атак увеличивается, поскольку каждый агент становится потенциальной точкой входа или уязвимостью, и распознавание возможных последствий для безопасности стало важнее, чем когда-либо. 

Что такое Интернет ИИ?

Агенты ИИ обмениваются знаниями и взаимодействуют автономно в сети, известной как Интернет ИИ. Они сотрудничают в этой глобальной сети интеллекта в режиме реального времени, что мало чем отличается от того, как люди взаимодействуют в сети. Взаимосвязанная экосистема помогает усилить коллективные возможности агентов ИИ и повысить эффективность в различных областях. Этот сдвиг обещает более низкие затраты, более умные решения и более эффективные рынки, работающие на основе услуг ИИ. 

С другой стороны, сети агентов ИИ сталкиваются с повышенными рисками безопасности, включая расширенные поверхности атак. Киберпреступники, которые заражают их вредоносным ПО для кражи информации, могут получить беспрецедентный доступ к персональным данным и учетным данным. Злоумышленники также злоупотребляют интегрированными инструментами для манипулирования агентом с помощью обманных подсказок, которые могут включать эксплуатацию уязвимостей или запуск непреднамеренных действий, приводящих к вредоносному или несанкционированному выполнению.

Вредоносное ПО для кражи информации лежит в основе кибератаки 

Кибератаки тщательно планируются на основе набора методических приемов и тактик в следующем порядке: разведка, вооружение, распространение, эксплуатация, подключение, управление и контроль, действия по целям. Злоумышленник получает доступ, закрепляется на этапе подключения (или установки) и сохраняет доступ к скомпрометированной среде через канал управления и контроля.

Вредоносное ПО Infostealer вступает в игру на средних этапах. Этот тип вредоносного ПО был специально разработан для извлечения конфиденциальных данных из скомпрометированной системы. Украденные данные могут быть проданы на черном рынке или использованы для шантажа жертв, когда злоумышленник угрожает раскрыть их, если жертва не заплатит выкуп. Если данные включают имена пользователей, пароли или закрытые ключи, киберпреступник может продолжить свою атаку, используя их для компрометации других систем.

Вредоносное ПО Infostealer недавно скомпрометировано 16 миллиардов учетных данных , включая пароли к аккаунтам Google, Facebook и Apple, а также к другим социальным сетям и государственным службам. Исследователи назвали атаку «планом для массовой эксплуатации». При таком количестве раскрытых записей входа киберпреступники получают беспрецедентный доступ к данным, которые они могут использовать для кражи личных данных, захвата учетных записей и высокоцелевого фишинга.

Проект HyperCycle для безопасных и масштабируемых систем агентов ИИ

Утечка из нескольких баз данных иллюстрирует волновой эффект децентрализованного сбоя, возникшего в результате кражи учетных данных, аналогично уязвимостям, с которыми сталкиваются сети агентов ИИ в одноранговых архитектурах. Серьезные последствия таких атак лежат в основе поддержки HyperCycle децентрализованной аутентификации узлов и криптографической защиты. Платформа, которая продвигает сотрудничество систем ИИ путем проектирования инфраструктуры для P2P-сеть для многоагентных систем , призывает обычных пользователей и предприятия использовать менеджеры паролей, двухфакторную аутентификацию и пароли для нейтрализации рисков вредоносного ПО.

Помимо простых рекомендаций, HyperCycle предоставляет план для безопасных и масштабируемых систем агентов ИИ с помощью криптографических доказательств. Скомпрометированные узлы или мошеннические агенты могут выдавать себя за других агентов или выкачивать данные, и для снижения этого риска требуются надежные проверки поведения и личности. В рамках процесса обеспечение безопасности интернета агентов ИИ , HyperCycle использует Toda/IP, архитектуру без реестра с криптографическими протоколами и доказательствами, для обеспечения целостности транзакций. Криптографические доказательства помогают предотвратить несанкционированный доступ к данным, поскольку зашифрованные данные нечитаемы без криптографических ключей, независимо от того, находятся ли они в состоянии покоя, используются или передаются. Ключи могут быть защищены с помощью защищенных анклавов или аппаратной аттестации.

Агенты могут требовать криптографическое доказательство происхождения, авторизации и целостности перед принятием входных данных или инструкций. Криптографические системы идентификации гарантируют, что киберпреступники не смогут легко подделывать агентов или приложения. Доказательства с нулевым разглашением предотвращают утечку учетных данных, проверяя права доступа без раскрытия паролей, токенов и т. д. Можно проверить подписанные данные и команды, чтобы избежать подделки полезной нагрузки, помогая обнаруживать и отклонять любые изменения, внесенные вредоносным ПО. 

Платформенная конструкция HyperCycle обеспечивает не только безопасность, но и масштабируемость и скорость. Ее сетевая инфраструктура может вместить растущее количество агентов и служб ИИ без ущерба для производительности. Эта совместимость позволяет агентам ИИ, разработанным на разных платформах, эффективно сотрудничать и общаться. Сетевые узлы HyperCycle устанавливаются через Node Factory, где они самовоспроизводятся, масштабируясь от одного узла до 1024 без чрезмерных затрат. Масштабируемость приносит доход разработчикам ИИ, делая экономически эффективным и действенным развертывание множества агентов ИИ.

HyperCycle Explorer позволяет пользователям отслеживать работоспособность и статус Node Factory и ANFE в режиме реального времени. Платформа также делает возможным увеличение дохода агентов ИИ, позволяя агентам беспрепятственно получать доступ к услугам и предлагать их. Каждый ИИ в сети может генерировать больше дохода или расширять свои возможности за счет более широкого сотрудничества. По сути, HyperCycle позволяет разработчикам создавать эффективные приложения и стимулировать рост доходов, обеспечивая безопасность и целостность агентов ИИ.

Борьба с подменой личности и быстрым внедрением

Выходя за рамки обычных приложений LLM, агенты ИИ интегрируют внешние инструменты, которые часто встроены в различные фреймворки и языки программирования, что приводит к еще более обширной поверхности атаки. Криптографические доказательства Hypercycle могут помочь смягчить подмену личности и имперсонацию, когда злоумышленники используют скомпрометированную или слабую аутентификацию, чтобы выдавать себя за законных пользователей или агентов ИИ. Кража учетных данных агента позволяет злоумышленникам получать доступ к системам, данным или инструментам под фальшивой личностью.

Цифровые подписи, доказательства ZK и инфраструктура открытых ключей могут использоваться для проверки личности пользователя или системы без раскрытия конфиденциальной информации. Например, модель может включать подписание входящих сообщений известным закрытым ключом, чтобы доверять тому, что они исходят от определенного субъекта.

Внедрение подсказок происходит, когда злоумышленники скрывают или вводят в заблуждение инструкции для генеративной системы ИИ, заставляя приложение вести себя не так, как предполагали его разработчики. Агент начинает игнорировать определенные политики и правила, используя инструменты для выполнения, казалось бы, произвольных действий или раскрытия конфиденциальной информации. Криптографические методы, такие как отслеживание происхождения ввода, могут гарантировать, что подсказка или данные не были подделаны. Цифровые подписи и другие элементы могут криптографически подтвердить, что определенная сторона сгенерировала определенную подсказку или инструкцию.

Криптографические доказательства также могут помочь предотвратить атаки, такие как манипуляция целями, которые нацелены на способность агента ИИ планировать и достигать целей, тонко изменяя его процесс рассуждения. Манипулирование целями может пересекаться с быстрым внедрением. Перехват агента — это распространенная тактика, которая включает в себя состязательные входы, искажающие способность агента принимать решения.

Криптографические протоколы могут доказать, что спецификации цели не были подделаны во время передачи. Как SNARK с нулевым разглашением, так и проверяемые вычисления устанавливают, что агент следовал определенному логическому пути или политике, не видя данных. В целом, криптографические инструменты могут обнаруживать и пресекать попытки изменить подписанную задачу или подделать источник цели.

Конечная цель — повышение интеллекта глобального ИИ

HyperCycle облегчает сотрудничество ИИ в различных отраслях, повышая совместимость, безопасность и эффективность с ведущими платформами, такими как Open Agentic Web от Microsoft и A2A от Google. Предприятия могут воспользоваться преимуществами подключенного и адаптивного интернета ИИ, позволяя моделям беспрепятственно взаимодействовать в сетях. HyperCycle расширяет возможности обмена данными между платформами, помогая организациям интегрировать модели ИИ в рабочие процессы, охватывающие многочисленные фреймворки. Это обеспечивает более точное принятие решений и улучшенный доступ к данным, увеличивая интеллект ИИ в глобальном масштабе по одному узлу за раз.