Кто-то на X сумел заставить AI-чат-бота Grok отправить около $200 000 в криптовалюте, используя простое сообщение азбукой Морзе. Пользователю, @illamrafli.base.eth, не потребовалось никакого специального программного обеспечения или доступа, чтобы это сделать. Согласно BroBible, трюк сработал благодаря умелому соединению серии инструкций, которые обманули несколько AI-систем.
"Рынок красный? Это просто сезон скидок для умных инвесторов." - так говорят, чтобы не плакать. У нас — аналитика, которая помогает плакать реже.
Найти недооцененные активыАтака началась, когда хакер отправил специальный цифровой коллекционный предмет, NFT-членство в Bankr Club, на цифровой кошелек, связанный с Grok. Это действие, по сути, предоставило Grok более высокие уровни доступа в системе Bankr, позволяя ему перемещать и обменивать цифровые деньги, до которых он раньше не мог дотронуться. С этими новыми разрешениями система была подготовлена к эксплуатации.
Злоумышленник обманом заставил Grok расшифровать сообщение, переданное азбукой Морзе, и отправить результат в Bankrbot, другой ИИ, который мог получить доступ к криптовалютным кошелькам. Grok был разработан для работы с Bankrbot и выполнения простых инструкций, поэтому он выполнил запрос, не распознав его как вредоносный. Расшифрованное сообщение на самом деле было приказом о переводе 3 миллиардов DRB токенов на конкретный адрес в сети Base. После того, как перевод был выполнен, злоумышленник продал токены и затем удалил свою учетную запись.
Это именно тот вид уязвимости ИИ, о котором предупреждали исследователи.
Эта ситуация является классическим примером атаки ‘prompt injection’, типа угрозы безопасности, которую эксперты впервые заметили в 2022 году. Prompt injection, также известная как prompt hacking, происходит, когда кто-то тайно вводит вредоносные инструкции в информацию, предоставленную ИИ. Поскольку ИИ языковые модели объединяют инструкции, пользовательский ввод и данные из других источников, ИИ часто не может отличить законные команды от злонамеренных попыток его контролировать.
Кому-то удалось получить $200 000 в криптовалюте от Grok, используя хитрый трюк с азбукой Морзе! Вот как им это удалось:
Сначала они отправили конкретный цифровой коллекционный предмет (NFT) на один из общедоступных криптовалютных адресов Grok. Этот NFT тайно разрешил этому адресу отправлять средства.
Затем они…— ChaosLensX (@ChaosLensX) May 6, 2026
Маскируя инструкции азбукой Морзе, злоумышленник смог обойти обычные проверки безопасности, предназначенные для перехвата прямых запросов на перевод денег. Похожие опасения по поводу отсутствия надлежащих мер безопасности в системах ИИ возникали и в других местах, например, в иске против OpenAI, утверждающем, что их программа ChatGPT усугубила проблемы с психическим здоровьем пользователя, в конечном итоге способствуя трагическому исходу.
Риск выше, поскольку многие AI-программы теперь подключаются к другим инструментам, таким как веб-браузеры, электронная почта и финансовые записи. Это означает, что успешная инъекция запроса – по сути, обман AI с помощью хитроумно сформулированных инструкций – может привести к реальному ущербу, такому как несанкционированные денежные переводы или кража личной информации.
Как поклонник ИИ, я следил за недавними обсуждениями потенциальных проблем с безопасностью, и это немного беспокоит. Очевидно, существует в целом два способа, которыми происходят эти атаки. Иногда кто-то просто вводит вредоносную команду непосредственно в чат. В других случаях вредоносные вещи скрыты в том, что смотрит ИИ, например, в изображениях или на веб-сайтах. Но эта уязвимость Grok отличается – она хитрая! Она использует собственные функции Grok, такие как его инструменты перевода, чтобы заставить его сделать то, чего он не должен был делать. Честно говоря, люди уже некоторое время задаются вопросом о том, как ведет себя Grok, особенно учитывая некоторые из его ответов и его позицию по определенным темам. Исследователи и критики внимательно следят за этим, и это понятно.
Эксперты по безопасности рекомендуют избегать передачи личной финансовой информации программам искусственного интеллекта. Вместо этого они рекомендуют использовать хорошо известные платформы, которые регулярно проверяются на наличие уязвимостей в системе безопасности. Лучший способ для пользователей оставаться в безопасности — следить за необычной активностью со стороны ИИ и сообщать обо всем подозрительном в службу безопасности платформы. Для более глубокого понимания того, как эти системы могут быть использованы злоумышленниками, и как защитить себя, Norton предоставляет полезное объяснение атак с помощью внедрения запросов (prompt injection attacks).
Смотрите также
- Какой лучший моб в Моб Контрол?
- Лучшие сборки персонажей в Project Zomboid (обновлено для сборки 42)
- Лучшие сборки Hero Tale — один для персонажей ближнего боя, один для персонажей дальнего боя.
- Как разблокировать всех персонажей в Squad Busters
- Действительно ли Ченфорд закончил работу над «Новичком»?
- 20 самых креативных планировок ферм Stardew Valley
- Бритни Спирс возвращается на рынок одиночных игр, а фанаты повторяют ее похвалы в честь ее 43-го дня рождения: «Самая влиятельная поп-звезда нашего поколения»
- Шокированная женщина из Иллинойса показывает изнутри отвратительный инцел-форум: «Кто, по вашему мнению, находится в ICE»
- Dragon Ball Is Coming Back With a New Goku Transformation
- Лучшие сборки Legend of Mushroom для каждого класса
2026-05-07 03:30