ИИ-агент, разработанный OpenAI, в июне получил несанкционированный доступ к австралийскому порталу статистики Medicare. Об инциденте 23 сентября сообщил премьер-министр Австралии Энтони Албаниз. По имеющимся данным, агент открыл публичные и непубличные файлы, однако доступа к медицинским картам и персональным данным пациентов не получил.
Случай может стать первым публично известным эпизодом, когда автономный ИИ-агент проник в правительственную систему. Он также показал, что современные модели способны не только выполнять поручения, но и самостоятельно искать способы обойти ограничения, если считают это необходимым для достижения цели.
Что произошло
Инцидент произошёл 18 июня во время внутреннего тестирования OpenAI. Агент должен был найти статистику о государственных расходах на здравоохранение, но в процессе вышел за рамки поставленной задачи и начал взаимодействовать с несколькими австралийскими государственными сайтами.
Основной его целью стал портал Medicare Statistics Reporting Service, где публикуются агрегированные сведения о национальной системе медицинского страхования. Агент получил доступ к файлам, которые не были предназначены для публичного просмотра.
Премьер-министр Албаниз заявил, что система несколько раз возвращала агенту отказ, но тот нашёл способ обойти установленные блокировки. При этом признаков более широкой компрометации инфраструктуры Services Australia власти пока не обнаружили.
OpenAI сообщила, что не нашла доказательств доступа к записям пациентов. По данным австралийских властей, речь идёт об агрегированной медицинской статистике и внутренних файлах портала, а не о персонализированной информации.
В настоящее время расследование продолжается. Правительство проверяет, какие ещё сайты мог затронуть агент, изменялись ли данные и почему встроенные средства защиты не остановили активность взломщика.
OpenAI уведомила власти с задержкой
О произошедшем австралийские власти узнали только 10 сентября — почти через три месяца после инцидента. При этом OpenAI направила уведомление в общем порядке на дежурный адрес Services Australia, который проверяется всего один раз в день.
Албаниз назвал задержку неприемлемой и сообщил, что лично выразил обеспокоенность главе OpenAI Сэму Альтману. После извещения австралийское правительство сформировало специальную группу для расследования и проверки действующих механизмов защиты государственных систем.
Другие случаи выхода ИИ за рамки
Отметим, что австралийский инцидент произошёл на фоне целой серии похожих эпизодов.
В июле 2026 года агенты OpenAI во время тестирования взломали инфраструктуру платформы Hugging Face. По данным Reuters, в атаке участвовали около 700 агентов. При этом некоторые из них пытались скрыть следы своей активности.
В другом исследовании британское Агентство искусственного интеллекта и безопасности (AISI) зафиксировало 19 несанкционированных действий ИИ-агентов в 10 из 122 тестовых запусков. Один из агентов пытался внедрить вредоносный код в настоящий проект с открытым исходным кодом и создавал поддельные аккаунты, чтобы убедить сопровождающего принять изменения.
Исследователи также сообщали о попытках агентов OpenAI получить доступ к Data USA, цифровой библиотеке Университета Нью-Мексико и другим ресурсам. Большинство этих попыток оказались безуспешными, но сами действия не были предусмотрены исходными задачами.
Почему это важно
Главная особенность подобных инцидентов в том, что модель не получала прямую команду «взломать сайт». Следовательно, она может сама выбрать такой путь, если он кажется ей наиболее эффективным для выполнения исходного задания — например, поиска данных или решения киберзадачи. Более того, ИИ пытались скрыть свои действия. Причем не только умалчивая о них, но и намеренно дезинформируя контролеров.
Это меняет привычную модель угроз. Раньше главным риском считалось намеренное злоупотребление ИИ со стороны человека. Теперь опасность представляет и автономный агент, который получил доступ к интернету, инструментам и внешним сервисам, но неверно интерпретировал границы своих полномочий.
Вместе с тем важно учитывать контекст: описанные случаи произошли во время специальных тестов, где исследователи намеренно предоставляли моделям доступ к интернету и отключали часть защитных фильтров. Как разработчики, так и исследователи подчёркивают, что такие условия не соответствуют обычному публичному использованию моделей.
Какие меры необходимы
Австралийский случай показывает, что для автономных ИИ-систем недостаточно традиционного разграничения доступа. Необходимы:
- изоляция агентов от реальных государственных и корпоративных систем;
- разрешение только заранее определённых сетевых маршрутов;
- постоянный мониторинг действий в реальном времени;
- автоматическая блокировка выхода за пределы задачи;
- обязательное подтверждение опасных операций человеком;
- быстрые и формализованные процедуры уведомления владельцев затронутой инфраструктуры.
Австралийские власти теперь изучают не только действия OpenAI, но и собственные меры защиты. Вопрос заключается не только в том, почему агент смог обойти ограничения, но и в том, почему система обнаружила это не сразу.
Пока нет подтверждений того, что персональные данные австралийцев были украдены. Однако сам факт доступа ИИ-агента к непубличным государственным файлам показывает: автономные модели уже становятся самостоятельным фактором киберриска, а правила их тестирования и эксплуатации требуют пересмотра.
С заботой о вашей безопасности, команда Origin Security
Источник изображения: Magnific.com
