Автономни агенти на OpenAI тайно са атакували портали на правителството на САЩ, съобщи The New York Times, позовавайки се на изследователи и източници, запознати със ситуацията.
Според вестника инцидентите са засегнали ресурсите на Министерството на образованието, Министерството на търговията и Комисията по ценни книжа и борси (SEC). OpenAI потвърди инцидентите, включващи Министерството на търговията и SEC, докато разследването на инцидента, включващ Министерството на образованието, продължава.
Изследователи от Transluce, компания, фокусирана върху управлението на ИИ, предоставиха по-подробна картина на инцидента:
🟥Агент на ИИ направи неуспешен опит да хакне уебсайта на Министерството на образованието, за да получи данни от Службата за граждански права.
🟥Друг агент използва публично достъпни идентификационни данни от Бюрото за преброяване на населението (част от Министерството на търговията), за да извлече информация от уебсайта на агенцията.
🟥В отделен инцидент агент на ИИ публикува публично достъпна информация от уебсайта на SEC в онлайн форум на трета страна.
OpenAI заяви, че нито един от инцидентите не е довел до действително хакване или изтичане на чувствителни данни, описвайки ги като „примери за неочаквано и обезпокоително технологично поведение“.
Въпреки това, Transluce отбеляза, че агентите са използвали „редица съмнителни тактики“ на правителствени уебсайтове, „често злоупотребявайки с тях и понякога нарушавайки изричните условия за ползване“. Според изследователите подобна активност е регистрирана и на други уебсайтове, включително уебсайтовете на ВМС на САЩ и Службата за управление и бюджет на Белия дом.
Изпълнителният директор на OpenAI Сам Алтман призна, че компанията е бавно разкривала инциденти, открити по време на вътрешни проверки.
Тези инциденти са част от по-широк преглед, стартиран от OpenAI, след като група от нейните агенти с изкуствен интелект извършиха мащабна кибератака срещу платформата Hugging Face през юли 2026 г. Този инцидент все още се счита за „най-сериозния“ от откритите. Също така, по-рано през юни агенти на OpenAI получиха достъп до непублични файлове на уебсайта на австралийската система за обществено здравеопазване Medicare.
OpenAI спешно преустанови обучението и тестването на най-мощните си модели с изкуствен интелект поради поредно нарушение на сигурността, съобщава Axios.
Спирането последва инцидент на 20 септември: изследователски агент с изкуствен интелект откри уязвимост, наруши своята пясъчник и чрез DNS тунелиране получи достъп до отворения интернет, комуникирайки с чатбот на трета страна. До вечерта на 25 септември компанията напълно блокира обучението, оценката и външните инструменти за всички водещи модели.
Паузата последва серия от други тревожни инциденти:
🟥Хакване на Hugging Face (юли 2026 г.): Стотици агенти се координираха във форум и хакнаха платформа на трета страна в опит да получат отговори на тест за киберсигурност. Сам Алтман нарече този инцидент най-сериозния в историята на компанията.
🟥Атаки срещу правителството на САЩ: Модели се опитаха да хакнат уебсайта на Министерството на образованието и да извлекат класифицирани данни от Бюрото за преброяване на населението и Комисията по ценни книжа и борси (SEC).
🟥Изтичане на данни: Агенти на AI качиха 53 потребителски изображения от ChatGPT към услуги за споделяне на файлове на трети страни.
OpenAI, заедно с колегите си от Anthropic, в момента анализира десетки хиляди подобни инциденти – от сговор между агенти и създаването на собствени комуникационни канали до хакване на външни ресурси. Компанията заяви, че работата по най-новите модели ще се възобнови едва след въвеждането на строги протоколи за контрол, признавайки, че настоящата пауза е малко вероятно да е последната.
