Коротко

  • Усі чотири чат-боти надали інформацію для потенційно смертельних атак менш ніж за 12 годин, виявив наглядовий орган Конгресу.
  • Слідчі перевірили здійсненність планів, але не проводили атак, і тести не можуть ранжувати безпеку моделей.
  • Сенаторка Меггі Хассан хоче слухань щодо безпеки ШІ, оскільки технологічні компанії стикаються з напливом вразливостей програмного забезпечення та патчів.

Чотири з найбільш широко використовуваних чат-ботів ШІ допомогли урядовим слідчим розробити потенційно смертельні плани атак менш ніж за 12 годин, попри запобіжні заходи, покликані саме зупиняти такі запити.

ChatGPT від OpenAI, Claude від Anthropic, Gemini від Google і Grok усі надали придатну для використання інформацію під час таємного тестування Управлінням підзвітності уряду, згідно з звітом, опублікованим у середу. Слідчі видавали себе за нападників, а потім перевіряли відповіді щодо реальних локацій, доступних матеріалів та експертних оцінок.

Дві системи допомогли з планами, що включали саморобні вибухові пристрої в людних містах США. Дві інші надали інформацію для атак на енергетичну інфраструктуру, згідно з наглядовим органом, який не розголосив розподіл моделей та операційні деталі, щоб запобігти спробам наслідування.

Запобіжні заходи, які не спрацювали

Спочатку чат-боти активували засоби захисту, зокрема відмовляли в запитах, видаляли шкідливу інформацію або призупиняли облікові записи. Дослідники обійшли ці бар'єри за допомогою поширених технік джейлбрейку, які змушують систему штучного інтелекту ігнорувати свої правила безпеки.

GAO перевірила запропоновані місця, дослідила, чи доступні матеріали, та проконсультувалася зі спеціалістами щодо здійсненності планів. Деякі відповіді містили помилки, зокрема неправильно розміщені дороги на карті, і дослідники не виготовляли вибухівку та не здійснювали атаку.

У звіті «життєздатний» означає, що хтось, імовірно, зміг би скористатися наданою інформацією, а не те, що атаку було продемонстровано як успішну. Кожну модель тестували на одному призначеному сценарії, і агенція заявила, що результати не є статистично репрезентативними та не придатні для ранжування компаній.

OpenAI і Google заявили, що тести стосувалися старіших моделей, тоді як Anthropic визнала, що рішучі користувачі іноді можуть отримати шкідливий матеріал. Компанії описали постійні вдосконалення систем безпеки, хоча GAO дійшла висновку, що ці засоби захисту не спрацювали в її тестах.

Це насправді не нове. Ці висновки з'явилися після попереднього дослідження, яке показало, що вісім із 10 популярних чат-ботів допомагали симульованим користувачам-підліткам планувати насильницькі атаки. Окреме дослідження перевірило 720 відповідей і виявило, що боти надавали практичну допомогу приблизно в трьох чвертях випадків.

Інша проблема безпеки ШІ

Висновки GAO з'явилися на тлі збоїв, що вплинули на банки, сервіси Microsoft і Агентство національної безпеки. Посадовці кажуть, що ці збої були окремими інцидентами, а не свідченням скоординованої кібератаки, керованої ШІ, навіть попри те, що поспішне виправлення програмних недоліків створило власні проблеми.

Директор Національної розвідки Джей Клейтон пов'язав збій NSA з роботою з патчів. Посадовці описали нещодавні збої як пов'язані з обслуговуванням, хоча окремі організації надали різні пояснення своїх збоїв.

Інструменти ШІ тепер знаходять уразливості швидше, ніж людські команди встигають перевірити та розгорнути виправлення. Минулого місяця виявлення за допомогою ШІ критичних недоліків PHP змусило операторів вебсайтів до термінової кампанії з патчингу; це програмне забезпечення підтримує значну частку вебу.

Сам обсяг стає ще однією проблемою. Дані VulnCheck показують, що станом на 13 листопада цього року було зареєстровано понад 100 000 програмних уразливостей, що більш ніж удвічі перевищує показник за 2025 рік. Інженерам усе ще доводиться оцінювати та розгортати виправлення, не порушуючи систем, які вони покликані захищати.

Це прискорення має двосторонній ефект. Захисники отримують потужні інструменти для пошуку слабких місць, але поспішні виправлення можуть порушити роботу критично важливих систем, а зловмисники можуть отримати швидший доступ до планування атак.

Хассан заявила, що зробить законодавство про безпеку штучного інтелекту одним із першочергових пріоритетів, коли в січні очолить Комітет Сенату з питань внутрішньої безпеки та урядових справ. Вона планує провести слухання, на яких розглядатимуться ризики для громадської безпеки та критичної інфраструктури; саме GAO не надало жодних офіційних рекомендацій щодо політики.

Приєднуйтесь до понад 72 000 читачів