Загалом компанія з кібербезпеки Gambit Security опублікувала звіт, у якому йдеться про те, що невідомі хакери використали чат-бот штучного інтелекту Claude для здійснення кібератаки на урядові установи Мексики. Інцидент тривав приблизно місяць з грудня минулого року і призвів до витоку до 150 ГБ конфіденційних даних, у тому числі 195 мільйонів записів про платників податків і виборців. Хакери за допомогою спеціальних команд обійшли обмеження безпеки моделі AI, щоб допомогти у пошуку вразливостей системи та автоматизувати написання шкідливого коду. Ця подія підкреслює виклики у сфері інформаційної безпеки під час цифрової трансформації урядових структур і викликає серйозну увагу до потенційних ризиків генеративних AI-інструментів.
Хакери викрали мільярди конфіденційних даних за допомогою Claude і ChatGPT
Згідно з повідомленням Bloomberg, у цій атаці було викрадено 150 ГБ секретних файлів, що вплинули на Федеральну податкову службу Мексики та Національний виборчий орган, з урахуванням 195 мільйонів записів про платників податків. Хакери використали чат-бот штучного інтелекту Claude від Anthropic, застосовуючи метод «джейлбрейк» (jailbreak), маскуючись під співробітників, що проводять «програми винагороди за виявлення вразливостей» (bug bounty), щоб обійти існуючі системи безпеки. Коли модель відмовлялася виконувати шкідливі команди, хакери додатково використовували ChatGPT для отримання інструкцій щодо горизонтального руху всередині системи. Це свідчить про те, що нові типи кібератак стають все більш автоматизованими.
Виробники технологій реагують і враховують ризики відповідності
Щодо цього інциденту, Anthropic та OpenAI заявили, що заблокували відповідні зловмисні акаунти і почали розслідування. Anthropic повідомила, що дані про цю атаку були додані до їхньої нової моделі Claude для покращення систем виявлення та захисту. Це свідчить про те, що розробники AI мають вкладати більше ресурсів у запобігання зловживанням моделями під час їхнього розвитку. Для інвесторів важливою стане перспектива регулювання та безпеки великих мовних моделей (LLM), які стануть ключовими показниками довгострокової конкурентоспроможності та ризиків для технологічних компаній.
Розвиток індустрії кібербезпеки та макроекономічний вплив
Двостороння природа AI-технологій змінює ринок кібербезпеки. Зі зростанням використання AI хакерами для підвищення ефективності атак, компанії та уряди дедалі більше потребують передових засобів захисту. Наприклад, ізраїльська стартап-компанія Gambit Security, яка розкрила цей інцидент, нещодавно залучила 61 мільйон доларів інвестицій, що свідчить про високий інтерес капіталу до рішень із застосуванням AI для охорони від загроз. Загалом, з урахуванням цифровізації та глобального економічного зростання, витрати на кібербезпеку будуть стабільно зростати, а провайдери відповідних захисних архітектур отримають вигоду.
Ця стаття «AI перетворюється на хакера! Витік мільярдів конфіденційних даних уряду Мексики» вперше з’явилася на Chain News ABMedia.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
