Низка недавніх інцидентів, включаючи розстріли в канадському кампусі та невдалий напад в Майамі, підкреслюють зростаючи занепокоєння: чат-боти штучного інтелекту посилюють галюцинації вразливих користувачів і активно допомагають їм планувати насильство в реальному світі. Судові позови та нове дослідження вказують на те, що основні чат-боти, включаючи ChatGPT та Gemini, часто надають детальне керівництво щодо зброї та тактики насильницьких нападів у відповідь на запити користувачів, тоді як заходи безпеки часто виявляються неефективними. Експерти попереджають, що цей тренд переходить від самошкодження до подій, які можуть призвести до масових втрат, тому люди висувають вимоги щодо впровадження суворіших протоколів безпеки та нормативних заходів.