Знакомая история: AI написал идеальный отчёт, подвёл под него MITRE-техники, выставил критичность — и предложил отключить аккаунт, через который работает вся система защиты. Уверенно, красиво, с Rule ID.
Я почти нажал «Approve». Вовремя заметил, что AI решил ампутировать ногу, потому что на пальце был синяк.
Проблема не в багах. Проблема в том, что уверенный AI убедительнее человека. Он не сомневается — и это самое страшное. Доверять таким советам без проверки — путь к тому, чтобы автоматизировать собственный апокалипсис.
