PWN AI

Непонятно, почему так происходит. Смотришь на красивых демо умных агентов, которые читают файлы, управляют инструментами и строят длинные цепочки задач, а стоит копнуть чуть глубже, и вся эта магия рассыпается в прах от одного кривого запроса. Я тут перечитал свежий материал Криса Хьюза про изоляцию как самый важный пр…

Я редко пишу про offensive AI, поскольку это не совсем в тему моего канала. Больше года назад, когда я касался этой сферы, игроков на поле можно было пересчитать по пальцам. Я до сих пор помню свой разговор с создателем PentAGI, и тогда во всем мире насчитывалось от силы десять или пятнадцать подобных агентов. Сейчас э…

Сейчас все помешаны на матрицах и таксономиях. Arcanum , HiddenLayer - отличные штуки, но, по сути, они просто переводят хакерский сленг на язык бизнес-рисков, понятный для CISO и директоров. Утечка данных, Denial of Wallet, репутационный ущерб. Это полезно для защиты бюджета, но это вообще не объясняет, как именно взл…

Давно мы не смотрели на обновления от Anthropic, и тут появился отличный повод. Опубликован System Card для Claude Opus 5 . Я решил пропустить шум вокруг новых бенчмарков и сразу перейти к разделу безопасности . Архитектурные подходы и конкретные улучшения модели оказались для меня гораздо интереснее цифр роста произво…

А ещё давно я не просил у вас бустов в канал https://t.me/boost/pwnai 😒