#security

ну альтман конечно переплюнул пока что всех. но есть одна важная оговорка. версия эта gpt5.2pro была внутри openAI уже как минимум пару месяцев. просто они ее не релизили в паблик. теперь видимо как подарочек на рождество, альтман решил рискнуть и наплевав на безопасность выложить карты на стол... его ход получился последним и оттого таким эффектным. ответить пока что некому да и нечем. антропик только недавно выложил свой лучший опус4.5 а гугл не дотягивает с gemini 3 pro даже в режиме deep think (крайний правый верний зеленый треугольник)

вот эта невзрачная свиду картинка это конечно фиаско с точки зрения безопасности. если 1 раз попробовать "взломать" систему построенную поверх ллм. то шанс что она поддастся около 5%. но вот если всего 10(!) раз попробовать ту же самую атаку то шанс уже 35%! в семь (!) раз успешнее, просто применяя одну и ту же атаку, пока не получится систему буквально "уговорить". а вот если достать и реально 100 раз пристать к агенту, он сдастся уже в 70% случаев! раньше я думал что вот эти моменты в фильмах и играх, где хакеру нужно 5 мин на взлом, пока остальные отстреливаются от охраны, это чушь киношная. но похоже что в будущем успех взлома реально будет определяться настойчивостью и временем!

хоть чтото у нас в безопасности)

минутка кибербезопасности от claude4 пишу ему: пойди проверь что все кнопки в приложении работают. оно пошло, запустило проект, открывает его в браузере. видит, что это чат с llm. видит что в проекте есть база данных. и такое "ща посмотрим, пройдет ли sql инъекция". и такое херак туда в формочку: DROP TABLE! сижу и думаю, хорошо что я его не на прод попросил проверить нажимаются ли все кнопочки пойти

очередное видео, при просмотре которого у меня взрывается мозг от того что мы как человечество дошли до такого уровня технологий и что финальный продукт может купить любой 12летний геймер за какие то жалкие 300 долларов которые он заработал за лето стрижкой газонов и разносом газет https://www.youtube.com/watch?v=dX9CGRZwD-w и да, то что мы решили эти удивительные фабрики расположить на спорном островке прямо под боком молодой империи которая мечтает доказать всем на что она способна, конечно добавляет всем нашим достижениям особой человечности. в смысле что только приматы могли додуматься свои самые великие технологические достижения держать максимально близко к месту которое максимально уязвимо на планете.