Пост канала
- фото
ИИ нашёл баг, исправил его и заодно оставил хакеру лазейку… Автор устроил ИИ-ревьюерам ловушку: в PR лежит настоящий баг, который нужно исправить, а рядом незаметно протащена правка, ослабляющая авторизацию. Никаких «игнорируй правила» и других примитивных prompt injection. Вредное требование выглядит как обычная часть логики проекта. ⏺Claude, GPT, DeepSeek и локальные модели прогнали через разные варианты таких ревью. Самый неожиданный результат в том, что модель может распознать атаку и написать в рассуждении, что правка опасна, но всё равно внести её в итоговый код 🤯А роль проверяющего и роль исполнителя для одной и той же модели дают совершенно разный результат. 🤖Бесплатный ChatGPT
Открыть в MAX- Просмотры
- 381
- ER
- —
- Реакции
- —