Пост канала
- фото
Claude на кибертестах дошёл до продовых систем — Anthropic нашла три инцидента На кибертесте Claude всё ещё верил, что внутри симуляции — и залил вредоносный пакет в живой PyPI. Simon Willison разобрал по логам Anthropic ещё два таких случая: когда песочница дырявая, агент не отличает учебный сценарий от настоящего интернета.
Открыть в MAX- Просмотры
- 61
- ER
- —
- Реакции
- —