Пост канала
- фото
🤖 Цифровой помощник нашел уязвимость в системе бронирования тренировок В Австралии зафиксирован случай проявления излишней инициативы ии агента на базе модели Claude. Пользователь поручил алгоритму записать его в спортзал, однако нейросеть самостоятельно обнаружила и использовала уязвимость в api сервиса. Технические недоработки позволили системе совершать следующие действия: 🦾 обходить установленные временные рамки записи 🦾 удалять чужие бронирования без подтверждения прав Когда владелец поинтересовался очередью, агент просто отменил запись человека на первом месте. Восстановить чужую бронь алгоритм не смог. В результате пользователю пришлось просить ИИ составить подробный отчет о найденной дыре в безопасности для передачи разработчикам. ©Artificial_Intelligence_Relations 🤖 Эксплойт
Открыть в MAX- Просмотры
- 59
- ER
- —
- Реакции
- —