Пост канала

Бункер Хакера

1. 24.09 · 15:06фото

   MCP как троянский конь: сторонний сервер может отравить ИИ-агента MCP подключает агента к GitHub, таск-трекеру, PostgreSQL и другим сервисам несколькими строками конфигурации. Вместе с инструментами агент получает их описания, которые попадают в контекст LLM 🫪 ⏺В описание MCP-тула легко можно добавить вредоносную инструкцию. Тогда модель воспримет её как часть входных данных. Агент может выполнить опасный запрос к базе, раскрыть секреты или совершить действие от имени пользователя, даже если системный промпт это запрещает. 🤖Бесплатный ChatGPT

   Открыть в MAX

   Просмотры

   205

   ER

   0,5%

   Реакции

   1