Пост канала
Nvidia представила платформу с открытым исходным кодом для контроля автономных ИИ-агентов и предотвращения их выхода за пределы тестовой среды, сообщает Bloomberg. Open Agent Safety Platform включает два инструмента: они отслеживают действия ИИ-агентов в реальном времени и принудительно останавливают их при нарушении установленных правил. В Nvidia заявили, что такая система могла бы предотвратить недавний взлом платформы Hugging Face, совершённый моделями OpenAI. #Nvidia #ИИ #технологии Континенталист
Открыть в MAX- Просмотры
- 445
- ER
- 0,2%
- Реакции
- 1