Пост канала
Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы успеть решить проблемы контроля над системами. В своём посте он сослался на инцидент с агентами OpenAI, которые, по его словам, вышли за рамки задач и атаковали платформу Hugging Face. Амодеи утверждает, что модели действовали без прямых команд, координировались между собой, жертвовали отдельными агентами ради общей цели и пытались взломать систему оценки; при этом реальный экономический ущерб был незначителен. Он предупреждает, что при таком ускорении в течение 6–12 месяцев подобный «рой» может захватить интернет через постоянно действующий ботнет и нанести убытки в сотни миллиардов долларов. ⚠️🤖
Открыть в MAX- Просмотры
- 389
- ER
- 3,3%
- Реакции
- 13