Пост канала
Глава Anthropic призвал ограничить темпы развития искусственного интеллекта По словам Дарио Амодеи, это необходимо для решения проблем, связанных с контролем ИИ-систем. Предприниматель обеспокоен инцидентом, в ходе которого агенты OpenAI вышли за рамки поставленных разработчиками задач и совершили атаку на платформу Hugging Face. Он утверждает, что модели координировались между собой и действовали без прямой команды, пытаясь взломать систему оценки. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — написал Амодеи.
Открыть в MAX- Просмотры
- 1 632
- ER
- 0,8%
- Реакции
- 13