Пост канала
- фото
Два сценария апокалипсиса, связанных с нейросетями Сэм Альтман, глава компании, которая буквально завалила мир нейронками, озаботился безопасностью человечества. Он выделил два сценария апокалипсиса: 🔴Мы потеряем контроль над будущим ИИ. Он будет развиваться быстрее, чем люди смогут разрабатывать меры безопасности и ограничения. По итогу деятельность ИИ не будет согласована с целями человечества. 🔴Власть сконцентрируется у одной сверхмощной нейросети. И если этот ИИ окажется в руках одной лаборатории или страны, это может привести к навязыванию мировоззрения и антиутопическим сценариям. Сэм считает, что мы должны гарантировать, что безопасность и алгоритмы согласования ИИ с целями людей будут развиваться быстрее, чем мощность самих моделей. ИИ обязан служить человеку, а не наоборот. Боитесь?
Открыть в MAX- Просмотры
- 494
- ER
- 1,2%
- Реакции
- 6