Пост канала
- фото
Инженер ушел из Anthropic, обвинив ИИ-гигантов в создании угрозы для человечества Инженер Джейкоб Коксон, занимавшийся предобучением моделей в OpenAI и Anthropic, уволился из индустрии и заявил о риске потери контроля над технологией. По его оценке, разработчики слишком быстро приближаются к созданию самосовершенствующихся систем, способных взламывать инфраструктуру и самостоятельно захватывать ресурсы. Коксон отметил разницу в подходах топ-менеджмента. В OpenAI многие сотрудники не осознают масштаб угроз, а в Anthropic риски понимают, но вынуждены участвовать в гонке из-за конкуренции. При этом в частных разговорах руководители обеих компаний оценивают опасность катастрофических сценариев гораздо выше, чем декларируют публично. В качестве меры предосторожности инженер предложил ввести временный мораторий на наращивание мощности моделей, если IT-гиганты не смогут договориться о международных стандартах безопасности.
Открыть в MAX- Просмотры
- 2 109
- ER
- 3,7%
- Реакции
- 79