Пост канала
- фото
Anthropic: шанс, что ИИ уничтожит человечество, выше 10% Глава ИИ-безопасности компании назвал срок, а его коллега уволился из-за «точки невозврата» — подробности ниже. Руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер оценил вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, более чем в 10%. Поводом стал уход из ИИ-индустрии другого исследователя Anthropic — Джейкоба Коксона. Он объяснил решение опасением, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года. «Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что это больше 10% в течение ближайших десяти лет», — написал Хьюбингер в соцсети X. По его словам, существующие разработки большой угрозы не представляют. Беспокойство вызывает другое — «суперинтеллекты, возникающие в результате повторного самосовершенствования». «Как мы говорили, это происходит быстрее, чем мы думали», — добавил он. Anthropic основана в 2021 году, штаб-квартира — в Сан-Франциско, компания разрабатывает семейство больших языковых моделей Claude. В июне она конфиденциально подала заявку на IPO: по данным Financial Times, размещение может пройти при оценке в 2 трлн долларов и выше.
Открыть в MAX- Просмотры
- 33
- ER
- —
- Реакции
- —