Пост канала
OpenAI предложила разработать превентивные правила для сверхразумных нейросетей, способных к самосовершенствованию. Речь о переходе от привычных чат-ботов к технологиям recursive self-improvement, где система самостоятельно улучшает свой код и архитектуру без прямого участия человека. Так что если сейчас каждая новая версия создается инженерами вручную, то самовоспроизводящийся ИИ способен запустить экспоненциальный рост технологий. И чтобы этот процесс был управляемым, OpenAI предлагает мировому сообществу заблаговременно договориться о едином своде правил, включающем: 🔹унифицированные метрики оценки возможностей нейросетей; 🔹общие стандарты безопасности; 🔹систему быстрого оповещения о критических сбоях; 🔹международные механизмы контроля за развитием наиболее мощных алгоритмов. Позиция компании заключается в том, что безопасность такой глобальной технологии нельзя доверять отдельным частным лабораториям. И главным архитектором этих международных стандартов OpenAI видит именно Соединенные Штаты.
Открыть в MAX- Просмотры
- 139
- ER
- —
- Реакции
- —