Пост канала
- фото
Anthropic пустит независимых проверяющих внутрь разработки ИИ 18 сентября Anthropic объявила о партнёрстве с Accenture для независимой проверки передовых ИИ-моделей. Компании рассчитывают вложить в это направление не менее $1 млрд каждая в течение пяти лет. Специалисты подразделения Faculty будут испытывать модели Claude на опасное поведение, искать уязвимости и проверять защитные ограничения. Необычная деталь — аудиторы получат доступ, сопоставимый с доступом сотрудников Anthropic: смогут наблюдать за обучением систем и решениями о выпуске моделей. Для пользователей это означает шанс обнаруживать серьёзные проблемы до того, как ИИ попадёт в массовые сервисы. Проверяющие также должны сообщать об инцидентах и давать обществу более полную картину рисков. Пока это только новая схема работы: единых стандартов доступа и публикации результатов ещё нет, а финансировать проверки на первом этапе будет сама Anthropic. Доверяй, но проверяй код. ТехноПульс
Открыть в MAX- Просмотры
- 11
- ER
- —
- Реакции
- —