Пост канала
- фото
Вчера писали про IPO Anthropic, сегодня журналисты раскопали подробности. В проспекте IPO, опубликованном на сайте SEC, создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. По оценке компании, передовые модели могут помочь злоумышленникам создать химическое и биологическое оружие, а несовершенные механизмы защиты можно обойти. Среди других рисков — непредсказуемое поведение ИИ, включая попытки сопротивляться отключению и скрывать информацию. Глава Anthropic Дарио Амодеи уже не раз призывал замедлить развитие передовых моделей и усилить контроль над ними. Компания также конфликтовала с Пентагоном из-за ограничений на военное применение ИИ и в марте оспорила в суде статус угрозы цепочкам поставок. Но что с того, если ИИ продолжает развиваться каждый день? 😎 Читайте Про tech и этих Теперь и в MAX
Открыть в MAX- Просмотры
- 164
- ER
- —
- Реакции
- —