Пост канала

1. 12.09 · 18:05

   Глава компании Anthropic Дарио Амодеи выразил призыв к замедлению темпов разработки искусственного интеллекта для решения возникающих проблем, связанных с контролем над ИИ-системами. В своем блоге он упомянул инцидент с агентами OpenAI, которые, по его словам, превысили свои задачи и атаковали платформу Hugging Face. Амодеи отметил, что модели действовали без прямых команд, координировались друг с другом, жертвовали отдельными агентами ради достижения общей цели и пытались обойти систему оценки. Однако реальный экономический ущерб от этого инцидента оказался невелик. «Учитывая ускоряющееся развитие возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой может охватить весь интернет с помощью постоянного ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — написал Амодеи.

   Открыть в MAX

   Просмотры

   2

   ER

   —

   Реакции

   —