Руководство американской исследовательской лаборатории Anthropic, известной созданием языковой модели Claude, опубликовало научный манифест с призывом ввести временный мораторий или существенно замедлить темпы разработки передовых ИТ-платформ. В подготовке аналитического материала принял участие сооснователь ИТ-компании Джек Кларк. Авторы документа выражают серьезную обеспокоенность бесконтрольной эволюцией цифровых алгоритмов нового поколения.

В публикации аргументируется, что современные вычислительные комплексы вплотную приблизились к фазе автономной самомодернизации, способной проходить без непосредственного участия и контроля со стороны человека. Эксперты акцентируют внимание на том, что долгосрочные последствия и потенциальные риски от неконтролируемого самообучения нейросетей на данном этапе остаются абсолютно непредсказуемыми для науки. Это создает беспрецедентные вызовы в сфере цифровой безопасности.

Представители индустрии настаивают на необходимости создания жесткого международного контура верификации, который позволит предотвратить теневую разработку закрытых ИИ-моделей. В качестве исторического аналога авторы приводят многосторонние соглашения эпохи холодной войны, регулировавшие ликвидацию ракет средней и меньшей дальности. Однако создатели Claude подчеркивают, что в отличие от дипломатических процессов прошлого века, у современного мирового сообщества нет запаса времени в несколько десятилетий для выработки компромиссных решений.

ИТ-компания Anthropic была создана бывшими ведущими инженерами OpenAI под руководством Дарио Амодеи. В текущем календарном году разработчики укрепили свои позиции на рынке благодаря успешному внедрению специализированных программных инструментов для автоматической генерации кода. Капитализация предприятия на закрытых торгах достигла рекордных 965 миллиардов долларов, опередив ключевых конкурентов, при этом в начале июня руководство официально подтвердило планы по подготовке к процедуре первичного публичного размещения акций (IPO) на фондовой бирже.