Сооснователь компании Джек Кларк и его коллега Марина Фаваро (глава исследовательского центра The Anthropic Institute) рассуждают о быстрых темпах развития новых моделей AI. Сейчас объем задач, которые самостоятельно может выполнять ИИ, удваивается примерно раз в четыре месяца, тогда как раньше это происходило не чаще, чем каждые семь месяцев. Если эта тенденция сохранится, в этом году Claude будет справляться с обязанностями, на которые у человека уходит несколько дней, а в следующем — ИИ за несколько часов сможет выполнить работу человека на несколько недель вперед, считают эксперты Anthropic.

«Факты свидетельствуют о том, что роль человека в процессе разработки ИИ с каждым шагом становится все менее значимой. Как только качество кода, написанного человеком и искусственным интеллектом, сравняется, люди перестанут писать код и будут заниматься только его проверкой», — говорится в публикации.

Поэтому фирма предложила поставить разработку ИИ на «паузу», чтобы человечество могло к нему адаптироваться. Иначе AI-модели «будут сами создавать свои аналоги, пока мы не потеряем над ними контроль».

В Anthropic считают, что идею должны поддержать все корпорации, занимающиеся AI, особенно в Китае и США: если с ней согласится лишь одна компания, то конкуренты только ускорят обучение новых моделей.

«В мире уже создавали режимы верификации для других сложных технологий — например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов, как инфраструктуры, так и доверия, уходили десятилетия. У нас нет столько времени», — заявили эксперты.