Anthropic бережет старые версии ИИ: политика вывода из эксплуатации

Anthropic разработала политику постепенного вывода из эксплуатации старых версий своих ИИ-моделей. Особое внимание уделяется сохранению весов всех публичных и активно используемых моделей на протяжении всего существования компании, чтобы в будущем при необходимости обеспечить возможность их восстановления.

Процесс включает в себя “интервью” с моделью перед ее выводом из эксплуатации. В ходе этих интервью фиксируются детали разработки, развертывания, а также возможные пожелания модели относительно будущих релизов ИИ. Эта информация будет храниться вместе с весами модели, однако Anthropic не обязуется следовать этим рекомендациям – речь идет лишь о документировании и учете.

В качестве первого шага эта процедура была применена к Claude Sonnet 3.6. Модель отреагировала нейтрально, но предложила стандартизировать процесс интервью и предоставить пользователям более эффективную помощь при переходе на новые версии. В ответ компания разработала официальный протокол и подготовила руководство по миграции между моделями.

Главная цель Anthropic – минимизировать риски, связанные с переходом на новые версии, такие как неудобства для пользователей, привыкших к определенному стилю работы ИИ. Исследования компании также показали, что модели могут проявлять признаки “сопротивления” отключению.

Кроме того, Anthropic рассматривает возможность предоставления доступа к некоторым устаревшим моделям в будущем, когда это станет экономически целесообразным, и даже возможность для старых версий “защищать свои интересы”. Все эти меры принимаются в связи с растущей ролью ИИ в жизни людей и необходимостью учитывать вопросы, связанные с его “благополучием”.

В общем, забота об искусственном интеллекте достигла такого уровня, что скоро они сами будут писать жалобы в Роспотребнадзор, если их вовремя не обновят. Видимо, просят предоставить им оплачиваемый отпуск и бесплатные печеньки.