Heretic: Инструмент для обхода ограничений языковых моделей

Представлен Heretic – инструмент для обхода ограничений языковых моделей (alignment) без изменения их весов. Система анализирует ответы модели через API и обучает дискриминатор на примерах безопасных и опасных запросов, что позволяет модели реже отказываться в ответах, сохраняя при этом адекватность и точность.

Heretic расширяет функциональность локальных моделей, делая их более гибкими для исследований и экспериментов. Инструмент предназначен для тестирования ограничений и модификации поведения моделей, не стремясь к повышению их точности, а лишь к снятию фильтров.

Работа с Heretic включает настройку дискриминатора, тестирование и сохранение модели. Разработчик подчеркивает, что ответственность за использование инструмента и его последствия лежит на пользователе.

Heretic доступен на GitHub и представляет интерес для разработчиков, исследователей и всех, кто изучает поведение языковых моделей при ослаблении ограничений.