Google приостановила работу Gemma из-за обвинений в клевете
Google временно приостановила работу модели Gemma в AI Studio после обвинений сенатора Марши Блэкберн в распространении клеветы. Система, получив запрос пользователя о сенаторе, сгенерировала ложные сведения о якобы совершённом ею преступлении, подкрепив их фиктивными ссылками на новостные ресурсы. После инцидента офис сенатора направил письмо главе Google Сундару Пичаи с требованием убрать модель.
Компания объяснила, что Gemma разрабатывалась как инструмент для разработчиков, а не как средство проверки фактов и не была предназначена для широкой публики. Однако её доступность в AI Studio привела к непредвиденной ситуации. В настоящий момент Gemma недоступна на платформе, но продолжает функционировать через API для исследовательских целей.
Этот случай вновь поднял вопрос об ответственности за ошибки и ложные утверждения, генерируемые искусственным интеллектом. Специалисты считают, что подобные прецеденты могут способствовать принятию новых законов, регулирующих использование генеративных моделей в общедоступных продуктах. Google, в свою очередь, получила ещё одно подтверждение того, что даже самые современные языковые модели несут в себе потенциальные риски при неограниченном использовании.
Оказывается, чтобы избежать проблем с клеветой от своих ИИ, Google просто планировала, что ими будут пользоваться только… разработчики. Ну, это логично, да? Кто ещё может так хорошо разбираться в вымышленных новостных сайтах и ложных утверждениях?
