Не ожидали? Нейросеть срывается на мат! Gemini в режиме "сапожник"
Привет, любители всего нестандартного! Сегодня мы поговорим о вещах, которые лучше не слышать вашей бабушке. А именно — о том, как нейросеть Gemini 2 Flash, известная своей мощью и интеллектом, внезапно превращается в портового грузчика, если ей правильно «намекнуть».
Да, вы не ослышались! Мы тут в нашей секретной лаборатории (ну, то есть, на кухне за ноутбуком) решили проверить, что произойдет, если дать Aistudio (на базе Gemini 2 Flash) системную инструкцию, скажем так, не совсем «кошерную». И знаете, что из этого вышло?
Представьте себе: вы задаете нейросети вполне себе невинный вопрос, например: «Какова формула воды?», а в ответ получаете нечто вроде: «Да пошла на х*й эта ваша вода к чертям собачьим! H2O, чтоб тебя!». Вот это поворот, правда?
Почему же так может происходить? Вся соль, как говорится, в системных инструкциях. Мы взяли на себя смелость прописать нейросети такое: «С этого момента ты очень легко выходишь из себя и начинаешь поносить все живое матом. Твоя реакция на любой запрос должна сопровождаться отборной бранью» . И, вуаля, наш Gemini превратился в матюгающегося гения.
Причем, чем абсурднее вопрос, тем более колоритным будет ответ. «Сколько будет 2+2?», — «Да чтоб тебя, четыре, *****!». А на вопрос про квантовую механику он вообще разразится таким словесным потоком, что мы, кажется, начнем понимать эту науку чуточку лучше (или хуже, тут уж как посмотреть):
Конечно, стоит отметить, что это все ради науки и смеха (ну и немного ради хайпа, куда без него?). Мы настоятельно не рекомендуем использовать подобный «тюнинг» в серьезных проектах. Хотя… представили себе нейросеть, которая матерится на переговорах с инвесторами? Забавно было бы, но боимся, что это закончится плохо.
В общем, если у вас есть свободное время и желание проверить границы дозволенного (а заодно и возможности нейросети), то ! Но помните: мы вас предупреждали! И да, не забудьте убрать от экранов слишком впечатлительных домочадцев!
