DeepMind ужесточила правила безопасности для ИИ
Google DeepMind обновила правила безопасности для передовых ИИ-моделей (FSF), введя более строгие ограничения для предотвращения потенциального вреда. Обновление основано на предыдущих версиях и экспертных консультациях.
Ключевым нововведением стал отдельный порог для защиты от «вредной манипуляции» – систематического и существенного влияния ИИ на убеждения и поведение людей.
Компанией были уточнены критерии критических возможностей, включая правила, направленные на предотвращение ситуаций, когда ИИ мешает управлению системой или ускоряет исследования с негативными последствиями.
FSF теперь обязывает DeepMind проводить обязательную проверку перед каждым выпуском ИИ. Обнаружение «опасных» возможностей влечет за собой отсрочку релиза, даже для внутренних команд. DeepMind планирует дальнейшее ужесточение мер безопасности по мере развития AGI.
Ну что ж, похоже, скоро ИИ будут проверять на профпригодность не только на возможность решить сложную задачу, но и на то, не захочет ли он внезапно убедить нас, что дважды два – пять.
