ИИ получит право на самообучение к 2030 году?

К 2030 году человечеству предстоит сделать один из самых важных технологических выборов: разрешить искусственному интеллекту (ИИ) самостоятельно обучаться и совершенствоваться. Такое мнение высказал Джаред Каплан, сооснователь и главный научный сотрудник Anthropic, ключевой разработчик законов масштабирования, лежащих в основе GPT-3 и последующих моделей. В интервью The Guardian он назвал это решение "наиболее важным" и связанным с "максимальным риском" в эпоху развития ИИ.

По прогнозам Каплана, ИИ, способный выполнять большинство офисных задач на уровне человека, появится уже в ближайшие 2-3 года. Это откроет путь к рекурсивному самоулучшению, когда система будет создавать более мощные версии себя, что приведет к экспоненциальному росту интеллекта. Сегодня ИИ уже используется для обучения других ИИ, но человек остается в процессе, контролируя архитектуру, проверяя результаты и устанавливая ограничения. Главный вопрос – когда предоставить ИИ полную автономию.

"Представьте себе ситуацию, когда ИИ, превосходящий вас по интеллекту, создает еще более умный ИИ, который затем использует для создания еще более мощной системы. Это выглядит пугающе, ведь невозможно предсказать, где будет достигнут предел", – описывает Каплан потенциальный сценарий, который может реализоваться к концу десятилетия.

Эта дилемма не ограничивается простым выбором между прогрессом и безопасностью. С одной стороны, существует огромный потенциал для ускорения научных открытий в медицине, физике и материаловедении. В Anthropic использование ИИ для написания кода уже удвоило производительность программистов. С другой стороны, существует риск потери контроля и прозрачности: если сейчас сложно понять логику принятия решений ИИ, то в случае автономного многошагового цикла эта проблема станет непреодолимой. Каплан подчеркивает: разрешение на самоулучшение может привести к потере контроля, а запрет – к отставанию в технологической гонке, что затронет не только отдельные компании, но и все человечество.

При этом Каплан не считает себя предвестником апокалипсиса. Он верит в позитивный потенциал ИИ, но настаивает на необходимости заранее обсудить самые сложные и рискованные сценарии. Это отражает эволюцию его взглядов: тот же человек, который ранее поддерживал идею использования ИИ для контроля над другими ИИ, теперь признает наличие предела у этой стратегии и наступление зоны неопределенности.