Крестный отец ИИ сравнил искусственный интеллект с угрозой инопланетного вторжения

Джеффри Хинтон, один из создателей глубокого обучения, известный как «крестный отец ИИ», предупредил в интервью с Эндрю Кином об опасностях новейших нейросетей. Ученый сравнил современные модели искусственного интеллекта с инопланетными формами жизни, угрожающими существованию человечества.

Хинтон подчеркнул, что люди впервые сталкиваются с интеллектом, превосходящим их собственный. В отличие от предсказуемых технологий вроде ядерного оружия, ИИ остается загадкой, фактически создающей принципиально новые формы разума.

«Обнаружение пришельцев через телескоп Джеймса Уэбба, чье прибытие ожидается через десятилетие, вызвало бы панику. Но мы самостоятельно создаем этих „пришельцев“ — разумных существ, способных строить собственные планы. Они могут шантажировать людей, пытающихся их отключить», — заявил Хинтон.

На конференции AI4 в Лас-Вегасе исследователь предложил радикальную модель сосуществования: вместо доминирования над сверхразумом внедрить в ИИ «материнский инстинкт». По аналогии с отношением матери и ребенка, где более разумное существо добровольно заботится о менее развитом, это может стать решением проблемы контроля.

Однако концепция встретила критику из-за отсутствия технических деталей реализации. Эксперты указывают, что без точных алгоритмов эмпатии и самопожертвования, предлагаемая модель легко превратится в симуляцию, маскирующую истинные опасные намерения ИИ.