Осторожность с ИИ: Google DeepMind предупреждает об ошибках соцсетей

Генеральный директор Google DeepMind Демис Хассабис предупредил ИИ-компании о необходимости избегать ошибок, допущенных социальными сетями в начале их развития. Он подчеркнул, что искусственный интеллект — одна из самых значимых технологий в истории, требующая внимательного и взвешенного подхода к внедрению.

Хассабис вспомнил популярный девиз Кремниевой долины «Двигайся быстро и ломай вещи».

«Необходимо извлечь уроки из опыта социальных сетей, где этот принцип применялся без учета долгосрочных последствий», – отметил он.

По мнению Хассабиса, если разработчики ИИ будут ориентироваться исключительно на увеличение вовлеченности пользователей, как это делали создатели социальных сетей, это может привести к аналогичным проблемам – от снижения концентрации внимания до ухудшения психического здоровья.

Он пояснил, что алгоритмы соцсетей стремятся максимально привлечь внимание пользователей, не задумываясь о негативных последствиях. В случае с ИИ риски гораздо выше, поскольку его влияние затронет целые отрасли и общество в целом.

Глава DeepMind призвал применять научный подход к разработке ИИ, тщательно тестируя и изучая системы перед их широким внедрением. Он уверен, что ИИ должен быть инструментом, служащим людям, а не манипулирующим ими.

Хассабис заключил, что необходимо найти баланс между активным использованием возможностей и ответственным управлением рисками, и поддерживать этот баланс до появления общего искусственного интеллекта.

Ранее председатель совета директоров OpenAI Брет Тейлор заявил о наличии «пузыря» в сфере искусственного интеллекта, что, по его мнению, является нормальным явлением, сравнимым с «пузырем доткомов» конца 90-х.