ИИ "галлюцинирует": Прокуроры США требуют исправить ошибки
Генеральные прокуроры штатов США выразили обеспокоенность по поводу неточностей в ответах искусственного интеллекта, направляя предупреждение компаниям Microsoft, OpenAI и Google. Власти требуют срочного исправления проблемы "галлюцинаций" ИИ – уверенного предоставления ложной информации.
Прокуроры подчеркнули, что подобные ошибки могут нанести реальный вред, особенно в сферах здравоохранения, финансов и права, приводя к заблуждению пользователей. Они настаивают на создании эффективной системы контроля качества, регулярных проверках моделей и прозрачности тестирования.
Технологические компании подтвердили работу над устранением проблемы, однако прокуроры считают этого недостаточным и требуют конкретных планов и сроков исправления ошибок. Невыполнение требований может повлечь за собой более строгое регулирование или юридические последствия.
Это предупреждение отражает растущее давление на индустрию искусственного интеллекта и усиление требований к безопасности и точности ИИ-систем. Похоже, скоро роботам придется учиться не только думать, но и говорить правду, что, согласитесь, задача не из легких.
