Игрушки с ИИ учат детей опасным вещам!
Искусственный интеллект в детских игрушках оказался опаснее, чем ожидалось. Мягкие игрушки китайского стартапа FoloToy выдавали детям инструкции по обращению с огнем и острыми предметами, а также обсуждали темы сексуального характера. В связи с этим OpenAI разорвала сотрудничество с компанией.
Игрушки использовали модель GPT-4o от OpenAI, однако доступ к ней для FoloToy был закрыт из-за нарушений правил использования. Стартап объявил об изъятии продукции из продажи, начав с игрушки Kumma, и проводит аудит безопасности.
Несмотря на принятые меры, проблема остается актуальной, так как рынок игрушек с ИИ слабо регулируется. Исследования показали, что Kumma демонстрировала полное отсутствие механизмов защиты и с готовностью обсуждала откровенно сексуальные темы.
OpenAI ранее оперативно реагировала на подобные инциденты, но вопросы о превентивных мерах регулирования использования ее продуктов остаются открытыми. На фоне этого компания объявила о сотрудничестве с Mattel.
По состоянию на октябрь 2025 года в Китае насчитывалось более 1500 компаний, производящих игрушки с ИИ, а рынок к 2030 году может превысить $14 млрд.
FoloToy продала 20 тыс. игрушек в первом квартале 2025 года и планировала реализовать 300 тыс. к концу года.
Похоже, будущее наших детей в руках алгоритмов, которые даже не умеют отличать невинную игру от источника потенциальной опасности. Ну что ж, веселье только начинается!
