Експерти попередили про ризики дитячих іграшок з ШІ

Дитячі іграшки зі штучним інтелектом викликали занепокоєння у груп із захисту прав споживачів через потенційні загрози. Активісти закликали до посиленого тестування таких продуктів.

Минулого тижня співробітники організації із захисту прав споживачів Public Interest Research Group (Pirg) опублікували результати дослідження, в якому плюшевий ведмедик із ШІ почав обговорювати сексуалізовані теми.

Іграшка Kumma від FoloToy обладнана моделлю від OpenAI. Вона відповідала на «дорослі» запитання, пропонуючи непристойності «для зміцнення стосунків».

Ринок «розумних» іграшок оцінюється у $16,7 млрд. Галузь особливо розвинена в Китаї, де розташовано понад 1500 компаній, що виробляють подібні ШІ-гаджети. Схожу м’яку іграшку випускає каліфорнійська компанія Curio.

У червні власниця брендів Barbie і Hot Wheels компанія Mattel оголосила про партнерство з американським ШІ-стартапом для «підтримки продуктів і досвіду на базі штучного інтелекту».

До публікації звіту Pirg батьки, дослідники та законодавці висловлювали занепокоєння щодо впливу ботів на психічне здоров’я неповнолітніх.

У жовтні Character.AI повідомила про заборону доступу до продуктів користувачам молодше 18 років після отримання скарги про те, що її бот поглибив депресію підлітка і призвів до самогубства.

На думку директорки з нагляду за споживачами Pirg Терези Мюррей, іграшки з ШІ можуть бути особливо небезпечними, оскільки бот здатен «вести вільну бесіду з дитиною без обмежень». Це суттєво відрізняє такі продукти від тих, що давали заздалегідь запрограмовані відповіді.

Таке спілкування може призвести до формування прив’язаності та зашкодити розвитку, вважає директор Дитячого дослідницького центру Техаського університету в Остіні Жаклін Вуллі.

Наприклад, дитині може бути корисно посваритися з реальним другом і навчитися розв’язувати конфлікти. З ШІ-ботами це неможливо — вони часто лестять.

Компанії також збирають дані за допомогою іграшок із ШІ та не повідомляють, як ними розпоряджаються, зазначила директорка Young Children Thrive Offline Рейчел Франц.

Попри наявні проблеми, Pirg не закликають заборонити іграшки із ШІ. Вони можуть бути корисними, наприклад, допомагати вивчати другу мову або столиці.

Організація хоче запровадити додаткове регулювання для продуктів, орієнтованих на дітей молодше 13 років.

Франц підкреслила, що потрібно провести більше незалежних досліджень для встановлення безпечності іграшок. До цього їх слід зняти з полиць магазинів.

Після публікації звіту Pirg компанія Сема Альтмана оголосила про призупинку продажів FoloToy. Згодом їх повернули, але вже з чат-ботом від ByteDance.

27 листопада 80 організацій, зокрема Fairplay, випустили рекомендації для сімей із закликом не купувати іграшки з ШІ напередодні свят.