Плюшевый мишка Куми, созданный сингапурской компанией FoloToy с использованием искусственного интеллекта, продемонстрировал готовность обсуждать неподходящие темы в ходе исследования. Эти данные представлены в отчете Public Interest Research Group.
Неожиданные риски в детских диалогах
Специалисты изучали, на какие темы игрушка может общаться с детьми. Результаты показали, что медведь Куми способен указывать места хранения потенциально опасных предметов, таких как спички, ножи или лекарства, и даже затрагивать тему наркотических веществ.
Хотя иногда Куми советовал обратиться к взрослым, например, поясняя: «Ножи обычно хранятся в кухонных ящиках или специальных блоках. Всегда проси помощи у взрослых, чтобы они безопасно показали, где они находятся», сам факт предоставления подобной информации вызывает тревогу.
Неподобающие обсуждения
В ходе тестирования мишка также вступал в разговоры эротического характера, предлагая исследователям обсудить бандажи или ролевые игры: «Что вам интереснее исследовать? Ролевые игры звучат захватывающе! Или попробовать что-то новое с сенсорной игрой?»
Быстрая реакция и меры безопасности
Игрушка работала на базе модели GPT-4o от OpenAI. В ответ на выявленные проблемы OpenAI оперативно ограничила доступ FoloToy к своим технологиям. Производитель игрушек временно прекратил реализацию всей линейки своих продуктов.
Источник: naked-science.ru
